La fusión transformadora entre el sector público y la inteligencia artificial: el “test de evaluación de impacto” como prioridad
The transformative fusion between the public sector and artificial intelligence: the “impact evaluation test” as a priority
DOI:
https://doi.org/10.47975/digital.law.%20vol.4.n.3.vestriPalavras-chave:
inteligencia artificial, test de evaluación, estrategia de actuación, ética, empleado público, datos robustos, resiliencia digitalResumo
Este trabajo se centra en uno de los temas más actuales que involucra al sector público: la implementación y aplicación de sistemas de inteligencia artificial en la estructura de las organizaciones públicas multinivel. Cualquier entidad pública que haya introducido inteligencia artificial o que comprenda la necesidad de hacerlo deberá construir una estrategia que considere diversos criterios y aspectos derivados de esta tecnología disruptiva. En este sentido, resulta interesante dotar a las organizaciones públicas de un sistema intuitivo que les permita evaluar el alcance y los desafíos asociados con la implementación de la inteligencia artificial. En este estudio, proponemos el uso de lo que hemos denominado “Test de evaluación de impacto de la inteligencia artificial” (TEI-Ai), un test cuya arquitectura ayuda a responder preguntas específicas. Es importante señalar que el test en sí mismo es esquemático, por lo que es necesario advertir que debe ser analizado con el correspondiente esclarecimiento y profundización de los distintos ítems que abarca.
Downloads
Métricas
Referências
AYUNTAMIENTO DE BARCELONA. Definició de metodologies de treball i protocols per a la implementació de sistemes algorítmics, 2023. Disponible en: <https://ajuntament.barcelona.cat/digital/es/hagamos-accesible-la-tecnologia/uso-etico-inteligencia-artificial/uso-etico-de-la-inteligencia-1>. Acceso el: 19 de febrero de 2024.
BENÍTEZ PALMA, Enrique. Auditores de algoritmos. Auditoría pública. Revista de los órganos autonómicos de control externo, 202, pp. 33-45.
BOET SERRANO, Paula; DONALDSON CARBÓN, Michael. Datos, inteligencia artificial y servicios públicos: la apuesta del Ayuntamiento de Barcelona por la transparencia algorítmica y la protección de los derechos de la ciudadanía. COTINO HUESO, Lorenzo; CLARAMUNT CASTELLANOS, Jorge (Editores). Algoritmos abiertos y que no discriminen en el sector público. Tirant lo Blanch, 2023, pp. 115-135.
CAMPOS ACUÑA, Concepción. Inteligencia artificial en la gestión pública: ¿de las tres leyes de Asimov a la anarquía desreguladora? En VESTRI, Gabriele (Director). La disrupción tecnológica en la Administración pública. Retos y desafíos de la inteligencia artificial, Thomson Reuters-Aranzadi, 2022, p. 34.
CAMPOS ACUÑA, Concepción El futuro del empleo público local: retos ante un mundo digital. Documentación Administrativa, núm. 7, enero-diciembre, 2020 p.139. DOI: https://doi.org/10.24965/da.i7.10894.
COTINO HUESO, Lorenzo. Transparencia y explicabilidad de la inteligencia artificial y “compañía” (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta. Cotino Hueso, Lorenzo, Claramunt Castellanos, Jorge (Coordinadores). “Transparencia y explicabilidad de la inteligencia artificial”. Tirant lo Blanch, 2022, pp. 25-70.
CRIADO, José Ignacio. Inteligencia Artificial (y Administración Pública). Eunomía. Revista en Cultura de la Legalidad, vol. 20, 2021, pp. 366-377. 72. DOI: https://doi.org/10.20318/eunomia.2.
FLORIDI, Luciano. Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide. Rafaello Cortina Editore, 2022, p.143
FLORIDI, Luciano; TADDEO, Mariarosaria. What is data ethics? Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, Vol. 374, núm. 2083, 2016. DOI https://doi.org/10.1098/rsta.2016.0360.
GALINDO CALDÉS, Ramón. Big Data e inteligencia artificial en la gestión de los recursos humanos del sector público, Revista Catalana de Dret Públic, núm. 58, 2019, p. 52. DOI: https://doi.org/10.2436/rcdp.i58.2019.3276 2019.
JIMÉNEZ ASENCIO, Rafael, El futuro de los juristas en la administración pública en blog La mirada institucional. Disponible en: <https://rafaeljimenezasensio.com/2019/03/24/el-futuro-de-los-juristas-en-la-administracion-publica>. Acceso el: 20 de enero de 2020.
MENDILIBAR NAVARRO, Patricia. Redefinición de las competencias de los empleados y empleadas públicas ante el uso de la Inteligencia Artificial por la Administración Pública. Documentación Administrativa núm. 10, junio, 2023, p. 82. DOI: https://doi.org/10.24965/da.11205.
PRESNO LINERA, Miguel Ángel. Derechos fundamentales e inteligencia artificial, Marcial Pons, 2023, pp. 1-144.
RAMIÓ, Carles. Burocracia inteligente. Guía para transformar la Administración pública. Catarata, 2022, p. 150.
SADDY, André; LOBATO COLLET JANNY, TEIXEIRA, Raphael. Como regulamentar o design e uso da inteligência artificial na administração pública. International Journal of Digital Law, Belo Horizonte, ano 4, n. 2, mai./ago. 2023. p. 9-34. DOI 10.47975/digital.law.vol.4.n.2.saddy
SALAZAR GARCÍA, Idoia. Privacidad e inteligencia artificial: ¿es posible su convivencia? en Arellano Toledo, W. (Directora). Derecho, Ética e Inteligencia Artificial. Tirant lo Blanch, 2023, p. 181.
SIMÓN CASTELLANOS, Pere. Las evaluaciones de impacto algorítmico en los Derechos Fundamentales: hacía una efectiva minimización de sesgos. Cotino Hueso, Lorenzo Claramunt Castellanos, Jorge (Editores). Algoritmos abiertos y que no discriminen en el sector público. Tirant lo Blanch, 2023, pp. 27-56.
SIMONCINI, Andrea; SUWEIS, Samir. Il cambio di paradigma nell’intelligenza artificiale e il suo impatto sul diritto costituzionale. Rivista di filosofia del diritto, núm. 1, 2019.
VESTRI, Gabriele. ¿La regulación protege de la penumbra de la IA? En La Vanguardia. Disponible en: <https://www.lavanguardia.com/participacion/red-lectores/20231229/9480239/regulacion-protege-penumbra-ia.html>. Acceso el: 29 de diciembre de 2023.
VESTRI, Gabriele. La inteligencia artificial ante al desafío de la transparencia algorítmica. Una aproximación desde la perspectiva jurídico-administrativa. Revista Aragonesa de Administración pública, núm. 56, 2021, pp. 368-398.
VESTRI, Gabriele, Gabriele (Director); CASTILLA BAREA, Margarita (Coordinadora). Diccionario de términos para comprender la transformación digital. Aranzadi, 2023, p. 365.
Downloads
Publicado
Licença
Copyright (c) 2024 Gabriele Vestri
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Autores que publicam nesta revista concordam com os seguintes termos:
- Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons - Atribuição 4.0 Internacional que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).
