How to regulate the design and usage of artificial intelligence in the public administration.

How to regulate the design and usage of artificial intelligence in the public administration

Authors

  • Raphael Lobato Collet Janny Teixeira Universidade Federal Fluminense - UFF https://orcid.org/0009-0004-8969-1158
  • André Saddy Universidade Federal Fluminense – UFF

DOI:

https://doi.org/10.47975/digital.law.vol.4.n.2.saddy

Keywords:

Regulation, Artificial Intelligence, Public Administration, Ethics

Abstract

Abstract: This article will address the “how” to carry out ethical-legal regulation of Artificial Intelligence (AI) within the internal scope of the Public Administration. Despite the numerous benefits and potentialities provided by the adoption of AI, such as gains in economy, efficiency, innovation, sustainability, and control of state activity, ethical-legal problems and questions arise at the same time, such as risks related to algorithmic dictatorship to the detriment of privacy and informational self-determination; opaque AI algorithms (black box) and algorithmic biases, which are still not properly resolved or addressed by the current legal system. Therefore, the different regulatory models currently under discussion in Brazil and around the world will be studied, culminating in the defense of public self-regulation to be carried out by the different organs and entities of the Public Administration, in addition to the occurrence of heteroregulation or of a regulated self-regulation. Bibliographic research was carried out, especially resorting to the content contained in the report prepared by the commission of jurists instituted by the Senate for the elaboration of a Bill on AI.

Downloads

Download data is not yet available.

Metrics

Metrics Loading ...

Author Biographies

Raphael Lobato Collet Janny Teixeira, Universidade Federal Fluminense - UFF

Mestre em Direito Constitucional da Universidade Federal Fluminense - UFF (Niterói, RJ, Brasil). Pós-graduado (latu sensu) em propriedade industrial pela Universidade do Estado do Rio de Janeiro (UERJ). MBA em gestão na Fundação Dom  Cabral (FDC). Bacharel em direito pela Universidade Presbiteriana Mackenzie (São Paulo). Advogado Master da Petróleo Brasileiro S/A (Petrobras), especializado em Direito Digital,  Proteção de Dados e Novas Tecnologias.

André Saddy, Universidade Federal Fluminense – UFF

Pós-Doutor pelo Centre for Socio-Legal Studies da Faculty of Law da University of Oxford Doutor Europeu em “Problemas actuales de Derecho Administrativo” pela Facultad de Derecho da Universidad Complutense de Madrid, com apoio da Becas Complutense Predoctorales en España Mestre em Administração Pública pela Faculdade de Direito da Universidade de Lisboa, com apoio do Programa Alßan, Programa de Bolsas de Alto Nível da União Europeia para América Latina Pós-graduado em Regulação Pública e Concorrência pelo Centro de Estudos de Direito Público e Regulação (CEDIPRE) da Faculdade de Direito da Universidade de Coimbra. Professor de direito administrativo da Faculdade de Direito, do Mestrado em Direito Constitucional e do Doutorado em Direitos, Instituições e Negócios da Universidade Federal Fluminense (UFF). Professor de direito administrativo do Departamento de Direito da Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio). Diretor de Normatização do Instituto Brasileiro de Direito Administrativo (IBDA). Vice-Presidente do Instituto de Direito Administrativo do Rio de Janeiro (IDARJ). Diretor- Presidente do Centro de Estudos Empírico Jurídico (CEEJ). Idealizador e Coordenador do Grupo de Pesquisa, Ensino e Extensão em Direito Administrativo Contemporâneo (GDAC). Sócio fundador do escritório Saddy Advogados. Consultor e parecerista

References

AGÊNCIA SENADO. Para especialistas, PL sobre Inteligência Artificial precisa de mais debates. Senado Notícias, 9 dez. 2021. Disponível em: https://www12.senado.leg.br/noticias/materias/2021/07/16/para-especialistas-pl-sobre-inteligencia-artificial-precisa-de-mais-debates. Acesso em: 9 mai. 2023.

AGÊNCIA SENADO. Brasil poderá ter marco regulatório para a inteligência artificial. Senado Notícias, 30 out. 2022. Disponível em: https://www12.senado.leg.br/noticias/materias/2022/03/30/brasil-podera-ter-marco-regulatorio-para-a-inteligencia-artificial. Acesso em: 30 jun. 2023.

BAPTISTA, Patrícia; KELLER, Clara Iglesias. Por que, quando e até onde regular as novas tecnologias? Entre inovação e preservação, os desafios trazidos pelas inovações disruptivas. In: FREITAS, Rafael Véras de; RIBEIRO, Leonardo Coelho; FEIGELSON, Bruno (Coord). Regulação e Novas Tecnologias. Belo Horizonte: Fórum, 2017.

BRANDÃO, Antônio José. Moralidade administrativa. Revista de Direito Administrativo, Rio de Janeiro, v. 25, p. 454–467, jul., 1951.

BRASIL. Supremo Tribunal Federal. RE 570.392, Rel.: Min. Cármen Lúcia, Julg.: 11-12-2014, Plenário, DJE de 19-2-2015, Tema 29.

BRASIL. Supremo Tribunal Federal. RE 579.951, Rel.: Min. Ricardo Lewandowski, Julg.: 23.10.2008, Plenário, DJE de 24-10-2008.

CÂMARA DO DEPUTADOS. PL 21/2020, 29 set. 2021. Disponível em: https://www.camara.leg.br/propostas-legislativas/2236340. Acesso em: 23 mar. 2023.

CANOTILHO, José Joaquim Gomes. Direito Constitucional e Teoria da Constituição. 7. ed. Coimbra: Almedina, 2003.

CARVALHO FILHO, José dos Santos. A discricionariedade: análise do seu delineamento jurídico. In: GARCIA, Emerson. Discricionariedade Administrativa. Rio de Janeiro: Lumen Juris, 2005.

CICERO, Marcus Tullius. De Officiis. Transl. Walter Miller. Cambridge, MA: Harvard University Press, 1913.

CJSUBIA. Comissão de Juristas Responsável por Subsidiar Elaboração de Substitutivo sobre Inteligência Artificial no Brasil. Relatório Final: Comissão de Juristas instituída pelo Ato do Presidente do Senado nº 4, de 2022, destinada a subsidiar a elaboração de minuta de substitutivo para instruir a apreciação dos Projetos de Lei nºs 5.051, de 2019, 21, de 2020, e 872, de 2021, que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil. Brasília, 2002. Disponível em: <https://legis.senado.leg.br/sdleg-getter/documento/download/777129a2-e659-4053-bf2e-e4b53edc3a04>. Acesso em: 8 mar. 2023.

CORNELIS, Disco; BAREND, Van der Meulen. Getting New Technologies Together: Studies in Making Sociotechnical Order. New York: Walter de Gruyter, 1998. pp. 206–207.

DIAS, Rodrigo Garrido. Regulação estatal, autorregulação privada e novas tecnologias disruptivas. In: SADDY, André; CHAUVET, Rodrigo da Fonseca; SILVA, Priscilla Menezes da. Aspectos jurídicos das novas tecnologias (inovações) disruptivas. 2. ed. Rio de Janeiro: CEEJ, 2020.

DONEDA, Danilo Cesar Maganhoto; SOUZA, Carlos Affonso Pereira de Souza et al. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar, Fortaleza, v. 23, n. 4, p. 1-17, dez, 2018.

European Digital Rights. An EU Artificial Intelligence Act for Fundamental Rights: A Civil Society Statement, 30 nov. 2021. Disponível em: https://edri.org/wp-content/uploads/2021/11/Political-statement-on-AI-Act.pdf. Acesso em: 5 jan. 2023.

FERRAZ, Anna Cândida da Cunha. Processos Informais de Mudança da Constituição: Mutações Constitucionais e Mutações Inconstitucionais. São Paulo: Max Limonad, 1986.

FRAYER, Janis Mackey. A Look Inside China’s Social Credit System. NBC News, 2018. Disponível em: https://www.youtube.com/watch?v=0cGB8dCDf3c. Acesso em: 30 jun. 2023.

GATES, Dominic. «Flawed analysis, failed oversight: How Boeing and FAA certified the suspect 737 MAX flight control system». The Seattle Times. Disponível em: https://www.seattletimes.com/business/boeing-aerospace/failed-certification-faa-missed-safety-issues-in-the-737-max-system-implicated-in-the-lion-air-crash/ Acesso em: 9 jan. 2022

HAURIOU, Maurice. Précis Elémentaire de Droit Administraof. 10. ed. Paris: [S. n.].

HESSE, Konrad. A Força Normativa da Constituição. Tradutor: Gilmar Ferreira Mendes. Porto Alegre: SAFE, 1991.

HOFFMANN-RIEM, Wolfgang. Inteligência Artificial Como Oportunidade para a Regulação Jurídica. Direito Público, Porto Alegre, v. 16, n. 90, p. 11-38, nov-dez, 2019.

KANTAYYA, Shalini. CODED Bias. Netflix, 2020.

KELSEN, Hans. Teoria pura do direito. João Baptista Machado. 6. ed. São Paulo: Martins Fontes, 1998., Prefácio à primeira edição

LACHARRIÈRE, René Ladreit de. Le Controle hierarchique de l'administration dans la forme juridictionnelle. [S. l.]: Sirey, 1937.

Núcleo de Informação e Coordenação do Ponto BR. Comitê Gestor da Internet no Brasil. Pesquisa sobre o uso das tecnologias de informação e comunicação no setor público brasileiro: TIC Governo Eletrônico 2022. São Paulo, SP, 2022. Disponível em: https://cetic.br/media/docs/publicacoes/2/20220725170710/tic_governo_eletronico_2021_livro_eletronico.pdf. Acesso em: 01 jul. 2023.

OCDE. A Caminho da Era Digital no Brasil. Paris: OCDE publishing, 2020. Disponível em: http://www.oecd.org/publications/a-caminho-da-era-digital-no-brasil-45a84b29-pt.htm. Acesso em: 01 jul. 2023.

ORLOWSKI, Jeff. O Dilema das Redes. Netflix, 2020.

RACCA, Gabriela M.; PERIN, Roberto Cavallo. Corrupção como quebra da confiança na administração pública e violação aos direitos fundamentais. RCJ – Revista Culturas Jurídicas, Niterói, v. 2, n. 3, p. 100- 123, setembro, 2015.

SADDY, André. Apreciatividade e discricionariedade administrativa. 2. ed. Rio de Janeiro: CEEJ, 2020.

_____________. Curso de direito administrativo brasileiro. 2. ed. Rio de Janeiro: CEEJ, 2023, v. 1.

_____________. Curso de direito administrativo brasileiro. 2. ed. Rio de Janeiro: CEEJ, 2023, v. 2.

_____________. Regulação estatal, autorregulação privada e códigos de conduta e boas práticas. 2. ed. Rio de Janeiro: CEEJ, 2020.

_____________.; GALIL, João Victor Tavares. O processo de tomada de decisão administrativa e o uso da inteligência artificial. In: SADDY, André et al. Inteligência Artificial e Direito Administrativo. Rio de Janeiro: Centro para Estudos Empírico-Jurídicos (CEEJ), 2022.

SOUSA, Antônio Francisco de. Os “conceitos legais indeterminados” no direito administrativo alemão. Revista de Direito Administrativo, Rio de Janeiro, v. 166, p. 276-291, fev. 1986.

VIECHNICK, Peter; D. EGGERS, William. How much time and money can AI save government? Cognitive technologies could free up hundreds of millions of public sector worker hours. Deloitte University Press, 2017. Disponível em: https://www2.deloitte.com/content/dam/insights/us/articles/3834_How-much-time-and-money-can-AI-save-government/DUP_How-much-time-and-money-can-AI-save-government.pdf. Acesso em: 01 jul. 2023.

WAKKA, Wagner. Brasileiro integra Comitê de Supervisão de Liberdade no Facebook. Canaltech, 7 maio 2020. Disponível em: https://canaltech.com.br/redes-sociais/brasileiro-integra-comite-de-supervisao-de-liberdade-no-facebook-164485/. Acesso em: 20 mai. 2023

Downloads

Published

2024-01-15

Issue

Vol. 4 No. 2 (2023): May/August

Section

Articles

Categories

License

Copyright (c) 2024 International Journal of Digital Law

Creative Commons License

This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.

This journal is licensed by
Creative Commons Attribution-NonCommercial-4.0 International.
Attribution-ShareAlike 4.0 International (CC BY-NC 4.0)
Submission and publication of paper are free; Works evaluated by blind double review; the Journal uses S_cites and CrossCheck (anti-plagiarism); and complies with the COPE Editors Guide - Committee on Publication Ethics, in addition to the Elsevier and SciELO recommendations.