Como regulamentar o design e uso da inteligência artificial na administração pública

How to regulate the design and usage of artificial intelligence in the public administration

Autores

  • Raphael Lobato Collet Janny Teixeira Universidade Federal Fluminense - UFF https://orcid.org/0009-0004-8969-1158
  • André Saddy Universidade Federal Fluminense – UFF

DOI:

https://doi.org/10.47975/digital.law.vol.4.n.2.saddy

Palavras-chave:

regulação;, Inteligência Artificial, Administração Pública, Ética

Resumo

O presente artigo tratará do “como” realizar a regulação e regulamentação ético-jurídica da Inteligência Artificial (IA) no âmbito interno da Administração Pública. Em que pese os inúmeros benefícios e potencialidades proporcionadas pela adoção de IA, com ganhos em economicidade, eficiência, inovação, sustentabilidade e controle da atividade estatal, exsurgem, ao mesmo tempo, problemas e questionamentos ético-jurídicos, tais como riscos relacionados à ditadura algorítmica em prejuízo da privacidade e autodeterminação informacional; algoritmos opacos de IA (black box) e vieses algorítmicos, questões essas ainda não devidamente resolvidas ou tratadas pelo ordenamento jurídico vigente. Serão, assim, estudados os diferentes modelos regulatórios atualmente em discussão no Brasil e mundo, culminando com a defesa à autorregulação pública a ser levada a efeito pelos diferentes órgãos e entidades da Administração Pública, sem prejuízo da superveniência de uma heterorregulação ou de uma autorregulação regulada. Empreendeu-se uma pesquisa bibliográfica, recorrendo especialmente ao conteúdo constante no relatório elaborado pela comissão de juristas instituída pelo Senado para elaboração de um Projeto de Lei (PL) sobre IA.

Downloads

Não há dados estatísticos.

Métricas

Carregando Métricas ...

Biografia do Autor

Raphael Lobato Collet Janny Teixeira, Universidade Federal Fluminense - UFF

Mestre em Direito Constitucional da Universidade Federal Fluminense - UFF (Niterói, RJ, Brasil). Pós-graduado (latu sensu) em propriedade industrial pela Universidade do Estado do Rio de Janeiro (UERJ). MBA em gestão na Fundação Dom  Cabral (FDC). Bacharel em direito pela Universidade Presbiteriana Mackenzie (São Paulo). Advogado Master da Petróleo Brasileiro S/A (Petrobras), especializado em Direito Digital,  Proteção de Dados e Novas Tecnologias.

André Saddy, Universidade Federal Fluminense – UFF

Pós-Doutor pelo Centre for Socio-Legal Studies da Faculty of Law da University of Oxford Doutor Europeu em “Problemas actuales de Derecho Administrativo” pela Facultad de Derecho da Universidad Complutense de Madrid, com apoio da Becas Complutense Predoctorales en España Mestre em Administração Pública pela Faculdade de Direito da Universidade de Lisboa, com apoio do Programa Alßan, Programa de Bolsas de Alto Nível da União Europeia para América Latina Pós-graduado em Regulação Pública e Concorrência pelo Centro de Estudos de Direito Público e Regulação (CEDIPRE) da Faculdade de Direito da Universidade de Coimbra. Professor de direito administrativo da Faculdade de Direito, do Mestrado em Direito Constitucional e do Doutorado em Direitos, Instituições e Negócios da Universidade Federal Fluminense (UFF). Professor de direito administrativo do Departamento de Direito da Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio). Diretor de Normatização do Instituto Brasileiro de Direito Administrativo (IBDA). Vice-Presidente do Instituto de Direito Administrativo do Rio de Janeiro (IDARJ). Diretor- Presidente do Centro de Estudos Empírico Jurídico (CEEJ). Idealizador e Coordenador do Grupo de Pesquisa, Ensino e Extensão em Direito Administrativo Contemporâneo (GDAC). Sócio fundador do escritório Saddy Advogados. Consultor e parecerista

Referências

AGÊNCIA SENADO. Para especialistas, PL sobre Inteligência Artificial precisa de mais debates. Senado Notícias, 9 dez. 2021. Disponível em: https://www12.senado.leg.br/noticias/materias/2021/07/16/para-especialistas-pl-sobre-inteligencia-artificial-precisa-de-mais-debates. Acesso em: 9 mai. 2023.

AGÊNCIA SENADO. Brasil poderá ter marco regulatório para a inteligência artificial. Senado Notícias, 30 out. 2022. Disponível em: https://www12.senado.leg.br/noticias/materias/2022/03/30/brasil-podera-ter-marco-regulatorio-para-a-inteligencia-artificial. Acesso em: 30 jun. 2023.

BAPTISTA, Patrícia; KELLER, Clara Iglesias. Por que, quando e até onde regular as novas tecnologias? Entre inovação e preservação, os desafios trazidos pelas inovações disruptivas. In: FREITAS, Rafael Véras de; RIBEIRO, Leonardo Coelho; FEIGELSON, Bruno (Coord). Regulação e Novas Tecnologias. Belo Horizonte: Fórum, 2017.

BRANDÃO, Antônio José. Moralidade administrativa. Revista de Direito Administrativo, Rio de Janeiro, v. 25, p. 454–467, jul., 1951.

BRASIL. Supremo Tribunal Federal. RE 570.392, Rel.: Min. Cármen Lúcia, Julg.: 11-12-2014, Plenário, DJE de 19-2-2015, Tema 29.

BRASIL. Supremo Tribunal Federal. RE 579.951, Rel.: Min. Ricardo Lewandowski, Julg.: 23.10.2008, Plenário, DJE de 24-10-2008.

CÂMARA DO DEPUTADOS. PL 21/2020, 29 set. 2021. Disponível em: https://www.camara.leg.br/propostas-legislativas/2236340. Acesso em: 23 mar. 2023.

CANOTILHO, José Joaquim Gomes. Direito Constitucional e Teoria da Constituição. 7. ed. Coimbra: Almedina, 2003.

CARVALHO FILHO, José dos Santos. A discricionariedade: análise do seu delineamento jurídico. In: GARCIA, Emerson. Discricionariedade Administrativa. Rio de Janeiro: Lumen Juris, 2005.

CICERO, Marcus Tullius. De Officiis. Transl. Walter Miller. Cambridge, MA: Harvard University Press, 1913.

CJSUBIA. Comissão de Juristas Responsável por Subsidiar Elaboração de Substitutivo sobre Inteligência Artificial no Brasil. Relatório Final: Comissão de Juristas instituída pelo Ato do Presidente do Senado nº 4, de 2022, destinada a subsidiar a elaboração de minuta de substitutivo para instruir a apreciação dos Projetos de Lei nºs 5.051, de 2019, 21, de 2020, e 872, de 2021, que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil. Brasília, 2002. Disponível em: <https://legis.senado.leg.br/sdleg-getter/documento/download/777129a2-e659-4053-bf2e-e4b53edc3a04>. Acesso em: 8 mar. 2023.

CORNELIS, Disco; BAREND, Van der Meulen. Getting New Technologies Together: Studies in Making Sociotechnical Order. New York: Walter de Gruyter, 1998. pp. 206–207.

DIAS, Rodrigo Garrido. Regulação estatal, autorregulação privada e novas tecnologias disruptivas. In: SADDY, André; CHAUVET, Rodrigo da Fonseca; SILVA, Priscilla Menezes da. Aspectos jurídicos das novas tecnologias (inovações) disruptivas. 2. ed. Rio de Janeiro: CEEJ, 2020.

DONEDA, Danilo Cesar Maganhoto; SOUZA, Carlos Affonso Pereira de Souza et al. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar, Fortaleza, v. 23, n. 4, p. 1-17, dez, 2018.

European Digital Rights. An EU Artificial Intelligence Act for Fundamental Rights: A Civil Society Statement, 30 nov. 2021. Disponível em: https://edri.org/wp-content/uploads/2021/11/Political-statement-on-AI-Act.pdf. Acesso em: 5 jan. 2023.

FERRAZ, Anna Cândida da Cunha. Processos Informais de Mudança da Constituição: Mutações Constitucionais e Mutações Inconstitucionais. São Paulo: Max Limonad, 1986.

FRAYER, Janis Mackey. A Look Inside China’s Social Credit System. NBC News, 2018. Disponível em: https://www.youtube.com/watch?v=0cGB8dCDf3c. Acesso em: 30 jun. 2023.

GATES, Dominic. «Flawed analysis, failed oversight: How Boeing and FAA certified the suspect 737 MAX flight control system». The Seattle Times. Disponível em: https://www.seattletimes.com/business/boeing-aerospace/failed-certification-faa-missed-safety-issues-in-the-737-max-system-implicated-in-the-lion-air-crash/ Acesso em: 9 jan. 2022

HAURIOU, Maurice. Précis Elémentaire de Droit Administraof. 10. ed. Paris: [S. n.].

HESSE, Konrad. A Força Normativa da Constituição. Tradutor: Gilmar Ferreira Mendes. Porto Alegre: SAFE, 1991.

HOFFMANN-RIEM, Wolfgang. Inteligência Artificial Como Oportunidade para a Regulação Jurídica. Direito Público, Porto Alegre, v. 16, n. 90, p. 11-38, nov-dez, 2019.

KANTAYYA, Shalini. CODED Bias. Netflix, 2020.

KELSEN, Hans. Teoria pura do direito. João Baptista Machado. 6. ed. São Paulo: Martins Fontes, 1998., Prefácio à primeira edição

LACHARRIÈRE, René Ladreit de. Le Controle hierarchique de l'administration dans la forme juridictionnelle. [S. l.]: Sirey, 1937.

Núcleo de Informação e Coordenação do Ponto BR. Comitê Gestor da Internet no Brasil. Pesquisa sobre o uso das tecnologias de informação e comunicação no setor público brasileiro: TIC Governo Eletrônico 2022. São Paulo, SP, 2022. Disponível em: https://cetic.br/media/docs/publicacoes/2/20220725170710/tic_governo_eletronico_2021_livro_eletronico.pdf. Acesso em: 01 jul. 2023.

OCDE. A Caminho da Era Digital no Brasil. Paris: OCDE publishing, 2020. Disponível em: http://www.oecd.org/publications/a-caminho-da-era-digital-no-brasil-45a84b29-pt.htm. Acesso em: 01 jul. 2023.

ORLOWSKI, Jeff. O Dilema das Redes. Netflix, 2020.

RACCA, Gabriela M.; PERIN, Roberto Cavallo. Corrupção como quebra da confiança na administração pública e violação aos direitos fundamentais. RCJ – Revista Culturas Jurídicas, Niterói, v. 2, n. 3, p. 100- 123, setembro, 2015.

SADDY, André. Apreciatividade e discricionariedade administrativa. 2. ed. Rio de Janeiro: CEEJ, 2020.

_____________. Curso de direito administrativo brasileiro. 2. ed. Rio de Janeiro: CEEJ, 2023, v. 1.

_____________. Curso de direito administrativo brasileiro. 2. ed. Rio de Janeiro: CEEJ, 2023, v. 2.

_____________. Regulação estatal, autorregulação privada e códigos de conduta e boas práticas. 2. ed. Rio de Janeiro: CEEJ, 2020.

_____________.; GALIL, João Victor Tavares. O processo de tomada de decisão administrativa e o uso da inteligência artificial. In: SADDY, André et al. Inteligência Artificial e Direito Administrativo. Rio de Janeiro: Centro para Estudos Empírico-Jurídicos (CEEJ), 2022.

SOUSA, Antônio Francisco de. Os “conceitos legais indeterminados” no direito administrativo alemão. Revista de Direito Administrativo, Rio de Janeiro, v. 166, p. 276-291, fev. 1986.

VIECHNICK, Peter; D. EGGERS, William. How much time and money can AI save government? Cognitive technologies could free up hundreds of millions of public sector worker hours. Deloitte University Press, 2017. Disponível em: https://www2.deloitte.com/content/dam/insights/us/articles/3834_How-much-time-and-money-can-AI-save-government/DUP_How-much-time-and-money-can-AI-save-government.pdf. Acesso em: 01 jul. 2023.

WAKKA, Wagner. Brasileiro integra Comitê de Supervisão de Liberdade no Facebook. Canaltech, 7 maio 2020. Disponível em: https://canaltech.com.br/redes-sociais/brasileiro-integra-comite-de-supervisao-de-liberdade-no-facebook-164485/. Acesso em: 20 mai. 2023

Downloads

Publicado

15.01.2024

Edição

v. 4 n. 2 (2023): maio/agosto

Seção

Artigos/Articles

Categorias

Licença

Copyright (c) 2024 Raphael Lobato Collet Janny Teixeira, André Saddy

Creative Commons License

Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.

Autores que publicam nesta revista concordam com os seguintes termos:

  1. Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons - Atribuição 4.0 Internacional que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
  2. Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
  3. Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).