Governança da regulação algorítmica no Brasil: caminhos, princípios e desafios para a Administração Pública
DOI:
https://doi.org/10.47975/ijdl.v6.1301Palavras-chave:
Inteligência artificial; administração pública; regulação algorítmica; governança; Direito administrativo.Resumo
O presente trabalho analisa os desafios jurídicos e institucionais da regulação da inteligência artificial (IA) no setor público brasileiro, com ênfase na atuação administrativa e na governança regulatória. Inicialmente, o texto aborda a presença crescente da IA no serviço público e os riscos de opacidade, discricionariedade algorítmica e captura regulatória. Em seguida, explora os fundamentos teóricos da regulação algorítmica, distinguindo entre a regulação "feita por algoritmos" e a "dos algoritmos". O estudo examina a insuficiência do atual marco legal brasileiro, especialmente o Projeto de Lei nº 2.338/2023, para enfrentar os desafios da administração algorítmica, como o dever de motivação e a explicabilidade das decisões automatizadas. Também se realiza uma análise de direito comparado com os modelos da União Europeia, Canadá e Alemanha, identificando boas práticas regulatórias e apontando desafios à transposição imediata da disciplina ao contexto nacional. Utiliza, portanto, o método hipotético-dedutivo, partindo-se da hipótese de que o PL 2.338/2023 desconsidera gargalos relevantes ao enfrentamento adequado da matéria. Conclui-se que a construção de uma regulação eficaz da IA na Administração Pública exige não apenas instrumentos normativos, mas também instituições robustas, cultura de responsabilização e compromisso com os princípios constitucionais da legalidade, transparência e controle.
Downloads
Referências
ALEMANHA. Basic Law for the Federal Republic of Germany (Grundgesetz). Promulgado em 23 maio 1949. Disponível em: <https://www.gesetze-im-internet.de/englisch_gg/>. Acesso em: 28 maio 2025.
ALEMANHA. Bundesverfassungsgericht. Decisions of the Federal Constitutional Court. Karlsruhe: Bundesverfassungsgericht, 2020. Disponível em: <https://www.bundesverfassungsgericht.de>. Acesso em: 9 jun. 2025.
ALEMANHA. Gutachten der Datenethikkommission. Bundesministerium des Innern, für Bau und Heimat / Bundesministerium der Justiz und für Verbraucherschutz. 23 out. 2019. Disponível em: <https://www.bmi.bund.de/SharedDocs/downloads/DE/publikationen/themen/it-digitalpolitik/gutachten-datenethikkommission.pdf?__blob=publicationFile&v=8>. Acesso em: 28 maio 2025.
ARRIETA, Alejandro Barredo et al. Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI. Entropy, Basel, v. 23, n. 1, p. 1–47, 2021. Disponível em: <https://www.mdpi.com/1099-4300/23/1/18>. Acesso em: 29 maio 2025.
BARBOSA, Leonardo Figueiredo; PINHEIRO, Caroline da Rosa. Inteligência artificial no Brasil: avanços regulatórios. Revista de Informação Legislativa, v. 60, n. 240, p. 11-41, out./dez. 2023. Disponível em: <https://doi.org/10.70015/ril_v60_n240_p11>. Acesso em: 29 jul. 2025.
BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2020.
BIONI, Bruno Ricardo; LUCIANO, Maria. O princípio da precaução para regulação de inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada? Brasília: Data Privacy Brasil, 2020.
BIONI, Bruno; GARROTE, Marina; GUEDES, Paula. Temas centrais na regulação da IA: o local, o regional e o global na busca da interoperabilidade regulatória. São Paulo: Associação Data Privacy Brasil, dez. 2023. Disponível em: <https://www.dataprivacybr.org/wp-content/uploads/2023/12/dataprivacy_nota-tecnica-temas-regulatorios.pdf>. Acesso em: 29 jul. 2025.
BIONI, Bruno; GUEDES, Paula; BENTES, Anna et al. Para além da proteção de dados: uma coletânea. São Paulo: Data Privacy Brasil Ensino, 2023.
BRASIL. Advocacia-Geral da União. Acordo entre AGU e STJ encerra 3,8 milhões de processos em quatro anos. Brasília: AGU, 1 jul. 2021. Disponível em: <https://www.gov.br/agu/pt-br/comunicacao/noticias/acordo-entre-agu-e-stj-encerra-3-8-milhoes-de-processos-em-quatro-anos>. Acesso em: 29 jul. 2025.
BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Promulgada em 5 de outubro de 1988. Art. 37. Disponível em: <https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm>. Acesso em: 9 jun. 2025.
BRASIL. Controladoria-Geral da União. CGU disponibiliza ferramenta Alice para estados e municípios identificarem licitações com suspeitas de irregularidades. Brasília: CGU, 15 maio 2024. Disponível em: <https://www.gov.br/cgu/pt-br/assuntos/noticias/2024/05/cgu-disponibiliza-ferramenta-alice-para-estados-e-municipios-identificarem-licitacoes-com-suspeitas-de-irregularidades>. Acesso em: 29 jul. 2025.
BRASIL. Diretrizes para a governança e o uso de inteligência artificial pela Administração Pública. Brasília: Enap; FGV; ITS-Rio, 2021. Disponível em: <https://www.gov.br/governodigital/pt-br/transformacao-digital/inteligencia-artificial/diretrizes-governanca-ia.pdf>. Acesso em: 9 jun. 2025.
BRASIL. Instituto Nacional do Seguro Social. INSS começa a usar inteligência artificial no Meu INSS. Brasília: INSS, 15 jan. 2024. Disponível em: <https://www.gov.br/inss/pt-br/noticias/comeca-fase-de-testes-de-inteligencia-artificial-no-meu-inss>. Acesso em: 29 jul. 2025.
BRASIL. Lei nº 13.655, de 25 de abril de 2018. Diário Oficial da União: seção 1, Brasília, DF, ano 155, n. 79, p. 1, 26 abr. 2018. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13655.htm>. Acesso em: 9 jun. 2025.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm>. Acesso em: 31 jul. 2025.
BRASIL. Projeto de Lei nº 2.338, de 3 de maio de 2023. Brasília, DF: Senado Federal, 2023. Disponível em: <https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2487262>. Acesso em: 27 jul. 2025.
BRASIL. Tribunal de Contas da União. Uso de inteligência artificial aprimora processos internos no TCU. Brasília: TCU, 30 mar. 2023. Disponível em: <https://portal.tcu.gov.br/imprensa/noticias/uso-de-inteligencia-artificial-aprimora-processos-internos-no-tcu.htm>. Acesso em: 29 jul. 2025.
CANADÁ. Treasury Board of Canada Secretariat. Directive on Automated Decision-Making. Ottawa, 2019. Disponível em: <https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html>. Acesso em: 9 jun. 2025.
CONSELHO DA JUSTIÇA FEDERAL. I Jornada de Direito Administrativo. Enunciado 12. Brasília: CJF, 2022. Disponível em: <https://www.cjf.jus.br/jornadas/enunciados/i-jornada-de-direito-administrativo>. Acesso em: 31 jul. 2025.
CRISTÓVAM, José Sérgio da Silva; SAIKALI, Lucas Bossoni; SOUSA, Thanderson Pereira de. Governo digital na implementação de serviços públicos para a concretização de direitos sociais no Brasil. Sequência: Estudos Jurídicos e Políticos, Florianópolis, v. 43, p. 209-242, 2020.
DOMINGOS, Pedro. O algoritmo mestre: como a busca pelo algoritmo de aprendizado de máquina pode redefinir o nosso mundo. Rio de Janeiro: Zahar, 2018.
DONEDA, Danilo. Da privacidade à proteção de dados pessoais: elementos da formação da Lei Geral de Proteção de Dados. São Paulo: Thomson Reuters Brasil, 2020.
DONEDA, Danilo. O que é a governança de algoritmos. Disponível em: <https://doneda.net/o-que-e-a-governanca-de-algoritmos/>. Acesso em: 04 abr. 2025.
EUROPEAN COMMISSION. Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union legislative acts. Brussels: European Commission, 2021. Disponível em: <https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206>. Acesso em: 27 jul. 2025.
GREEN, Ben; VILJOEN, Salomé. Algorithmic realism: expanding the boundaries of algorithmic thought. In: Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (FAccT '20), Barcelona, Spain, 19–31, 27 jan 2020. Disponível em: <https://dl.acm.org/doi/abs/10.1145/3351095.3372840>. Acesso em 27 jul. 2025.
HILDEBRANDT, Mireille. Algorithmic Regulation and the Rule of Law. Philosophical Transactions of the Royal Society A, v. 376, n. 2128, 2018. Disponível em: <https://doi.org/10.1098/rsta.2017.0355>. Acesso em: 14 maio 2025.
LOI, Michele; SPIELKAMP, Matthias. Towards accountability in the use of artificial intelligence for public administrations. Cornell University, arXiv, Nova York, 2021. Disponível em: <https://arxiv.org/abs/2105.01434>. Acesso em: 29 jul. 2025.
MENDES, Laura Schertel; MATTIUZZO, M. Proteção de Dados e Inteligência Artificial: Perspectivas Éticas e Regulatórias. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Revista Direito Público, v. 16, p. 39-64, 2019.
MOTTA, Fabrício; NOHARA, Irene Patrícia. LINDB no direito público. São Paulo: Thomson Reuters Brasil, 2019.
NOHARA, Irene Patrícia Diom. Direito Administrativo. 14. ed. Barueri: Atlas/Gen, 2025.
NOHARA, Irene Patrícia. Desafios de utilização de Inteligência Artificial no Processo Administrativo eletrônico. In: RAMOS, Rafael (Org.). O novo processo administrativo brasileiro. São Paulo: Thomson Reuters Brasil, 2024.
NOHARA, Irene Patrícia; GABARDO, Emerson. Superinteligência e os desafios reais e fictícios de regulação em tempos de inteligência artificial. Sequência: Estudos Jurídicos e Políticos, Florianópolis, v. 45, n. 97, p. 1-22, 2024. Disponível em: <https://periodicos.ufsc.br/index.php/sequencia/article/view/99699>. Acesso em: 9 jul. 2025.
SPINA, Guilherme Malaguti; ROQUE, Nathaly Campitelli. A construção da administração pública no Brasil e o seu hibridismo frente aos paradigmas burocrático e gerencial. Revista Pensamento Jurídico, São Paulo, v. 17, n. 2, p. 131–155, maio/set. 2023. Disponível em: <https://ojs.unialfa.com.br/index.php/pensamentojuridico/article/view/809>. Acesso em: 29 jul. 2025.
SELBST, Andrew D.; BAROCAS, Solon. The intuitive appeal of explainable machines. Fordham Law Review, v. 87, n. 3, p. 1085-1139, 2018.
SUNDFELD, Carlos Ary. Motivação do ato administrativo como garantia dos administrados. Revista de Direito Administrativo e Infraestrutura - RDAI, São Paulo, v. 5, n. 19, p. 461–479, 2021.
VALLE, Vanice Lírio do. Inteligência artificial incorporada à Administração Pública: mitos e desafios teóricos. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, ano 20, n. 81, p. 179-200, jul./set. 2020. DOI: 10.21056/aec.v20i81.1346.
VALLE, Vivian Cristina Lima López; GALLO, William Ivan. Inteligência artificial e capacidades regulatórias do Estado no ambiente da administração pública digital. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, ano 20, n. 82, p. 67-86, out./dez. 2020.
VEALE, Michael; EDWARDS, Lilian. Clarity, surprises, and further questions in the Draft AI Act. Computer Law Review International, v. 22, n. 4, p. 97–104, 2018.
WIMMER, Miriam; DONEDA, Danilo. "Falhas de IA" e a intervenção humana em decisões automatizadas: parâmetros para a legitimação pela humanização. Direito Público [Recurso Eletrônico], Brasília, v.18, n.100, p. 374-406, out./dez. 2021.
ŽLIOBAITĖ, Indrė. A survey on measuring indirect discrimination in machine learning. ArXiv preprint arXiv:1511.00148, 2015. Disponível em: <https://arxiv.org/abs/1511.00148>. Acesso em: 10 jun. 2025.
Downloads
Publicado
Como Citar
Licença
Copyright (c) 2025 Irene Patrícia Nohara, Beatriz Unger Raphael Bataglia (Autor)

Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Autores que publicam nesta revista concordam com os seguintes termos:
- Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons - Atribuição 4.0 Internacional que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).













