Governance of algorithmic regulation in Brazil: pathways, principles, and challenges for Public Administration
DOI:
https://doi.org/10.47975/ijdl.v6.1301Keywords:
Artificial intelligence; public administration; algorithmic regulation; governance; Administrative Law.Abstract
This paper analyzes the legal and institutional challenges of regulating artificial intelligence in the Brazilian public sector, with a focus on administrative action and regulatory governance. It begins by addressing the growing presence of AI in public services and the associated risks of opacity, algorithmic discretion, and regulatory capture. The study then explores the theoretical foundations of algorithmic regulation, distinguishing between regulation by algorithms and regulation of algorithms. It critically examines the inadequacy of the current Brazilian legal framework, having into account the Bill 2.338/2023, in addressing the challenges posed by algorithmic administration, such as the duty to provide reasoning and the explainability of automated decisions. A comparative legal analysis is conducted with models from the European Union, Canada and Germany, identifying regulatory best practices while also highlighting the challenges of directly transposing such frameworks into the Brazilian context. The research adopts a hypothetical-deductive method, based on the hypothesis that Bill 2.338/2023 fails on providing effective regulation of the issue. The conclusion takes in consideration that building an effective regulatory framework for AI in public administration requires not only normative instruments, but also robust institutions, an accountability culture and a commitment to constitutional principles of legality, transparency and control.
Downloads
References
ALEMANHA. Basic Law for the Federal Republic of Germany (Grundgesetz). Promulgado em 23 maio 1949. Disponível em: <https://www.gesetze-im-internet.de/englisch_gg/>. Acesso em: 28 maio 2025.
ALEMANHA. Bundesverfassungsgericht. Decisions of the Federal Constitutional Court. Karlsruhe: Bundesverfassungsgericht, 2020. Disponível em: <https://www.bundesverfassungsgericht.de>. Acesso em: 9 jun. 2025.
ALEMANHA. Gutachten der Datenethikkommission. Bundesministerium des Innern, für Bau und Heimat / Bundesministerium der Justiz und für Verbraucherschutz. 23 out. 2019. Disponível em: <https://www.bmi.bund.de/SharedDocs/downloads/DE/publikationen/themen/it-digitalpolitik/gutachten-datenethikkommission.pdf?__blob=publicationFile&v=8>. Acesso em: 28 maio 2025.
ARRIETA, Alejandro Barredo et al. Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI. Entropy, Basel, v. 23, n. 1, p. 1–47, 2021. Disponível em: <https://www.mdpi.com/1099-4300/23/1/18>. Acesso em: 29 maio 2025.
BARBOSA, Leonardo Figueiredo; PINHEIRO, Caroline da Rosa. Inteligência artificial no Brasil: avanços regulatórios. Revista de Informação Legislativa, v. 60, n. 240, p. 11-41, out./dez. 2023. Disponível em: <https://doi.org/10.70015/ril_v60_n240_p11>. Acesso em: 29 jul. 2025.
BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2020.
BIONI, Bruno Ricardo; LUCIANO, Maria. O princípio da precaução para regulação de inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada? Brasília: Data Privacy Brasil, 2020.
BIONI, Bruno; GARROTE, Marina; GUEDES, Paula. Temas centrais na regulação da IA: o local, o regional e o global na busca da interoperabilidade regulatória. São Paulo: Associação Data Privacy Brasil, dez. 2023. Disponível em: <https://www.dataprivacybr.org/wp-content/uploads/2023/12/dataprivacy_nota-tecnica-temas-regulatorios.pdf>. Acesso em: 29 jul. 2025.
BIONI, Bruno; GUEDES, Paula; BENTES, Anna et al. Para além da proteção de dados: uma coletânea. São Paulo: Data Privacy Brasil Ensino, 2023.
BRASIL. Advocacia-Geral da União. Acordo entre AGU e STJ encerra 3,8 milhões de processos em quatro anos. Brasília: AGU, 1 jul. 2021. Disponível em: <https://www.gov.br/agu/pt-br/comunicacao/noticias/acordo-entre-agu-e-stj-encerra-3-8-milhoes-de-processos-em-quatro-anos>. Acesso em: 29 jul. 2025.
BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Promulgada em 5 de outubro de 1988. Art. 37. Disponível em: <https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm>. Acesso em: 9 jun. 2025.
BRASIL. Controladoria-Geral da União. CGU disponibiliza ferramenta Alice para estados e municípios identificarem licitações com suspeitas de irregularidades. Brasília: CGU, 15 maio 2024. Disponível em: <https://www.gov.br/cgu/pt-br/assuntos/noticias/2024/05/cgu-disponibiliza-ferramenta-alice-para-estados-e-municipios-identificarem-licitacoes-com-suspeitas-de-irregularidades>. Acesso em: 29 jul. 2025.
BRASIL. Diretrizes para a governança e o uso de inteligência artificial pela Administração Pública. Brasília: Enap; FGV; ITS-Rio, 2021. Disponível em: <https://www.gov.br/governodigital/pt-br/transformacao-digital/inteligencia-artificial/diretrizes-governanca-ia.pdf>. Acesso em: 9 jun. 2025.
BRASIL. Instituto Nacional do Seguro Social. INSS começa a usar inteligência artificial no Meu INSS. Brasília: INSS, 15 jan. 2024. Disponível em: <https://www.gov.br/inss/pt-br/noticias/comeca-fase-de-testes-de-inteligencia-artificial-no-meu-inss>. Acesso em: 29 jul. 2025.
BRASIL. Lei nº 13.655, de 25 de abril de 2018. Diário Oficial da União: seção 1, Brasília, DF, ano 155, n. 79, p. 1, 26 abr. 2018. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13655.htm>. Acesso em: 9 jun. 2025.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm>. Acesso em: 31 jul. 2025.
BRASIL. Projeto de Lei nº 2.338, de 3 de maio de 2023. Brasília, DF: Senado Federal, 2023. Disponível em: <https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2487262>. Acesso em: 27 jul. 2025.
BRASIL. Tribunal de Contas da União. Uso de inteligência artificial aprimora processos internos no TCU. Brasília: TCU, 30 mar. 2023. Disponível em: <https://portal.tcu.gov.br/imprensa/noticias/uso-de-inteligencia-artificial-aprimora-processos-internos-no-tcu.htm>. Acesso em: 29 jul. 2025.
CANADÁ. Treasury Board of Canada Secretariat. Directive on Automated Decision-Making. Ottawa, 2019. Disponível em: <https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html>. Acesso em: 9 jun. 2025.
CONSELHO DA JUSTIÇA FEDERAL. I Jornada de Direito Administrativo. Enunciado 12. Brasília: CJF, 2022. Disponível em: <https://www.cjf.jus.br/jornadas/enunciados/i-jornada-de-direito-administrativo>. Acesso em: 31 jul. 2025.
CRISTÓVAM, José Sérgio da Silva; SAIKALI, Lucas Bossoni; SOUSA, Thanderson Pereira de. Governo digital na implementação de serviços públicos para a concretização de direitos sociais no Brasil. Sequência: Estudos Jurídicos e Políticos, Florianópolis, v. 43, p. 209-242, 2020.
DOMINGOS, Pedro. O algoritmo mestre: como a busca pelo algoritmo de aprendizado de máquina pode redefinir o nosso mundo. Rio de Janeiro: Zahar, 2018.
DONEDA, Danilo. Da privacidade à proteção de dados pessoais: elementos da formação da Lei Geral de Proteção de Dados. São Paulo: Thomson Reuters Brasil, 2020.
DONEDA, Danilo. O que é a governança de algoritmos. Disponível em: <https://doneda.net/o-que-e-a-governanca-de-algoritmos/>. Acesso em: 04 abr. 2025.
EUROPEAN COMMISSION. Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union legislative acts. Brussels: European Commission, 2021. Disponível em: <https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206>. Acesso em: 27 jul. 2025.
GREEN, Ben; VILJOEN, Salomé. Algorithmic realism: expanding the boundaries of algorithmic thought. In: Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (FAccT '20), Barcelona, Spain, 19–31, 27 jan 2020. Disponível em: <https://dl.acm.org/doi/abs/10.1145/3351095.3372840>. Acesso em 27 jul. 2025.
HILDEBRANDT, Mireille. Algorithmic Regulation and the Rule of Law. Philosophical Transactions of the Royal Society A, v. 376, n. 2128, 2018. Disponível em: <https://doi.org/10.1098/rsta.2017.0355>. Acesso em: 14 maio 2025.
LOI, Michele; SPIELKAMP, Matthias. Towards accountability in the use of artificial intelligence for public administrations. Cornell University, arXiv, Nova York, 2021. Disponível em: <https://arxiv.org/abs/2105.01434>. Acesso em: 29 jul. 2025.
MENDES, Laura Schertel; MATTIUZZO, M. Proteção de Dados e Inteligência Artificial: Perspectivas Éticas e Regulatórias. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Revista Direito Público, v. 16, p. 39-64, 2019.
MOTTA, Fabrício; NOHARA, Irene Patrícia. LINDB no direito público. São Paulo: Thomson Reuters Brasil, 2019.
NOHARA, Irene Patrícia Diom. Direito Administrativo. 14. ed. Barueri: Atlas/Gen, 2025.
NOHARA, Irene Patrícia. Desafios de utilização de Inteligência Artificial no Processo Administrativo eletrônico. In: RAMOS, Rafael (Org.). O novo processo administrativo brasileiro. São Paulo: Thomson Reuters Brasil, 2024.
NOHARA, Irene Patrícia; GABARDO, Emerson. Superinteligência e os desafios reais e fictícios de regulação em tempos de inteligência artificial. Sequência: Estudos Jurídicos e Políticos, Florianópolis, v. 45, n. 97, p. 1-22, 2024. Disponível em: <https://periodicos.ufsc.br/index.php/sequencia/article/view/99699>. Acesso em: 9 jul. 2025.
SPINA, Guilherme Malaguti; ROQUE, Nathaly Campitelli. A construção da administração pública no Brasil e o seu hibridismo frente aos paradigmas burocrático e gerencial. Revista Pensamento Jurídico, São Paulo, v. 17, n. 2, p. 131–155, maio/set. 2023. Disponível em: <https://ojs.unialfa.com.br/index.php/pensamentojuridico/article/view/809>. Acesso em: 29 jul. 2025.
SELBST, Andrew D.; BAROCAS, Solon. The intuitive appeal of explainable machines. Fordham Law Review, v. 87, n. 3, p. 1085-1139, 2018.
SUNDFELD, Carlos Ary. Motivação do ato administrativo como garantia dos administrados. Revista de Direito Administrativo e Infraestrutura - RDAI, São Paulo, v. 5, n. 19, p. 461–479, 2021.
VALLE, Vanice Lírio do. Inteligência artificial incorporada à Administração Pública: mitos e desafios teóricos. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, ano 20, n. 81, p. 179-200, jul./set. 2020. DOI: 10.21056/aec.v20i81.1346.
VALLE, Vivian Cristina Lima López; GALLO, William Ivan. Inteligência artificial e capacidades regulatórias do Estado no ambiente da administração pública digital. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, ano 20, n. 82, p. 67-86, out./dez. 2020.
VEALE, Michael; EDWARDS, Lilian. Clarity, surprises, and further questions in the Draft AI Act. Computer Law Review International, v. 22, n. 4, p. 97–104, 2018.
WIMMER, Miriam; DONEDA, Danilo. "Falhas de IA" e a intervenção humana em decisões automatizadas: parâmetros para a legitimação pela humanização. Direito Público [Recurso Eletrônico], Brasília, v.18, n.100, p. 374-406, out./dez. 2021.
ŽLIOBAITĖ, Indrė. A survey on measuring indirect discrimination in machine learning. ArXiv preprint arXiv:1511.00148, 2015. Disponível em: <https://arxiv.org/abs/1511.00148>. Acesso em: 10 jun. 2025.
Downloads
Published
How to Cite
License
Copyright (c) 2025 Irene Patrícia Nohara, Beatriz Unger Raphael Bataglia (Autor)

This work is licensed under a Creative Commons Attribution 4.0 International License.
This journal is licensed by
Creative Commons Attribution-NonCommercial-4.0 International.
Attribution-ShareAlike 4.0 International (CC BY-NC 4.0)
Submission and publication of paper are free; Works evaluated by blind double review; the Journal uses S_cites and CrossCheck (anti-plagiarism); and complies with the COPE Editors Guide - Committee on Publication Ethics, in addition to the Elsevier and SciELO recommendations.













