Governança da regulação algorítmica no Brasil: caminhos, princípios e desafios para a Administração Pública

Autores

DOI:

https://doi.org/10.47975/ijdl.v6.1301

Palavras-chave:

Inteligência artificial; administração pública; regulação algorítmica; governança; Direito administrativo.

Resumo

O presente trabalho analisa os desafios jurídicos e institucionais da regulação da inteligência artificial (IA) no setor público brasileiro, com ênfase na atuação administrativa e na governança regulatória. Inicialmente, o texto aborda a presença crescente da IA no serviço público e os riscos de opacidade, discricionariedade algorítmica e captura regulatória. Em seguida, explora os fundamentos teóricos da regulação algorítmica, distinguindo entre a regulação "feita por algoritmos" e a "dos algoritmos". O estudo examina a insuficiência do atual marco legal brasileiro, especialmente o Projeto de Lei nº 2.338/2023, para enfrentar os desafios da administração algorítmica, como o dever de motivação e a explicabilidade das decisões automatizadas. Também se realiza uma análise de direito comparado com os modelos da União Europeia, Canadá e Alemanha, identificando boas práticas regulatórias e apontando desafios à transposição imediata da disciplina ao contexto nacional. Utiliza, portanto, o método hipotético-dedutivo, partindo-se da hipótese de que o PL 2.338/2023 desconsidera gargalos relevantes ao enfrentamento adequado da matéria. Conclui-se que a construção de uma regulação eficaz da IA na Administração Pública exige não apenas instrumentos normativos, mas também instituições robustas, cultura de responsabilização e compromisso com os princípios constitucionais da legalidade, transparência e controle.

Downloads

Não há dados estatísticos.

Biografia do Autor

Irene Patrícia Nohara, Universidade Presbiteriana Mackenzie (São Paulo, São Paulo, Brasil)

Professora-Pesquisadora do Programa de Direito Político e Econômico da Universidade Presbiteriana Mackenzie (São Paulo, São Paulo, Brasil). Livre-Docente e Doutora em Direito do Estado pela Universidade de São Paulo. Membro da Asociación Internacional de Derecho Administrativo (AIDA). Advogada Parecerista e Árbitra. E-mail: irene.nohara@mackenzie.br.

Beatriz Unger Raphael Bataglia, Universidade Presbiteriana Mackenzie (São Paulo, São Paulo, Brasil)

Mestranda em Direito Político e Econômico na Faculdade de Direito da Universidade Presbiteriana Mackenzie (São Paulo, São Paulo, Brasil). Advogada. E-mail: betrizurbataglia@gmail.com.

Referências

ALEMANHA. Basic Law for the Federal Republic of Germany (Grundgesetz). Promulgado em 23 maio 1949. Disponível em: <https://www.gesetze-im-internet.de/englisch_gg/>. Acesso em: 28 maio 2025.

ALEMANHA. Bundesverfassungsgericht. Decisions of the Federal Constitutional Court. Karlsruhe: Bundesverfassungsgericht, 2020. Disponível em: <https://www.bundesverfassungsgericht.de>. Acesso em: 9 jun. 2025.

ALEMANHA. Gutachten der Datenethikkommission. Bundesministerium des Innern, für Bau und Heimat / Bundesministerium der Justiz und für Verbraucherschutz. 23 out. 2019. Disponível em: <https://www.bmi.bund.de/SharedDocs/downloads/DE/publikationen/themen/it-digitalpolitik/gutachten-datenethikkommission.pdf?__blob=publicationFile&v=8>. Acesso em: 28 maio 2025.

ARRIETA, Alejandro Barredo et al. Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI. Entropy, Basel, v. 23, n. 1, p. 1–47, 2021. Disponível em: <https://www.mdpi.com/1099-4300/23/1/18>. Acesso em: 29 maio 2025.

BARBOSA, Leonardo Figueiredo; PINHEIRO, Caroline da Rosa. Inteligência artificial no Brasil: avanços regulatórios. Revista de Informação Legislativa, v. 60, n. 240, p. 11-41, out./dez. 2023. Disponível em: <https://doi.org/10.70015/ril_v60_n240_p11>. Acesso em: 29 jul. 2025.

BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2020.

BIONI, Bruno Ricardo; LUCIANO, Maria. O princípio da precaução para regulação de inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada? Brasília: Data Privacy Brasil, 2020.

BIONI, Bruno; GARROTE, Marina; GUEDES, Paula. Temas centrais na regulação da IA: o local, o regional e o global na busca da interoperabilidade regulatória. São Paulo: Associação Data Privacy Brasil, dez. 2023. Disponível em: <https://www.dataprivacybr.org/wp-content/uploads/2023/12/dataprivacy_nota-tecnica-temas-regulatorios.pdf>. Acesso em: 29 jul. 2025.

BIONI, Bruno; GUEDES, Paula; BENTES, Anna et al. Para além da proteção de dados: uma coletânea. São Paulo: Data Privacy Brasil Ensino, 2023.

BRASIL. Advocacia-Geral da União. Acordo entre AGU e STJ encerra 3,8 milhões de processos em quatro anos. Brasília: AGU, 1 jul. 2021. Disponível em: <https://www.gov.br/agu/pt-br/comunicacao/noticias/acordo-entre-agu-e-stj-encerra-3-8-milhoes-de-processos-em-quatro-anos>. Acesso em: 29 jul. 2025.

BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Promulgada em 5 de outubro de 1988. Art. 37. Disponível em: <https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm>. Acesso em: 9 jun. 2025.

BRASIL. Controladoria-Geral da União. CGU disponibiliza ferramenta Alice para estados e municípios identificarem licitações com suspeitas de irregularidades. Brasília: CGU, 15 maio 2024. Disponível em: <https://www.gov.br/cgu/pt-br/assuntos/noticias/2024/05/cgu-disponibiliza-ferramenta-alice-para-estados-e-municipios-identificarem-licitacoes-com-suspeitas-de-irregularidades>. Acesso em: 29 jul. 2025.

BRASIL. Diretrizes para a governança e o uso de inteligência artificial pela Administração Pública. Brasília: Enap; FGV; ITS-Rio, 2021. Disponível em: <https://www.gov.br/governodigital/pt-br/transformacao-digital/inteligencia-artificial/diretrizes-governanca-ia.pdf>. Acesso em: 9 jun. 2025.

BRASIL. Instituto Nacional do Seguro Social. INSS começa a usar inteligência artificial no Meu INSS. Brasília: INSS, 15 jan. 2024. Disponível em: <https://www.gov.br/inss/pt-br/noticias/comeca-fase-de-testes-de-inteligencia-artificial-no-meu-inss>. Acesso em: 29 jul. 2025.

BRASIL. Lei nº 13.655, de 25 de abril de 2018. Diário Oficial da União: seção 1, Brasília, DF, ano 155, n. 79, p. 1, 26 abr. 2018. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13655.htm>. Acesso em: 9 jun. 2025.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm>. Acesso em: 31 jul. 2025.

BRASIL. Projeto de Lei nº 2.338, de 3 de maio de 2023. Brasília, DF: Senado Federal, 2023. Disponível em: <https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2487262>. Acesso em: 27 jul. 2025.

BRASIL. Tribunal de Contas da União. Uso de inteligência artificial aprimora processos internos no TCU. Brasília: TCU, 30 mar. 2023. Disponível em: <https://portal.tcu.gov.br/imprensa/noticias/uso-de-inteligencia-artificial-aprimora-processos-internos-no-tcu.htm>. Acesso em: 29 jul. 2025.

CANADÁ. Treasury Board of Canada Secretariat. Directive on Automated Decision-Making. Ottawa, 2019. Disponível em: <https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html>. Acesso em: 9 jun. 2025.

CONSELHO DA JUSTIÇA FEDERAL. I Jornada de Direito Administrativo. Enunciado 12. Brasília: CJF, 2022. Disponível em: <https://www.cjf.jus.br/jornadas/enunciados/i-jornada-de-direito-administrativo>. Acesso em: 31 jul. 2025.

CRISTÓVAM, José Sérgio da Silva; SAIKALI, Lucas Bossoni; SOUSA, Thanderson Pereira de. Governo digital na implementação de serviços públicos para a concretização de direitos sociais no Brasil. Sequência: Estudos Jurídicos e Políticos, Florianópolis, v. 43, p. 209-242, 2020.

DOMINGOS, Pedro. O algoritmo mestre: como a busca pelo algoritmo de aprendizado de máquina pode redefinir o nosso mundo. Rio de Janeiro: Zahar, 2018.

DONEDA, Danilo. Da privacidade à proteção de dados pessoais: elementos da formação da Lei Geral de Proteção de Dados. São Paulo: Thomson Reuters Brasil, 2020.

DONEDA, Danilo. O que é a governança de algoritmos. Disponível em: <https://doneda.net/o-que-e-a-governanca-de-algoritmos/>. Acesso em: 04 abr. 2025.

EUROPEAN COMMISSION. Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union legislative acts. Brussels: European Commission, 2021. Disponível em: <https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206>. Acesso em: 27 jul. 2025.

GREEN, Ben; VILJOEN, Salomé. Algorithmic realism: expanding the boundaries of algorithmic thought. In: Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (FAccT '20), Barcelona, Spain, 19–31, 27 jan 2020. Disponível em: <https://dl.acm.org/doi/abs/10.1145/3351095.3372840>. Acesso em 27 jul. 2025.

HILDEBRANDT, Mireille. Algorithmic Regulation and the Rule of Law. Philosophical Transactions of the Royal Society A, v. 376, n. 2128, 2018. Disponível em: <https://doi.org/10.1098/rsta.2017.0355>. Acesso em: 14 maio 2025.

LOI, Michele; SPIELKAMP, Matthias. Towards accountability in the use of artificial intelligence for public administrations. Cornell University, arXiv, Nova York, 2021. Disponível em: <https://arxiv.org/abs/2105.01434>. Acesso em: 29 jul. 2025.

MENDES, Laura Schertel; MATTIUZZO, M. Proteção de Dados e Inteligência Artificial: Perspectivas Éticas e Regulatórias. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Revista Direito Público, v. 16, p. 39-64, 2019.

MOTTA, Fabrício; NOHARA, Irene Patrícia. LINDB no direito público. São Paulo: Thomson Reuters Brasil, 2019.

NOHARA, Irene Patrícia Diom. Direito Administrativo. 14. ed. Barueri: Atlas/Gen, 2025.

NOHARA, Irene Patrícia. Desafios de utilização de Inteligência Artificial no Processo Administrativo eletrônico. In: RAMOS, Rafael (Org.). O novo processo administrativo brasileiro. São Paulo: Thomson Reuters Brasil, 2024.

NOHARA, Irene Patrícia; GABARDO, Emerson. Superinteligência e os desafios reais e fictícios de regulação em tempos de inteligência artificial. Sequência: Estudos Jurídicos e Políticos, Florianópolis, v. 45, n. 97, p. 1-22, 2024. Disponível em: <https://periodicos.ufsc.br/index.php/sequencia/article/view/99699>. Acesso em: 9 jul. 2025.

SPINA, Guilherme Malaguti; ROQUE, Nathaly Campitelli. A construção da administração pública no Brasil e o seu hibridismo frente aos paradigmas burocrático e gerencial. Revista Pensamento Jurídico, São Paulo, v. 17, n. 2, p. 131–155, maio/set. 2023. Disponível em: <https://ojs.unialfa.com.br/index.php/pensamentojuridico/article/view/809>. Acesso em: 29 jul. 2025.

SELBST, Andrew D.; BAROCAS, Solon. The intuitive appeal of explainable machines. Fordham Law Review, v. 87, n. 3, p. 1085-1139, 2018.

SUNDFELD, Carlos Ary. Motivação do ato administrativo como garantia dos administrados. Revista de Direito Administrativo e Infraestrutura - RDAI, São Paulo, v. 5, n. 19, p. 461–479, 2021.

VALLE, Vanice Lírio do. Inteligência artificial incorporada à Administração Pública: mitos e desafios teóricos. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, ano 20, n. 81, p. 179-200, jul./set. 2020. DOI: 10.21056/aec.v20i81.1346.

VALLE, Vivian Cristina Lima López; GALLO, William Ivan. Inteligência artificial e capacidades regulatórias do Estado no ambiente da administração pública digital. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, ano 20, n. 82, p. 67-86, out./dez. 2020.

VEALE, Michael; EDWARDS, Lilian. Clarity, surprises, and further questions in the Draft AI Act. Computer Law Review International, v. 22, n. 4, p. 97–104, 2018.

WIMMER, Miriam; DONEDA, Danilo. "Falhas de IA" e a intervenção humana em decisões automatizadas: parâmetros para a legitimação pela humanização. Direito Público [Recurso Eletrônico], Brasília, v.18, n.100, p. 374-406, out./dez. 2021.

ŽLIOBAITĖ, Indrė. A survey on measuring indirect discrimination in machine learning. ArXiv preprint arXiv:1511.00148, 2015. Disponível em: <https://arxiv.org/abs/1511.00148>. Acesso em: 10 jun. 2025.

Downloads

Publicado

27.10.2025

Como Citar

NOHARA, Irene Patrícia; BATAGLIA, Beatriz Unger Raphael. Governança da regulação algorítmica no Brasil: caminhos, princípios e desafios para a Administração Pública. International Journal of Digital Law, Belo Horizonte, v. 6, p. e608, 2025. DOI: 10.47975/ijdl.v6.1301. Disponível em: https://journal.nuped.com.br/index.php/revista/article/view/1301. Acesso em: 2 nov. 2025.

Edição

Seção

Artigos originais

Categorias

Artigos Semelhantes

1 2 3 4 5 6 7 8 9 10 > >> 

Você também pode iniciar uma pesquisa avançada por similaridade para este artigo.