Decisões algorítmicas na Administração Pública: entre a opacidade técnica e o dever de transparência
DOI:
https://doi.org/10.47975/ijdl.v6.1297Palavras-chave:
Transparência algorítmica; inteligência artificial explicável; administração pública; direito à explicação; opacidade tecnológica.Resumo
O presente artigo examina a incorporação de sistemas algorítmicos na Administração Pública brasileira à luz do dever constitucional de transparência, identificando as barreiras impostas pela opacidade dos modelos complexos de inteligência artificial e as exigências de explicabilidade, interpretabilidade e inteligibilidade. Por meio de pesquisa qualitativa de caráter bibliográfico, foram analisados doutrina, relatórios técnicos e instrumentos normativos — notadamente o PL 2.338/2023, a PEC 29/2023 e o Regulamento Europeu de IA (AI Act) — para identificar limitações do paradigma tradicional de transparência. Os resultados indicam que a efetividade da transparência algorítmica depende da articulação entre normas claras e tecnologia, de modo que os dados estejam não apenas disponíveis, mas também compreensíveis — permitindo que as pessoas acessem, entendam e usem essas informações para acompanhar e avaliar decisões —, aliados a conceitos de inteligibilidade, interpretabilidade e explicabilidade (XAI) que tornem os sistemas mais compreensíveis e sujeitos à análise crítica, bem como à criação de regras que garantam o direito de questionar decisões automatizadas. Conclui‑se que a plena responsabilização e o controle social requerem não apenas acesso a códigos e bases de dados, mas também diretrizes institucionais e tecnológicas que assegurem compreensão, contestação e legitimação das decisões mediadas por IA.
Downloads
Referências
ALVES, Marco Antônio Sousa; ANDRADE, Otávio Morato de. Da “caixa-preta” à “caixa de vidro”: o uso da explainable artificial intelligence (XAI) para reduzir a opacidade e enfrentar o enviesamento em modelos algorítmicos. Revista Direito Público, Brasília, v 18, n. 100, p. 349-373, out./dez. 2021.
ANDRADE, Lucas Rocha. Regulação e desafios na evolução da inteligência artificial: impactos na responsabilidade civil. Revista interdisciplinar de ensino e educação. Revista Interdisciplinar de Ensino e Educação. Campina Grande, v. 3, n. 1, p. 78–96, 2025.
BITENCOURT NETO, Eurico. Transparência e Procedimento Administrativo no Brasil. In: GOMES, Carla Amado; PEDRO, Ricardo; BITENCOURT NETO, Eurico (Coord.). Em nome da transparência no direito administrativo: um diálogo luso-brasileiro. Coimbra: Edições Almedina, 2023.
BITENCOURT, Caroline Müller; MARTINS, Luisa Helena Nicknig. A inteligência artificial nos órgãos constitucionais de controle de contas da administração pública brasileira. Revista de Investigações Constitucionais, v. 10, n. 3, p. e253, 2023.
BRASIL. Lei 12.527 de 18 de novembro de 2011. Lei de Acesso à Informação. Diário Oficial da União, Brasília, DF, 18 nov. 2011. Disponível em <http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2011/lei/ l12527.htm>. Acesso em 29 jun. 2025.
BRASIL. Projeto de Lei 2338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Disponível em: <https://www25.senado.leg.br/web/atividade/materias/-/materia/157233>. Acesso em 25 jun. 2025.
BRASIL. Proposta de Emenda à Constituição n° 29, de 2023. Altera a Constituição Federal para incluir, entre os direitos e garantias fundamentais, a proteção à integridade mental e à transparência algorítmica. Disponível em: <https://www25.senado.leg.br/web/atividade/materias/-/materia/158095>. Acesso em 24 jun. 2025.
CAMPOS, Luiz Augusto; CANDIDO, Marcia Rangel. Transparência em DADOS: submissões, pareceristas e diversidade no fluxo editorial dos últimos anos. Dados, v. 65, n. 1, p. e20220000, 2021.
CANAVILHAS, João; BIOLCHI, Bárbara. Inteligência Artificial e Transparência no Jornalismo. Revista Mídia e Cotidiano, v. 18, n. 2, p. 43-64, 2024.
CARVALHO, Cássio S.; MATTOS, Júlio CB; AGUIAR, Marilton S. Interpretabilidade e Justiça Algorítmica: Avançando na Transparência de Modelos Preditivos de Evasão Escolar. In: Simpósio Brasileiro de Informática na Educação (SBIE), Rio de Janeiro, Anais, Porto Alegre: Sociedade Brasileira de Computação, 2024, p. 1658-1673.
DIAKOPOULOS, N. Transparency. In: DUBBER, Markus., PASQUALE, Frank; DAS, Sunit. The Oxford Handbook of Ethics of AI. Oxford: Oxford University Press, 2020.
DOSHI-VELEZ, Finale; KIM, Been. Towards a rigorous science of interpretable machine learning. Disponível em: <https://arxiv.org/abs/1702.08608>. Acesso em: 20 jun. 2025.
HEALD, David. Varieties of transparency. In: HOOD, Christopher; HEALD, David (Ed.). Transparency: the key to better governance?. Oxford: Oxford University Press, 2006.
IEEE. The Ethics Certification Program for Autonomous and Intelligent Systems (ECPAIS). 2020. Disponível em: <https://standards.ieee.org/industry-connections/ecpais/>. Acesso em 20 jun. 25.
JÚNIOR, Marcus Vinícius Filgueiras. A motivação do ato administrativo por inteligência artificial: possibilidade e limites. JAIIO, Jornadas Argentinas de Informática. Revista de la Sociedad Argentina de Informática e Investigación Operativa, Buenos Aires, v. 9, n. 13, p. 30–36, 2023.
LOVATTO, Manuela Betiele Aude. Inteligência artificial: governança e transparência? Revista Ibmec Direito, v. 1, n. 1, 2024.
MACOHIN, Aline. Inteligência artificial e a transparência na administração pública brasileira. Tese (Doutorado em Direito). Universidade Federal do Paraná, Curitiba, 2023.
MCGRATH, Amanda; JONKER, Alexandra. What is AI safety?. IBM Think. Disponível em: <https://www.ibm.com/think/topics/ai-safety>. Acesso em: 14 mai. 2025.
MICHENER, Gregory; BERSCH, Katherine. Identifying transparency. Information Polity, 2013. Disponível em: <https://ssrn.com/abstract=3290813>. Acesso em: 29 jun. 2025.
MICHENER, Gregory; MONCAU, Luiz Fernando Marrey; VELASCO, Rafael. Estado brasileiro e transparência: avaliando a aplicação da Lei de Acesso à Informação. Rio de Janeiro: FGV, 2014.
MINH, Dang et al. Explainable artificial intelligence: a comprehensive review. Artificial Intelligence Review, p. 1-66, 2022.
MITTELSTADT, Brent Daniel et al. The ethics of algorithms: Mapping the debate. Big Data & Society, v. 3, n. 2, 2016.
NUNES, Lorena de Almeida; NETA, Ainah Hohenfeld Angelini. Marco regulatório da inteligência artificial: análise do AI Act da União Europeia no tocante a privacidade. Revista Direito UNIFACS, n. 293, 2024.
RIBEIRO, Adriana; ELOI, Dárcio Luiz Costa; RODRIGUES, Renata Vicentini Monteiro. Transparência e ética no uso de IA generativa. Revista Base Científica, v. 3, 2025.
RIBEIRO, Marco Túlio; SINGH Sameer; GUESTRIN, Carlos. “Why should I trust you?”: explaining the predictions of any classifier, 2016. Disponível em <https://arxiv.org/abs/1602.04938>. Acesso em 22 jun. 2025.
SANTANNA, Mayara Bartaquini de. O impacto da inteligência artificial na aplicabilidade da transparência e anonimização na proteção de dados. 2024. Dissertação (Mestrado em Direito Político e Econômico) – Universidade Presbiteriana Mackenzie, São Paulo, 2024.
SENADO FEDERAL. Relatório Final da Comissão de Juristas responsável por subsidiar a elaboração de substitutivo sobre Inteligência Artificial. Brasília, DF, 2022.
UNIÃO EUROPEIA. Carta dos Direitos Fundamentais da União Europeia, Jornal Oficial da União Europeia, Bruxelas, 2012. Disponível em: <http://data.europa.eu/eli/treaty/char_2012/oj>. Acesso em 23 jun. 2025.
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024. Regulamento da Inteligência Artificial. Jornal Oficial da União Europeia, Bruxelas, 2024.
VESTRI, Gabriele. La inteligencia artificial ante el desafío de la transparencia algorítmica: Una aproximación desde la perspectiva jurídico-administrativa. Revista Aragonesa de Administración Pública, n. 56, p. 368-398, 2021.
VITORINO, Betânia Medeiros. Evolução da Inteligência Artificial no Legislativo Brasileiro: breve análise do Projeto de Lei 2338/2023. In: Fórum Rondoniense de Pesquisa. 2024.
WISCHMEYER, Thomas. Artificial Intelligence and transparency: opening the black box. In: WISCHMEYER, Thomas; RADEMACHER, Timo (Eds). Regulating Artificial Intelligence, Cham: Springer, 2020.
Downloads
Publicado
Como Citar
Licença
Copyright (c) 2025 Amanda Monique de Souza Aguiar Maia (Autor)
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Autores que publicam nesta revista concordam com os seguintes termos:
- Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons - Atribuição 4.0 Internacional que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).
