Decisões algorítmicas na Administração Pública: entre a opacidade técnica e o dever de transparência

Resumen

O presente artigo examina a incorporação de sistemas algorítmicos na Administração Pública brasileira à luz do dever constitucional de transparência, identificando as barreiras impostas pela opacidade dos modelos complexos de inteligência artificial e as exigências de explicabilidade, interpretabilidade e inteligibilidade. Por meio de pesquisa qualitativa de caráter bibliográfico, foram analisados doutrina, relatórios técnicos e instrumentos normativos — notadamente o PL 2.338/2023, a PEC 29/2023 e o Regulamento Europeu de IA (AI Act) — para identificar limitações do paradigma tradicional de transparência. Os resultados indicam que a efetividade da transparência algorítmica depende da articulação entre normas claras e tecnologia, de modo que os dados estejam não apenas disponíveis, mas também compreensíveis — permitindo que as pessoas acessem, entendam e usem essas informações para acompanhar e avaliar decisões —, aliados a conceitos de inteligibilidade, interpretabilidade e explicabilidade (XAI) que tornem os sistemas mais compreensíveis e sujeitos à análise crítica, bem como à criação de regras que garantam o direito de questionar decisões automatizadas. Conclui‑se que a plena responsabilização e o controle social requerem não apenas acesso a códigos e bases de dados, mas também diretrizes institucionais e tecnológicas que assegurem compreensão, contestação e legitimação das decisões mediadas por IA.