Discriminação algorítmica e direitos humanos. Desafios jurídicos na era da inteligência artificial.

Abstract

Em uma era marcada pela automatização das decisões e pela centralidade dos dados, compreender o modo como os algoritmos moldam a vida social tornou-se uma tarefa urgente. Esta pesquisa parte do reconhecimento de que a inteligência artificial, embora construída sob o ideal de objetividade, não está imune às desigualdades que estruturam a sociedade. O estudo investiga, assim, como o viés algorítmico, entendido como a reprodução de assimetrias raciais, de gênero e socioeconômicas por sistemas automatizados desafia a efetivação dos direitos humanos e a concretização dos princípios constitucionais da igualdade e da dignidade da pessoa humana. A pesquisa desenvolveu uma análise interdisciplinar, unindo fundamentos técnicos, éticos e jurídicos, para compreender de que forma a arquitetura dos sistemas de inteligência artificial pode tanto reforçar quanto mitigar discriminações. Adotou-se uma abordagem qualitativa e exploratória, combinando revisão documental, análise de casos empíricos e exame comparativo de experiências regulatórias no Brasil, em Portugal e na União Europeia. O objetivo geral consistiu em examinar os impactos do viés algorítmico sobre a justiça social e propor diretrizes de governança que conciliem inovação tecnológica e proteção de direitos fundamentais. De modo específico, buscou-se identificar os mecanismos técnicos que originam os vieses, avaliar seus efeitos concretos nas esferas pública e privada e discutir instrumentos capazes de prevenir e corrigir distorções discriminatórias. Os resultados demonstram que o viés algorítmico emerge da convergência entre dados enviesados, decisões de design e ausência de diversidade nas etapas de desenvolvimento e validação dos sistemas. Constatou-se que soluções restritas ao plano técnico, como ajustes estatísticos, não bastam para enfrentar um fenômeno que é, antes de tudo, social e político. A análise revelou que princípios como transparência, explicabilidade, auditorias independentes e experimentação regulada, inclusive por meio de sandbox e Zonas Livres Tecnológicas, como as previstas no Decreto Lei n.º 67/2021 em Portugal, precisam ser incorporados como requisitos estruturais da governança algorítmica, permitindo o controle humano significativo e a responsabilização efetiva de agentes públicos e privados. Verificou-se, ainda, que os marcos regulatórios contemporâneos, a exemplo do AI Act europeu, Lei Geral de Proteção de Dados, do Regulamento Europeu de Proteção de Dados e das diretrizes éticas da UNESCO, oferecem referenciais importantes, mas permanecem insuficientes diante da complexidade das aplicações de inteligência artificial e da carência de mecanismos institucionais de fiscalização. Diante disso, o estudo propõe a construção de políticas integradas que aliem regulação jurídica, cultura ética e desenvolvimento técnico, de modo a transformar a inteligência artificial em instrumento de promoção de justiça social e igualdade substancial.