Perspectiva racial na interlocução entre a Declaração sobre Princípios de Direitos Humanos na área de Inteligência Artificial e a Constituição Brasileira
Palavras-chave:
Inteligência Artificial, Racismo, Direitos HumanosResumo
Este artigo examina a interlocução entre a Declaração sobre Princípios de Direitos Humanos na Área de Inteligência Artificial (DPDHAIA), do Mercosul, promulgada em 2023 e a Constituição Federal de 1988, com foco na proteção dos direitos fundamentais da população negra frente aos impactos da IA. Investigou-se em que medida os princípios da DPDHAIA encontram respaldo nos dispositivos constitucionais brasileiros, considerando as vulnerabilidades das populações racializadas. O objetivo é identificar correspondências e lacunas normativas na abordagem do racismo estrutural mediado por tecnologias digitais. Trata-se de uma pesquisa qualitativa, de natureza exploratória e documental. O percurso metodológico consistiu na análise dos textos integrais da DPDHAIA e da Constituição de 1988, orientada pela busca de palavras-chave (“raça”, “dignidade”, “igualdade”, “racismo”, “preconceito” e “direitos humanos”) e pela construção de uma matriz de correlação normativa entre os princípios declaratórios e os dispositivos constitucionais. Os resultados evidenciam convergências relevantes quanto à dignidade humana, igualdade e repúdio ao racismo, lacunas semânticas na DPDHAIA e ausência de dispositivos constitucionais sobre governança algorítmica. Como contribuição, o estudo oferece um debate sobre o risco da IA reproduzir racismos, reforçar preconceitos e estimular desigualdades. Conclui-se ser urgente formular políticas públicas e marcos legais de regulação algorítmica que incorporem a perspectiva racial, assegurando, assim, que a tecnologia IA seja elaborada, construída, aplicada e utilizada com justiça social e responsabilidade antirracista.
Downloads
Referências
ALMEIDA, S. L. Racismo estrutural (Feminismos Plurais). São Paulo: Pólen, 2019.
ARAÚJO, Júlio; ARAÚJO, Júlio. Racismo algorítmico e inteligência artificial: uma análise crítica multimodal. Revista Linguagem em Foco, v.16, n.2, p. 89-109, 2024. DOI: https://doi.org/10.46230/lef.v16i2.13108. Disponível em: https://revistas.uece.br/index.php/linguagememfoco/article/view/131008.10.46230/lef.16i2.13108. Acesso em: 15 jun. 2025.
BALAGUER C. F. A Constituição do Algoritmo. Rio de Janeiro: Forense, 2023.
BEAUCHAMP, T.L.; CHILDRESS, J.F. Principles of Biomedical Ethics. 7. ed. New York: Oxford University Press, 2012.
BITENCOURT, C. M.; MARTINS, L. H. N. O estado da arte da utilização de inteligência artificial nos órgãos de controle de contas da administração pública brasileira. Revista Jovens Pesquisadores, Santa Cruz do Sul, v. 14, n. 2, p. 152-168, dez 2024.
DOI: https://doi.org/10.17058/rjp.v14i2.19230. Disponível em: https://online.unisc.br/seer/index.php/jovenspesquisadores/article/view/19230. Acesso em: 8 jun. 2025.
BOBBIO, N. A era dos direitos. Tradução de Carlos Nelson Coutinho. Apresentação de Celso Lafer. Nova edição. Rio de Janeiro: Elsevier, 2004. 7ª reimpressão.
BRASIL. Constituição da República Federativa do Brasil. Brasília, DF: Presidência da República, 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/ConstituicaoCompilado.htm. Acesso em: 14 abr. 2025.
BRASIL. Lei nº 15.123, 24 de abril de 2025. Altera o art. 147-B do Decreto-Lei nº 2.848, de 7 de dezembro de 1940 (Código Penal), para estabelecer causa de aumento de pena no crime de violência psicológica contra a mulher quando praticado com o uso de inteligência artificial ou de qualquer outro recurso tecnológico que altere imagem ou som da vítima. Diário Oficial da União, Brasília, DF, 24 abr. 2025. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2025/Lei/L15123.htm. Acesso em: 12 set. 2025.
BRASIL. Ministério dos Direitos Humanos e da Cidadania. Em plenária final, RAADH aprova Declaração de Princípios de Direitos Humanos no âmbito da Inteligência Artificial no Mercosul. Disponível em: https://www.gov.br/mdh/pt-br/assuntos/noticias/2023/ novembro/em-plenaria-final-raadh-aprova-declaracao-de-principios-de-direitos-humanos-no-ambito-da-inteligencia- artificial-no-mercosul. Acesso em: 12 abr. 2025.
CASADEI, T. Brechas digitales: el reto de las nuevas tecnologías para los derechos humanos. Revista de la Facultad de Derecho de México, v. 74, n. 290, p. 149-178 13 dez. 2024. DOI: 10.22201/fder.24488933e.2024.290.90069. Disponível em: https://www.revistas.unam.mx/index.php/rfdm /article /view/90069. Acesso em: 11 abr. 2025.
COROMINA, M. P. U. Análisis comparado de los distintos enfoques regulatorios de la inteligencia artificial en la Unión Europea, EE. UU., China e Iberoamérica. Anuario Iberoamericano de Justicia Constitucional, v. 28, n.1, p. 129-156, jul. 2024. DOI: https://doi.org/10.18042/cepc/aijc.28.05. Disponível em: https://recyt.fecyt.es/index.php/AIJC/article/view/108247. Acesso em: 10 abr 2025
EUROPEAN PARLIAMENT. Artificial Intelligence Act: MEPs adopt negotiating position. 2024. Disponível em: https://www.europarl.europa.eu/news/en/pressroom/20240308 IPR19015/artificial-intelligence-act-meps-adopt-landmark-law.
FARAJ, S.; RENNO, W.; BHARDWAJ, A. Unto the breach: What the COVID-19 pandemic exposes about digitalization. Information and Organization, v.31, p. 1-7, mar. 2021. Doi: https://doi.org/10.1016/j.infoandorg.2021.100337. Disponível em: https://www.sciencedirect.com/science/article/pii/S1471772721000038. Acesso em: 12 jul. 2025.
FISCHMANN, R. Constituição brasileira, direitos humanos e educação. Revista
Brasileira de Educação, v. 14, n. 40, p. 156–167, jan. 2009. DOI: https://doi.org/10.1590/S1413-24782009000100013. Disponível em: https://www.scielo.br/j/rbedu/a/QPz7bgW7FmF3K4tbVRHVNMt/?lang=pt. Acesso em: 5 abr. 2025.
GARCÍA BENÍTEZ, V. H.; RUVALCABA-GÓMEZ, E. Análisis de las estrategias nacionales de inteligencia artificial en América Latina: estudio de los enfoques
de ética y de derechos humanos. Revista de Gestión Pública, Guadalajara, v. 10, n. 1, p. 5-32, jun. 2021. DOI: https://doi.org/10.22370/rgp.2021.10.1.3151. Disponível em: https://revistas.uv.cl/index.php/rgp/article/view/3151. Acesso em: 14 jun. 2025.
GARRAFA, V.; MARTORELL, L. B. e NASCIMENTO, W. F. Críticas ao principialismo em bioética: perspectivas desde o norte e desde o sul. Revista Saúde e Sociedade, São Paulo, v. 25, n. 2, p. 442-451, abr 2016. DOI: https://doi.org/10. 15 90 / S0 104-12902016150801. Disponível em: https://www.scielo.br/j/sausoc/a/v46P8wRBDz6588xLJYLjcRh/. Acesso em:12 jun. 2025.
GIL, Antônio Carlos. 1946 - Como elaborar projetos de pesquisa. - 4. ed. - São Paulo: Atlas, 2002.
LIMA, Taisa Maria Macena de; SÁ, Maria de Fátima Freire de. Inteligência artificial e Lei Geral de Proteção de Dados Pessoais: o direito à explicação nas decisões automatizadas. Revista Brasileira de Direito Civil, v. 26, n. 04, p. 227-246, fev. 2021. DOI: https://doi.org.10.33242/rbdc.2020.04.011. Disponível em: https://rbdcivil.ibdcivil.org.br/rbdc/article/view/584. Acesso em: 14 mai. 2025.
LITCHFIELD, I.; SHUKLA, D.; GREENFIELD, S.. Impact of COVID-19 on the digital divide: a rapid review. BMJ Open, v. 11, n. 10, p. 19, out. 2021. DOI: https://doi.org.10.1136/bmjopen-2021053440. Disponível em: https://bmjopen.bmj.com/content/11/10/e053440. Acesso em: 10 abr. 2025.
MATSIELE, M.; MUTULA, S. COVID-19 and digital transformation in higher education institutions: towards inclusive and equitable access to quality education. Education Sciences, Basel, v. 14, n. 8, p. 1-19, jul. 2024. DOI: https://doi.org/10.3390/educsci14080819. Disponível em: https://www.mdpi.com/2227-7102/14/8/819. Acesso em: 12 jun. 2025.
MERCOSUR. Declaração sobre Princípios de Direitos Humanos na Área de Inteligência Artificial. Disponível em: https://documentos.mercosur.int/simfiles/declaraciones/98118_ ATTXNW0C.docx. Acesso em: 16 abr. 2025.
MINAYO, M. C. S. O desafio da pesquisa social. In: MINAYO, M. C. S. (Org.). Pesquisa social: teoria, método e criatividade. Rio de Janeiro, RJ: Vozes, 2009. p. 9-29.
MONTEIRO, Pedro Diogo. A ascensão do reconhecimento facial no Brasil, a fase digital da aplicação da lei e a ameaça às comunidades negras (e esforços para detê-la). In:
Inteligência Artificial e Discriminação Racial no Brasil: questões principais e recomendações. Belo Horizonte: Instituto de Referência em Internet e Sociedade, p. 28- 31, 2024
Disponível em: https://irisbh.com.br/ publicacoes/inteligencia-artificial-e-discriminacao-racial-no-brasil/. Acesso em: 16 abr. 2025.
PEREIRA, Gabriela de Almeida. Desinformação e discurso de ódio como forma de legitimar a brutalidade e o assassinato de pessoas negras e pobres no Brasil. In: Inteligência Artificial e Discriminação Racial no Brasil: questões principais e recomendações. Belo Horizonte: Instituto de Referência em Internet e Sociedade, p. 15-18, 2024. Disponível em: https://irisbh.com.br/ publicacoes/inteligencia-artificial-e-discriminacao-racial-no-brasil/. Acesso em: 16 abr. 2025.
PIOVESAN, Flavia. Direitos sociais, econômicos e culturais e direitos civis e políticos. Revista internacional de direitos humanos, São Paulo, v.1, n. 1, 2004, p. 20-47. DOI:
https://doi.org/10.1590/S1806-64452004000100003. Disponível em: https://www.scielo.br/j/sur/a/vv3p3pQXYPv5dhH3sCLN46F/abstract/?lang=pt. Acesso em: 01 mai. 2025.
RODRIGUES, Júlia Carvalho; CHAI, Cássius Guimarães. Inteligência artificial e algoritmo antirracismo: análise da neutralidade de dois algoritmos frente a episódios de violação de direitos em meus dispositivos digitais. Revista Eletrônica [do] Tribunal Regional do Trabalho da 9ª Região, Curitiba, v. 12, n. 118, p. 92-103, mar. 2023. Disponível em: https://juslaboris.tst.jus.br/handle/20.500.12178/215797. Acesso em: 8 jul. 2025.
SÁ-SILVA, Jackson Ronie; ALMEIDA, Cristóvão Domingos de; GUINDANI, Joel Felipe. Pesquisa documental: pistas teóricas e metodológicas. Revista Brasileira de História e Ciências Sociais, São Leopoldo, RS, v. 1, n. 1, p. 1-14, jul. 2009. Disponível em: https://periodicos.furg.br/rbhcs/article/view/10351. Acesso em: 5 abr. 2025
SILVA, Fernanda dos Santos Rodrigues; SILVA, Tarcízio (orgs). Inteligência Artificial e Discriminação Racial no Brasil: questões principais e recomendações. Belo Horizonte: Instituto de Referência em Internet e Sociedade, 2024. Disponível em: https://irisbh.com.br/ publicacoes/inteligencia-artificial-e-discriminacao-racial-no-brasil/. Acesso em: 16 abr. 2025.
SILVA, Tarcízio. O racismo algorítmico é uma espécie de atualização do racismo estrutural. Centro de Estudos Estratégicos da Fiocruz - CEE-Fiocruz, 16 jun. 2021. Disponível em: https://cee.fiocruz.br/?q=Tarcizio-Silva-O-racismo-algoritmico-e-uma-especie-de-atualizacao-do-racismo-estrutural. Acesso em: 12 abr. 2025.
SILVA, Vanessa; LIMA, Thaise; BRASILEIRO, Fellipe. Algoritmos da branquitude: vieses e representações racistas em sistemas de inteligência artificial. Lumina, Juiz de Fora, v. 19, n. 1, p. 50–69, 30 abr. 2025. Disponível em: https://periodicos.ufjf.br/index.php/lumina/article/view/46384/28857. Acesso em: 20 jun. 2025.
SOUSA, Raquel et al. Esporte, Dados e Direitos: o uso de reconhecimento facial nos estádios brasileiros. Rio de Janeiro: Centro de Estudos de Segurança e Cidadania (CESeC); Observatório Social do Futebol/UERJ, 1 jan. 2024. Disponível em: https://observatoriosocialfutebol.org/2024/01/01/esporte-dados-e-direitos-o-uso-de-reconhecimento-facial-nos-estadios-brasileiros/. Acesso em: 16 abr. 2025.
TRANSPARÊNCIA BRASIL. Recomendações de Governança – Uso de Inteligência Artificial pelo Poder Público. São Paulo: Transparência Brasil, fev. 2020. Disponível em: https://www.transparencia.org.br/downloads/publicacoes/Recomendacoes_Governanca_Uso_IA_PoderPublico.pdf. Acesso em: 14 jul. 2025.
VERCELLI, Ariel. Regulaciones e inteligencias artificiales en Argentina. InMediaciones de la Comunicación, Montevidéu, v. 19, n. 1, p. 107-135, 2024. DOI: https//doi.org/10.18861/ic. 2024.19.1.3549. Disponível em: http://www.scielo.edu.uy/scielo.php?script=sciarttext&pid=S168886262024000100052. Acesso em: 10 jul. 2025.
Publicado
Edição
Seção
Licença
Copyright (c) 2025 Drª. Rita de Cassia Ladeira, Maria do Céu Pinto do Amaral (Autor)

Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.