Inov(ação):

discriminação algorítmica racial e as inteligências artificiais no Brasil

Resumo

O uso das tecnologias de inteligência artificial (IA) está em notável ascensão. A cada dia, observamos um aumento significativo na delegação de processos decisórios, tratamentos de dados e direcionamento dos usuários das plataformas digitais por meio de sistemas algorítmicos. No entanto, é imperativo reconhecer que a tão almejada neutralidade algorítmica não condiz com a realidade. Refletindo diretamente as dinâmicas do mundo offline, as IA e os dados nelas contidos reproduzem as práticas de racialização e violências rotineiramente direcionadas às pessoas negras no Brasil. Neste sentido, este artigo busca demonstrar que a estrutura do racismo é incorporada nos mecanismos de IA, razão pela qual é necessário regulamentar o seu desenvolvimento, operacionalização e fiscalização em consonância com a ordem jurídica de igualdade e combate à discriminação. Para tanto, o artigo explora o conceito de racismo algoritmo, inclusive a partir de casos concretos.