Discriminação algorítmica e a dignidade humana

o impacto ao respeito, à autonomia e à autodeterminação

Resumo

A Inteligência Artificial (IA) e os algoritmos compõem uma tecnologia de aprendizado avançado que participa cada vez mais do cotidiano das pessoas, seja nos espaços digitais, no uso de aplicativos, no gerenciamento de e-mails ou em serviços online. Sua popularidade baseia-se na promessa de tornar a execução de tarefas e a resolução de problemas mais rápidas, baratas e eficientes. Contudo, sua atuação na vida das pessoas motivou uma preocupação não somente sobre como os dados são coletados, mas também quais são as consequências ocasionadas aos indivíduos que são submetidos à sua análise. Em destaque, a discriminação no algoritmo. Destarte, o presente artigo possui o escopo de analisar as ocorrências desse fenômeno e como ele afeta o princípio da dignidade da pessoa humana, em especial aos seus elementos constitutivos: respeito, autonomia e autodeterminação. Para isso, adota-se uma pesquisa qualitativa, de caráter exploratório-dedutivo, que utiliza reportagens que abordam casos exemplificativos relevantes ao tema, legislação, livros e artigos científicos interdisciplinares como fontes bibliográficas. Identificou-se que a tecnologia não possui neutralidade e que a prática da generalização no tratamento das informações pode implicar resultados indignos, sujeitando humanos à condição de objetos. Sua capa lógica alimenta uma imagem equivocada de inquestionabilidade que incentiva a abdicação da autonomia individual. E, em meio às representações danosas, negativas de oportunidades, exclusões de serviços e obstáculos ao acesso à justiça concreta, a autodeterminação é ferida. Assim, torna-se indispensável a consideração da dignidade humana na idealização e desenvolvimento de soluções de IA, a ser aplicada por instituições privadas, públicas e profissionais de tecnologia.