Ética e inteligência artificial

desafios e melhores práticas

Autores

DOI:

https://doi.org/10.35699/2965-6931.2023.47673

Palavras-chave:

inteligência artificial, ética, aprendizado de máquina, aprendizado profundo, viés algoritmo

Resumo

O rápido avanço da inteligência artificial (IA) trouxe consigo a necessidade de compreensão de seu impacto social e implicações éticas. Nesse sentido, este artigo levantou e discutiu as principais questões éticas relacionadas à IA, os principais obstáculos atuais no desenvolvimento de algoritmos de aprendizado de máquina, e as melhores práticas para desenvolver algoritmos éticos e justos. Os vieses podem se perpetuar facilmente através do uso de dados desbalanceados e de correlações infundadas. Diante disso, a colaboração entre desenvolvedores de algoritmos e outros especialistas torna-se fundamental para compreender diversas perspectivas e identificar as sutis formas de propagação dos preconceitos. A ética dos algoritmos não é uma questão que será solucionada apenas através de uma abordagem tecnológica – essa temática envolve também assuntos de ordem social, cultural, jurídica e política. Portanto, o desenvolvimento tecnológico e a responsabilidade social devem caminhar lado a lado, a fim de evitar o agravamento das diferenças sociais.

Biografia do Autor

  • Carolina de Melo Nunes Lopes, Universidade Federal de Ouro Preto (UFOP)

    Engenheira Civil pela UFOP. Mestre e Doutoranda pela mesma instituição. Membro do Grupo de Pesquisa em Ciência de Dados aplicada à Engenharia - CIDENG-CNPq. Especialista em Engenharia de Avaliações e Perícias pela PUC MG . Atua em pesquisas sobre construções sustentáveis, avaliação de ciclo de vida, aproveitamento de resíduos e inteligência artificial.

  • Júlia Castro Mendes, Universidade Federal de Juiz de Fora (UFJF)

    Professora adjunta na UFJF. Doutora e Mestre em Engenharia Civil pela UFOP na área de matrizes cimentícias sustentáveis. Jovem Docente Permanente do PPG em Engenharia Civil da UFOP e da UFJF. Coordenadora do CIDENG-CNPq - Grupo de Pesquisa em Ciência de Dados aplicada à Engenharia. Experiência em aprendizagem de máquina aplicada à materiais de construção, materiais e construção sustentáveis.

Referências

ADAMSON, Adewole S.; SMITH, Avery. Machine Learning and Health Care Disparities in Dermatology. JAMA Dermatology, v. 154, n. 11, p. 1247–1248, 2018. DOI: https://doi.org/10.1001/jamadermatol.2018.2348

ALTEXSOFT. Machine Learning Metrics: How to Measure the Performance of a Machine Learning Model, 16 jun. 2023. Disponível em: <https://www.altexsoft.com/blog/machine-learning-metrics/>. Acesso em: 26 abr. 2023.

CORREA, Danielle M. Feature Engineering: preparando dados para aprendizado de máquina. Ateliware, 12 maio 2021. Disponível em: <https://ateliware.com/blog/feature-engineering>. Acesso em: 29 jun. 2023.

GARCIA, Ana C. Ética e inteligência artificial. Computação Brasil, v. 43, p. 14-22, 2020. DOI: https://doi.org/10.5753/compbr.2020.43.1791

GOOGLE AI. Data Preparation and Feature Engineering in ML, 2023. Disponível em: <https://developers.google.com/machine-learning/data-prep>. Acesso em: 11 maio 2023.

GOOGLE AI. Responsible AI practices, 2023. Disponível em: <https://ai.google/responsibilities/responsible-ai-practices/>. Acesso em: 17 maio 2023.

HIGH-LEVEL EXPERT GROUP ON AI. Ethics guidelines for trustworthy AI.

JOBIN, Anna; IENCA, Marcello; VAYENA, Effy. The global landscape of AI ethics guidelines. Nature Machine Intelligence, v. 1, p. 389-399, 2019. DOI: https://doi.org/10.1038/s42256-019-0088-2

KARALE, Ashwin. The challenges of IoT addressing security, ethics, privacy, and laws. Internet of Things, v. 15, p. 100420, 2021. DOI: https://doi.org/10.1016/j.iot.2021.100420

KNOBLOCH-WESTERWICK, Silvia; WESTERWICK, Axel. Algorithmic personalization of source cues in the filter bubble: Self-esteem and self-construal impact information exposure. New Media & Society, v. 25, n. 8, 2023. DOI: https://doi.org/10.1177/14614448211027963

KOSHIYAMA, Adriano. et al. Towards algorithm auditing: a survey on managing legal, ethical and technological risks of AI, ML and associated algorithms. SSRN, 2021. DOI: https://doi.org/10.2139/ssrn.3778998

LARSSON, Stefan. On the Governance of Artificial Intelligence through Ethics Guidelines. Asian Journal of Law and Society, v. 7, n. 3, p. 437-451, 2020. DOI: https://doi.org/10.1017/als.2020.19

MITTELSTADT, Brent. Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, v. 1, p. 501-507, 2019. DOI: https://doi.org/10.1038/s42256-019-0114-4

MITTELSTADT, Brent D. et al. The ethics of algorithms: Mapping the debate. Big Data & Society, v. 3, n. 2, p. 1-21, 2016. DOI: https://doi.org/10.1177/2053951716679679

NEOWAY. O que é data leakage e como essa falha pode contaminar as decisões, 12 ago. 2023. Disponível em: <https://blog.neoway.com.br/data-leakage/>. Acesso em: 04 jul. 2023.

NEX SOFTSYS SOFTWARE DEVELOPMENT COMPANY. Common Pitfalls Which May Mislead Results In Machine Learning, 2023. Disponível em: <https://www.nexsoftsys.com/articles/common-pitfalls-in-machine-learning.html>. Acesso em: 13 abr. 2023.

OBERMEYER, Ziad. et al. Dissecting racial bias in an algorithm used to manage the health of populations. Science, v. 366, n. 6464, p. 447-453, 2019. DOI: https://doi.org/10.1126/science.aax2342

ROSSETTI, Regina; ANGELUCI, Alan. Ética Algorítmica: questões e desafios éticos do avanço tecnológico da sociedade da informação. Galáxia, v. 46, p. 1-18, 2021. DOI: https://doi.org/10.1590/1982-2553202150301

SANTOS, Miriam S. et al. Cross-validation for imbalanced datasets: avoiding overoptimistic and overfitting approaches. IEEE Computational Intelligence Magazine, v. 13, n. 4, p. 59-76, 2018. DOI: https://doi.org/10.1109/MCI.2018.2866730

STILGOE, Jack. Machine learning, social learning and the governance of self-driving cars. Social Studies of Science, v. 48, n. 1, p. 25-26, 2018. DOI: https://doi.org/10.1177/0306312717741687

WAGNER, Nicholas; RONDINELLI, James M. Theory-guided machine learning in materials science. Frontiers in Materials, v. 3, p. 28, 2016. DOI: https://doi.org/10.3389/fmats.2016.00028

WINFIELD, Alan F.; JIROTKA, Marina. Ethical governance is essential to building trust in robotics and artificial intelligence systems. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, v. 376, n. 2133, p. 20180085, 2018. DOI: https://doi.org/10.1098/rsta.2018.0085

Publicado

2023-12-07

Como Citar

Ética e inteligência artificial: desafios e melhores práticas. Revista da Universidade Federal de Minas Gerais, Belo Horizonte, v. 30, n. fluxo contínuo, 2023. DOI: 10.35699/2965-6931.2023.47673. Disponível em: https://periodicos.ufmg.br/index.php/revistadaufmg/article/view/47673. Acesso em: 20 nov. 2026.