VOLUME 16

2026

ISSN: 2237-5864

Acesso Livre

Os desafios éticos da utilização da inteligência artificial (IA): literácia em IA (AI Literacy) para o ensino superior

Los desafíos éticos del uso de la inteligencia artificial: alfabetización en IA para la educación superior

The ethical challenges of using artificial intelligence: AI literacy for higher education

Este artigo objetiva apresentar contrapontos sobre os rumos técnicos e éticos da inteligência artificial e a adoção de novas metodologias para a formação cidadã, partindo do conceito grego de paideia. Explica-se a inteligência artificial tecnicamente como simulação computacional e aprendizado de máquina, contrastando essa visão com a comum mitificação antropomórfica que gera riscos éticos à identidade e responsabilidade humanas. Utilizando análise teórica e revisão bibliográfica, argumenta-se que, apesar dos desafios, existe potencial para o uso ético da inteligência artificial na educação, como no desenvolvimento de agentes morais artificiais. Nesse contexto, a literácia em inteligência artificial emerge como basilar no ensino superior, transcendendo o conhecimento técnico para incluir avaliação crítica, compreensão dos princípios subjacentes, implicações éticas, jurídicas, de equidade e cuidado. Essa literácia conecta-se à cidadania digital e aos princípios educacionais brasileiros. Conclui-se que a literácia em inteligência artificial é um pilar essencial para uma paideia contemporânea, indispensável para orientar o desenvolvimento humano de forma crítica e responsável diante das tecnologias emergentes.

Este artículo tiene como objetivo presentar contrapuntos sobre los rumbos técnicos y éticos de la inteligencia artificial y la adopción de nuevas metodologías para la formación ciudadana, partiendo del concepto griego de paideia. Explica la inteligencia artificial técnicamente como simulación computacional y aprendizaje automático, contrastando esta visión con la común mitificación antropomórfica que genera riesgos éticos para la identidad y la responsabilidad humanas. Utilizando análisis teórico y revisión bibliográfica, argumenta que, a pesar de los desafíos, existe potencial para el uso ético de la inteligencia artificial en la educación, como en el desarrollo de agentes morales artificiales. En este contexto, la alfabetización en inteligencia artificial emerge como fundamental en la enseñanza superior, trascendiendo el conocimiento técnico para incluir evaluación crítica, comprensión de los principios subyacentes, implicaciones éticas, legales, de equidad y cuidado. Esta alfabetización se conecta con la ciudadanía digital y los principios educativos brasileños. Se concluye que la alfabetización en inteligencia artificial es un pilar esencial para una paideia contemporánea, indispensable para orientar el desarrollo humano de forma crítica y responsable frente a las tecnologías emergentes.

This article aims to present counterpoints regarding the technical and ethical directions of artificial intelligence and the adoption of new methodologies for citizen formation, starting from the Greek concept of paideia. It explains artificial intelligence technically as computational simulation and machine learning, contrasting this view with the common anthropomorphic mythification that poses ethical risks to human identity and responsibility. Using theoretical analysis and literature review, it argues that, despite the challenges, there is potential for the ethical use of artificial intelligence in education, such as in the development of artificial moral agents. In this context, artificial intelligence literacy emerges as fundamental in higher education, transcending technical knowledge to include critical evaluation, understanding of underlying principles, ethical, legal, equity, and care implications. This literacy connects to digital citizenship and Brazilian educational principles. It is concluded that artificial intelligence literacy is an essential pillar for a contemporary paideia, indispensable for guiding human development critically and responsibly in the face of emerging technologies.

Ao introduzir a sua obra Paideia: a formação do homem grego, Werner Jaeger começa explicando por que optou por um termo grego para nomear seus escritos e não um mais atual, como civilização, cultura, tradição, literatura ou educação. É que nenhuma palavra atual, explica o autor, expressaria com tanta fidelidade o objetivo da sua investigação: expor a história grega contemplada com os olhos do homem grego e não com olhos modernos. Nenhuma daquelas expressões equivale ao que o homem grego entendia por paideia, conceito muito mais abrangente, e que englobaria todos os outros referidos: “cada um daqueles termos se limita a exprimir um aspecto daquele conceito global e, para abranger o campo total do conceito grego, teríamos de empregá-los todos de uma só vez” (Jaeger, 1966, p. 1).

Originariamente, em seu uso comum, o termo paideia era empregado pelos gregos para designar “o tipo de formação da criança (pais) mais idôneo a fazê-la crescer e tornar-se homem” (Reale, 1975, p. 194). Depois ele passa a ser compreendido entre os filósofos como uma “formação do homem no seu mais alto valor”, para se alcançar a perfeição humana (Reale, 1975, p. 194). E a perfeição para o filósofo grego manifestava-se como contemplação da verdade, forma de conhecimento próprio da filosofia, válido em si mesmo, ao contrário do das ciências e técnicas, dirigido a fins empíricos e particulares. Tais tipos de conhecimento têm seu valor cognoscitivo, no entanto eles não são postos em primeiro plano; eis que são meios para se produzir determinadas vantagens de ordem prática (Reale; Antiseri, 1990, p. 400). O saber filosófico é o único que tem em si mesmo seu valor, por ser ele fim em si mesmo.

A rápida proliferação de ferramentas de inteligência artificial (IA), especialmente modelos de linguagem de grande escala e inteligência artificial generativa, impõe uma reavaliação urgente das metodologias de ensino e aprendizagem no ensino superior. Embora essas tecnologias acenem com oportunidades como personalização do ensino e novas formas de criação, elas simultaneamente intensificam desafios éticos e jurídicos prementes, notadamente vieses algorítmicos, privacidade de dados e a própria definição de autoria e integridade acadêmica. Nesse contexto, a discussão metodológica não pode ser superficial ou meramente técnica; ela exige uma análise crítica e fundamentada sobre como essas ferramentas operam, suas limitações intrínsecas e suas implicações éticas e jurídicas. Avaliar e adaptar as práticas pedagógicas neste novo cenário demanda precisamente o desenvolvimento de uma literácia em IA (AI literacy). Esta literácia transcende o conhecimento técnico, englobando a compreensão dos princípios subjacentes à IA, a capacidade de avaliação crítica de suas aplicações e consequências, e um alinhamento consciente com os objetivos formativos mais amplos da educação superior, incluindo suas dimensões ética e jurídica.

O propósito deste artigo é apresentar contrapontos sobre os rumos técnicos e éticos da inteligência artificial e a adoção de novas metodologias que possam tornar este processo tecnológico viável e útil para a formação dos cidadãos. Nesse sentido, a tecnologia vem agregar valor aos processos pedagógicos, razão porque serão apresentadas reflexões sobre a intrínseca relação entre os processos de formação do indivíduo e a reflexão filosófica sobre o sentido da própria Pedagogia enquanto ciência destinada à reflexão sobre as formas de transmissão (e ratificação, portanto) do ethos humano. Pensar em educação como mera transmissão de saberes técnicos ou mitificar processos meramente computacionais como substitutos da criatividade/espontaneidade/responsabilidade humanas é amesquinhar a essência e o telos desse projeto civilizacional segundo o qual a existência humana se constitui e se pereniza enquanto paideia.

Inteligência artificial como simulação computacional: aspectos epistêmicos

A cognição humana se caracteriza essencialmente por três faculdades: a memorização, o entendimento e o raciocínio. E com esses elementos ela é capaz de criações geniais, construindo tudo o que nos define como seres capazes de objetificar sua espiritualidade (Hegel, 1992) na forma de cultura, a nossa segunda natureza (Aristóteles, 1991). No entanto, os humanos não são dotados de memória imediatamente disponível em tempo real, que contenha tudo apreendido em sua existência. Esta limitação envolve uma outra: não somos capazes de promover análises combinatórias de todos os itens memorizados e a partir deles tirar diversas conclusões, igualmente em tempo real e complexidade combinatória (precisão e detalhamento). Por fim, nosso raciocínio não é dotado de grande velocidade e eficiência para a produção de conhecimento, gastando um longo tempo e intensa energia para conclusões satisfatórias, inclusive pela impossibilidade de operacionalizarmos a revisão imediata dos resultados. Para nos substituir em atividades não criativas é que foram arquitetadas máquinas ditas “inteligentes” pela Ciência da Computação. O propósito da funcionalidade computacional é maximizar nossas habilidades cognitivas, cujo estado da arte foi nomeado “inteligência artificial”, em 1955, por John McCarthy, proeminente pesquisador da área de computação da Universidade de Stanford, em conjunto com outros estudiosos (McCarthy et al., 1955).³

A IA é um campo de estudo da Ciência da Computação, a computação cognitiva, o qual tem por subcampo o chamado aprendizado de máquina ou aprendizagem mecânica (machine learning). Em razão das técnicas dessa área computacional, a qual fora inicialmente nomeada simplesmente “simulação computacional”, ela passa a ser chamada de inteligência artificial por conseguir alcançar um propósito muito bem definido: produzir resultados a partir da conexão entre ideias (expressas em dados), simulando a produção de “conhecimento novo”, atividade exclusiva dos humanos.

O aprendizado de máquina, por sua vez, refere-se a processos computacionais que otimizam a aquisição de informação, exponenciando a execução das tarefas programadas com mais eficiência. Trata-se de um programa algorítmico que cria algoritmos para, segundo o sistema de feedback, preencher lacunas informacionais visando atingir, a partir dos próprios algoritmos existentes, um desempenho ótimo da máquina. E tal projeto ocorre porque os programas vão refinando habilidades a cada vez que repetem as tarefas programadas, numa sucessiva e crescente aquisição de melhores padrões computacionais sem intervenção imediata dos programadores humanos. É nesse sentido que esta aquisição sem intervenção imediata é chamada de “aprendizado”, mas não são nada mais que programas atuando sobre programas. Como esclarecem Rich e Knight, trata-se de “mudanças adaptáveis no sistema, no sentido de que permitem que o sistema, da próxima vez, faça a mesma tarefa ou tarefas tiradas do mesmo grupo com mais eficiência e eficácia” (Rich; Knight, 1993, p. 514).

Transferir nossas tarefas para máquinas, tal como transferimos a locomoção das nossas pernas para pedais de automóveis e o esforço dos nossos braços para uma lavadora de roupas, liberta-nos das necessidades impostas ao nosso corpo, promovendo crescente bem-estar e a longevidade do homo sapiens no planeta. Esta “delegação” de tarefas para máquinas é uma projeção das nossas próprias habilidades (Kapp, 1877) e atinge desempenho infinitamente superior ao que os nossos membros atingiriam: basta observar o poder de uma escavadeira de terra, se comparada às nossas mãos. Os computadores são, na verdade, projeções das habilidades mentais dos humanos, atingindo com maior velocidade e precisão os mesmos resultados que as atividades conectivas do sistema neural do cérebro humano alcançam (Ziviani, 2017). No entanto, como adverte Whitby, o computador nada mais é que “um pateta completamente obediente” executando um algoritmo (padrão de passos simples) para a obtenção de um resultado (Whitby, 2004, p. 38). Os “cálculos matemáticos podem ser quebrados em passos simples que podem ser executados pelo nosso pateta completamente obediente” (Whitby, 2004 apud Brochado, 2023b, p. 294). E, por outro lado, os processos eletrônicos funcionam numa velocidade gigantesca, demorando apenas frações de segundos para se completarem, isto é, “a estupidez tediosa da maneira como os computadores digitais operam é compensada por sua tremenda velocidade” (Whitby, 2004, p. 59-60).

Ocorre que estas conquistas meramente tecno-operacionais são anunciadas ao público leigo de forma não rigorosa tecnicamente, gerando em torno dos feitos da computação uma mística que em nada se assemelha aos processos longos e enfadonhos de construção de programas computacionais, levados a cabo por milhares de programadores que há décadas se dedicam a codificar a linguagem humana e imitar os processos mentais. Não é exagero afirmar que o desafio ético mais evidente sobre o fenômeno técnico chamado “inteligência artificial” não é o que ela de fato promove, mas o que as pessoas acreditam que ela é capaz de realizar. Cria-se no imaginário das novas gerações uma excessiva insegurança quanto aos limites do humano e uma dependência crescente de funcionalidades cognitivas que são ofertadas por computadores a cada dia mais miniaturizados e que têm se tornado extensão da nossa própria corporeidade.

Reflexões da Filosofia da Tecnologia sobre a IA: semântica técnica e desafios éticos

Discutir dilemas éticos sobre o uso da IA é começar por admitir que as habilidades criativas dos nativos digitais estão sujeitas a um processo acelerado e radical de interação humano-máquina, o que pode nos levar a uma hibridização sem precedentes na história evolutiva da nossa espécie. Não se trata de vilanizar o progresso tecnológico, mas de estimular a reflexão sobre as consequências angariadas pela atribuição de qualificativos humanos a seres maquínicos. O conforto de se permitir depender (de) e confiar (em) máquinas supostamente superiores a nós em nossas próprias habilidades traz consigo o risco de desespiritualização da nossa identidade tal como concebemos, definida pela intencionalidade e responsabilidade pelas decisões tomadas (Vaz apud Brochado, 2023a, p. 95) A dependência de uma inteligência artificial que facilita nossa compreensão de mundo e nossas tomadas de decisão é uma moldura tecnológica sedutora para a cloroformização confortável da nossa consciência. Esta vai se tornando letárgica ao se apoiar em soluções maquínicas, tornando-nos progressivamente indiferentes às consequências de nossas escolhas.

É preciso perceber que hoje vivemos uma grave mitificação antropoformizante da inteligência artificial, nos conclamando a refletir sobre nossa vulnerabilidade face a sugestionamentos que nos induzem a tratar desempenho maquínico como habilidades verdadeiramente inteligentes. Cantwell Smith ressalta o fato dos equívocos do entendimento popular sobre os feitos da computação serem também fruto de crenças fantasiosas compartilhadas pelos próprios profissionais da área sobre a capacidade de realização desses processos computacionais (Smith, 2010, p. 40-42). O próprio conceito de algoritmo, que nada mais é que um cálculo preciso com variantes delimitadas, vem sendo tomado por essa aura antropoformizante, de modo que passamos a nos referir a esses processos de cálculos, “os algoritmos”, como verdadeiras entidades à espreita para controlar nossas vidas no imenso sistema dito big data.

É importante ressaltar que os cientistas da computação são bastante pragmáticos ao adotarem analogias para indicar os feitos maquínicos, como o emprego das palavras “inteligência”, “aprendizagem”, “autonomia”, e pouco se importam com a precisão semântica a elas atribuída no campo das ciências humanas, particularmente no da Filosofia. Um bom exemplo pode ser encontrado na obra seminal de Alan Turing, Computing machinery and intelligence, na qual consta um tópico intitulado “máquinas que aprendem”. Nele, Turing argumenta que máquinas “inteligentes” devem ser projetadas como crianças que podem aprender com as informações adquiridas. Então seria necessário submeter estas máquinas a “um percurso educativo similar ao humano, pois supostamente nosso cérebro é parecido com um bloco de notas cheio de papéis em branco e com pouquíssimos mecanismos” (Turing, 1950 apud Brochado, 2023b, p. 227).

É essencial, portanto, compreendermos que a área da computação trata nossas habilidades como procedimentos que alcançam resultados, nada tendo a ver com concepções metafísicas sobre a natureza humana. Por outro lado, somos levados a indagar quais limites éticos devem ser trazidos para este campo científico, questionando apropriações conceituais levianas que podem macular o bem-estar que a inovação tecnológica deve trazer para a sociedade, comprometendo nossas conquistas civilizatórias. Em termos epistemológicos, estamos propondo aqui um exercício crítico sobre um fenômeno técnico, o que acreditamos ser objeto de investigação da Filosofia da Tecnologia e não da própria Ciência da Computação, que, enquanto ciência, ocupa-se dos fundamentos técnicos da IA e não da crítica humanista sobre o sentido (ratio) e os fins (telos) da IA, ou seja, seus fundamentos éticos.

Uma importante área de aplicação da Filosofia da Tecnologia é a “ética computacional”, e neste âmbito, discute-se a possibilidade de conversão da IA a nosso favor por meio de práticas pedagógicas versáteis. A psicometria computacional e a terapia computacional são áreas que se dedicam a desenvolver e utilizar softwares para o aprimoramento intelectual e amadurecimento psíquico dos usuários. Um bom exemplo é o aplicativo Scratch, que tem sido muito eficiente nos processos educativos, pois seu design lúdico estimula a imaginação e a criatividade dos usuários através da interatividade com personagens e cenários programados para envolver crianças e jovens (Aita; Leal; Silva, 2020, p. 421-422). Um desafio atual é desenvolver assistentes pessoais artificiais que manifestem empatia ao interagir com idosos solitários, prestando-lhes suporte emocional (Brochado, 2023a, p. 88). O Kirobo Mini, da Toyota, foi apresentado como um “androide de companhia” (Jornalnh, 2016), inclusive com a preocupação de atender a um novo perfil de jovens japoneses que decidem viver isolados em casa – os Hikikomori (Han, 2018, p. 28-29).

O aprendizado maquínico virtuoso talvez conduza os humanos a patamares morais mais elevados do que supúnhamos, considerando-se que algoritmos devem representar ações simples e detalhadas, exigindo mais cuidado e rigor com a programação de didáticas modelares sobre ações virtuosas, o que pode ser empreendido, inclusive, para facilitar a assimilação do “passo-a-passo” produtor do resultado virtuoso pelos humanos. Com o uso da IA na forma de agentes avatarizados e/ou gamificados, com design apropriado à literácia digital (digital literacy), teríamos usabilidade eticamente saudável da computação para auxiliar pais e professores. Eis que o intelectualismo ético grego é revisitado como expressão máxima de uma (tecno)paideia que reabilita, por meio de máquinas computacionais exemplares, a ética clássica da virtude-ciência (Brochado, 2023a, p. 87).

Literácia em inteligência artificial (AI literacy) para o ensino superior: perspectivas éticas e jurídicas

Com o crescente desenvolvimento e uso da IA, o conceito de literácia em IA ganha proeminência, emergindo tanto como uma obrigação jurídica quanto como um meio de sobrevivência e uma vantagem profissional na sociedade. No entanto, para muitos, permanece um conceito abstrato, com opiniões variadas sobre o que realmente implica e qual conhecimento é essencial. Essa discussão se intensifica à medida que legislações, como o AI Act da União Europeia, cujos quarto artigo e vigésimo recital estabelecem deveres de literácia em IA para provedores e implantadores focados em direitos fundamentais e conformidade, e iniciativas educacionais como as da China ou da Califórnia (Assembly Bill 2876) que definem literácia em IA como conhecimentos, habilidades e atitudes sobre funcionamento, aplicações, limitações e ética da IA, começam a delinear expectativas curriculares e obrigações formais. Paralelamente, a integração da IA em sistemas de ensino superior centraliza a necessidade de entendimento e governança tanto para os processos de aprendizagem, como para a formação de profissionais, comparável à essencialidade do domínio da internet e de suas ferramentas no início dos anos 2000.

Primeiramente, aborda-se uma distinção terminológica no campo educacional brasileiro: a dicotomia entre “literácia” e “letramento”. O termo “letramento”, consolidado no Brasil sob influência dos Novos Estudos do Letramento, transcende a mera decodificação, enfatizando o uso da escrita como prática social inserida em contextos socioculturais e discursivos. Em contrapartida, há “literácia”, termo corrente em Portugal e recentemente adotado em políticas como a Política Nacional de Alfabetização, revogada pela Política do Compromisso Nacional pela Criança Alfabetizada (Brasil, 2019; Brasil, 2023). Embora possa, por vezes, alinhar-se ao conceito de letramento, literácia frequentemente assume uma conotação mais restrita e técnica, focada em habilidades básicas (basic skills) ou conhecimentos fundamentais sobre um tema, podendo negligenciar a complexidade das práticas sociais envolvidas (Castro, 2019).

Corroborando a perspectiva mais ampla frequentemente associada ao letramento, Barton e Hamilton (2000, p. 8) definem a literácia (no original, literacy) como um “conjunto de práticas sociais” inferidas de eventos mediados por textos escritos e associadas a distintos domínios da vida. Essas práticas, argumentam, são moldadas por instituições sociais e relações de poder, historicamente situadas, intencionais e dinâmicas. Bartlett (2008), aprofundando essa visão, contrasta o “modelo ideológico” da literácia – que a vê como intrinsecamente ligada a estruturas culturais e de poder, reconhecendo a variedade de práticas e seus significados contextuais – com o “modelo autônomo”, prevalente em discursos de desenvolvimento e políticas públicas. Este último tende a tratar a literácia como uma habilidade neutra, descontextualizada, com “efeitos” ou “consequências” automáticas e universais, por exemplo, mobilidade econômica ou engajamento político.

Bartlett (2008) critica essa visão reducionista, argumentando que “definições de literácia não são inocentes” e que a própria ideia de “efeitos” automáticos é falha. Sua pesquisa etnográfica no Brasil demonstrou que a mobilidade econômica de estudantes em programas de alfabetização derivava mais das redes sociais cultivadas na escola do que das habilidades de leitura e escrita aprendidas nela, e que o engajamento político aumentava não pela literácia per se, mas pela organização explícita para participação em eventos políticos. Portanto, deve-se ter como chave de leitura para este artigo o combate à suposição de que a literácia em IA garantirá automaticamente empoderamento ou cidadania digital responsável.

É necessário também retomar os conceitos relacionados precedentes, como a literácia computacional (computer literacy) e a literácia da informação (information literacy). A literácia computacional, popular nos anos 80, focava-se principalmente num conjunto de competências práticas para operar hardware e software comuns de forma eficaz (Bawden, 2001). Já a literácia da informação, que ganhou destaque nos anos 90 e foi amplamente promovida pela comunidade bibliotecária, começou também com um foco em competências (identificar a necessidade de informação, encontrar, avaliar, organizar e usá-la – como no modelo da American Library Association de 1989), mas gradualmente alargou-se para incluir aspetos mais cognitivos, como a avaliação crítica da informação e a compreensão da natureza dos recursos informativos, tanto digitais como impressos (Bawden, 2008). Visões alternativas, como a de Bruce (1997), viam-na menos como um processo linear e mais como um conjunto de atributos de uma pessoa informacionalmente letrada (aprendizagem autodirigida, pensamento crítico, conhecimento do mundo da informação).

A literácia digital, popularizada por Paul Gilster (1997), representa um avanço nesse campo de competências. Gilster definiu-a não apenas como um conjunto de competências técnicas (keystrokes), mas como uma capacidade mais abrangente de compreender e usar informação proveniente de diversas fontes digitais, considerando-a essencialmente como a literácia na era digital (Bawden, 2008). Para Gilster, tratava-se de “dominar ideias, não teclas”, envolvendo pensamento crítico, capacidade de reunir conhecimento de múltiplas fontes (incluindo não digitais), navegar em hipertexto e avaliar conteúdo online (Gilster, 1997). É uma forma de pensar, uma mentalidade adaptada ao ambiente de informação em rede, mas que valoriza a integração com fontes tradicionais. A Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO) já tem utilizado o termo literácia na compreensão “computacional”, isto é, de habilidades ligadas à relação máquina-homem (Unesco, 2004).

Neste contexto, a literácia em inteligência artificial emerge como a mais recente necessidade de literácia e baseia-se em literácias anteriores. Foi definida por Long e Magerko (2020) como um conjunto de competências que permite aos indivíduos avaliar criticamente as tecnologias de IA, comunicar e colaborar eficazmente com a IA, e utilizá-la como uma ferramenta online, em casa e no trabalho.

A literácia digital, como compreensão e uso crítico da informação digital, é um pré-requisito para a literácia em inteligência artificial. Assim como a literácia digital transcende a mera habilidade técnica (literácia computacional), a literácia em inteligência artificial também vai além da simples capacidade de usar uma ferramenta de IA; exige compreensão conceitual e avaliação crítica. A literácia da informação, com a sua ênfase na avaliação de fontes e no pensamento crítico, é igualmente relevante, dada a natureza muitas vezes opaca e baseada em dados da IA.

As competências da literácia em IA (reconhecer uma IA, compreender inteligência, saber o que a IA pode/não pode fazer, como funciona conceptualmente, como deve ser usada eticamente, e como as pessoas a percebem) refletem esta necessidade de ir além das competências técnicas, focando-se na compreensão, avaliação crítica e no uso informado e ético, em linha com a evolução dos conceitos de literácia na era digital e da informação.

Bali (2024), por exemplo, destaca que ao decidir como integrar (ou não) a IA, particularmente no ensino, precisamos considerar dimensões adicionais, indo além da compreensão técnica e ética da ferramenta. Bali propõe que uma abordagem mais holística deve incluir: (1) Literácia da equidade (equity literacy), sendo inspirada no trabalho de Paul Gorski, esta literácia vai além de reconhecer o viés dentro dos algoritmos de IA ou as desigualdades no acesso. Exige uma consciência profunda das questões de justiça social e das múltiplas camadas de iniquidade (sistêmica, institucional, interpessoal, internalizada) que o uso da IA pode exacerbar, reproduzir ou, potencialmente, reduzir. Implica questionar quais grupos podem ser injustamente favorecidos ou desfavorecidos pela adoção da IA e trabalhar ativamente para mitigar essas injustiças; (2) Literácia do cuidado (care literacy), que refere-se a como a utilização da IA afeta o bem-estar dos estudantes, a confiança, o sentido de comunidade e as relações na sala de aula (ou noutros contextos). Bali defende um “cuidado socialmente justo”, que não sobrecarregue alguns indivíduos com trabalho afetivo, mas abordado com compaixão, centrando a agência e a participação do aprendiz. A introdução da IA deve ser avaliada pelo seu impacto nestas dinâmicas humanas; (3) Filosofia de ensino, propondo que a decisão de usar IA deve alinhar-se com a filosofia pedagógica do educador (ou os valores de uma organização/indivíduo). A IA deve apoiar esses valores e objetivos, e não ir contra eles. Não se trata apenas de adaptar avaliações para contornar o uso da IA pelos alunos, mas de uma reflexão profunda sobre como a tecnologia se encaixa (ou não) na visão de aprendizagem e interação; (4) Literácia em educação tecnológica (EdTech), a qual busca uma avaliação crítica geral de qualquer tecnologia, questionando se ela acrescenta valor real, se ajuda a fazer algo inovador com um valor percebido pela sociedade ou algo antigo de forma melhor, e se os benefícios superam os riscos (privacidade, custo, dependência, etc.).

Na DCE, iniciativa governamental com foco na garantia da educação e da cidadania no ambiente digital e promovida pelo Conselho da Europa em 2022 e 2023, verifica-se a produção de um material em formas de cartilhas que se encaminham para uma reflexão crítica da literácia em IA. A DCE se propõe a fornecer noções básicas para viver de forma responsável e ética no ambiente digital, no qual a IA opera cada vez mais. As dez dimensões da DCE são agrupadas em: (1) “Estar online” (acesso e inclusão; aprendizagem e criatividade; literácia mediática e da informação); (2) “Bem-estar online” (ética e empatia; saúde e bem-estar; presença eletrônica e comunicações), e (3) “Direitos online” (participação ativa; direitos e responsabilidades; privacidade e segurança; consciência do consumidor). Elas oferecem um contexto essencial para a literácia em IA.

Bhat e Long (2024) destacam que grande parte das iniciativas de literácia em IA são focadas no chamado K-12.⁴, equivalente à educação básica obrigatória no Brasil (conforme o inciso I do artigo 208 da Constituição de 1988), razão pela qual muitas dessas políticas são inadequadas para suprir as necessidades específicas do público adulto enfrentando com mais dificuldade a complexidade e opacidade desses sistemas de IA, especialmente para os adultos sem formação técnica.

Para preencher essa lacuna, Bhat e Long (2024) propõem e descrevem o desenvolvimento de três ferramentas interativas baseadas na web (The Art of Edge Detection, Confidence Calibration Explorer, Toggling Sensitivity in Machine Learning), projetadas especificamente para promover a literácia em IA entre adultos novatos por meio da aprendizagem prática (learning-by-doing). Fundamentadas em teorias como o construtivismo, princípios de aprendizagem de adultos (autodirecionamento e aplicação prática), essas ferramentas permitem aos usuários manipular diretamente parâmetros de modelos de IA (como tamanho do desfoque, limiares de decisão, sensibilidade) em contextos específicos (detecção de bordas, pontuações de confiança, reconhecimento de gestos) e observar os resultados em tempo real.

No contexto nacional, a Estratégia Brasileira de Inteligência Artificial (EBIA), particularmente em seu Eixo 2 (“Difusão, Formação e Capacitação”), delineia um panorama para a literácia e a formação em IA que tangencia o ensino superior de diversas formas (Brasil, 2024). Embora exista uma ação abrangente de “literácia digital em IA” (Ação 14) voltada à população geral, ela prevê parcerias com universidades para workshops e mentoria, indicando um papel do ensino superior na difusão do conhecimento. Mais diretamente, a EBIA investe na formação especializada através de “Bolsas de IA para Graduação e Pós-Graduação” (Ação 17) e “Bolsas de doutorado de IA no Exterior” (Ação 18), visando aumentar a oferta de profissionais e pesquisadores altamente qualificados. Outras ações focam na “Qualificação Profissional em IA” (Ação 19), “IA para Educação e Trabalho” (Ação 20) e “Residência em Tecnologias da Informação e Comunicação – IA” (Ação 21), que, embora voltadas ao mercado de trabalho, conectam-se com a formação superior ao capacitarem egressos e promoverem parcerias com o setor privado. Contudo, apesar do claro investimento na formação de especialistas e na qualificação profissional, os detalhes sobre como integrar a literácia em IA de forma ampla e transversal nos currículos de todos os cursos superiores, para além das áreas de tecnologia, ainda parecem menos explícitos na estratégia.

A política pública de literácia em IA no ensino superior, no contexto do ordenamento jurídico brasileiro, deve ser informada pelos princípios constitucionais da educação, que visa o “pleno desenvolvimento da pessoa, seu preparo para o exercício da cidadania e sua qualificação para o trabalho”, conforme o artigo 205 da Constituição da República de 1988 (Brasil, 1988), garantindo que a formação tecnológica contribua para esses fins maiores.

A Constituição da República de 1988, no artigo 207, e a Lei de Diretrizes e Bases da Educação Nacional (LDB), no artigo 53, enunciam a autonomia didático-científica das universidades (Brasil, 1988; Brasil, 1996), conferindo a essas instituições a prerrogativa e a responsabilidade de incorporar a literácia em IA em seus currículos, projetos de pesquisa e atividades de extensão. Essa autonomia permite que cada universidade adapte a abordagem da literácia em IA à sua missão e filosofia pedagógica, alinhando-a aos seus valores. A indissociabilidade entre ensino, pesquisa e extensão, exposta no artigo 207 da Constituição Federal, encontra na literácia em IA um campo fértil: ela deve ser ensinada, deve ser objeto de pesquisa (tanto no desenvolvimento da tecnologia quanto na análise de seus impactos e métodos de ensino). Além disso, conforme o sétimo tópico do artigo 43 da LDB, tais conhecimentos devem ser estendidos à comunidade, promovendo a cidadania digital e a compreensão do que é IA pela sociedade.

Nesse sentido, os princípios que regem o ensino no Brasil, descritos no artigo 206 da Constituição de 1988, ganham uma nova perspectiva frente à literácia de IA para a formação superior. O princípio da igualdade de condições para acesso e permanência (Inciso I) conecta-se diretamente à literácia da equidade, exigindo que a introdução da IA na educação não aprofunde desigualdades, mas promova a inclusão digital e algorítmica. A liberdade de aprender, ensinar e pesquisar (Inciso II) e o pluralismo de concepções pedagógicas (Inciso III) asseguram o espaço para explorar criticamente a IA, incluindo debates éticos e sobre justiça social no contexto da concepção e dos usos da IA. A garantia de padrão de qualidade (Inciso VII) implica, na atualidade, preparar os estudantes para lidar com a IA, tornando a literácia em IA um componente essencial dessa qualidade. Adicionalmente, o direito à educação e aprendizagem ao longo da vida (Inciso IX) ressalta a relevância da literácia em IA, dada a rápida evolução da IA e sua exigência por atualização contínua.

A análise da literácia em IA para o ensino superior revela que sua importância transcende a aquisição de competências operacionais, inserindo-se no cerne do desafio ético contemporâneo de compreender e moldar a intrincada relação humano-máquina. Superando as visões reducionistas ou meramente técnicas, e informada pela trajetória das literácias precedentes e pela crítica ao modelo autônomo (Bartlett, 2008), a literácia em IA aqui delineada – integrando a avaliação crítica (Long; Magerko, 2020), as dimensões de equidade e cuidado (Bali), a cidadania digital (DCE) e os imperativos constitucionais e legais que informam a política educacional brasileira para o ensino superior – emerge como um pilar fundamental da paideia na era digital. Não se trata apenas de uma ferramenta de adaptação ou de conformidade jurídica, mas de uma condição essencial para navegar as complexidades éticas e sociais da IA, fomentando um discernimento crítico que pode, potencialmente, guiar nossa coevolução intelectual e moral com essas tecnologias emergentes, afastando-nos tanto da tecnofobia paralisante quanto da tecnofilia acrítica.

O pano de fundo comum a todas as questões aqui trazidas é certamente o maior desafio ético no atual estágio da civilização da técnica: compreender a relação humano-máquina como mecanismo de aprendizado em prol da nossa evolução intelectual e moral. Ao contrário do que supõem os tecnofóbicos mais radicais, o binômio “maquinização humana/humanização maquínica” talvez seja o prelúdio de um (trans)humano⁵ mais evoluído moralmente e amadurecido espiritualmente.

Deve-se, portanto, iniciar por desmistificar a natureza da inteligência artificial. Longe de ser uma entidade consciente ou autônoma, a IA permanece uma sofisticada ferramenta de simulação computacional, uma projeção de nossas próprias habilidades cognitivas, otimizada para tarefas específicas, mas fundamentalmente um “pateta obediente”, como adverte Whitby (2004). A persistente tendência à antropomorfização, alimentada por uma semântica técnica muitas vezes imprecisa e pelo fascínio popular, representa um dos maiores riscos éticos, pois obscurece a real natureza maquínica e fomenta uma dependência que pode levar à “cloroformização confortável da nossa consciência” e a uma indesejada “desespiritualização” (Spencer, 1870, p. 634; Spencer, 1878, p. 556).

Diante desse cenário, a reflexão filosófica sobre a tecnologia torna-se relevante, não para vilanizar o progresso, mas para questionar o sentido (ratio) e os fins (telos) da IA. Este artigo aventou a possibilidade de reverter o risco de alienação, propondo um uso ético e pedagógico da IA alinhado ao ideal de paideia. Nesse contexto, a literácia em IA, compreendida não como mera habilidade técnica, mas como um conjunto de práticas sociais críticas, éticas e juridicamente informadas – atentas à equidade, ao cuidado e aos valores fundamentais, como discutido na análise das perspectivas críticas da literatura e do alcance normativo e principiológico da legislação do ensino superior, revela-se uma competência indispensável. É essa literácia que permitirá aos indivíduos e às instituições, especialmente no ensino superior, navegar as complexidades da IA, discernir seus usos benéficos e alinhar seu potencial transformador aos objetivos perenes da formação humana integral, garantindo que a tecnologia sirva à evolução do espírito, e não ao seu amesquinhamento.

Declara-se que o manuscrito contou com utilização da ferramenta de Inteligência Artificial Claude estritamente para revisão da normalização da ABNT previamente à submissão da primeira versão, em abril de 2025.

AITA, Keylla Maria de Sá Urtiga; LEAL, Lucas Borges; SILVA, Aline Montenegro Leal. Terapia Computacional: uma vivência voltada para o tratamento de pacientes com transtornos psíquicos mediado pela ferramenta Scratch. In: CONGRESSO BRASILEIRO DE INFORMÁTICA NA EDUCAÇÃO, 9., 2020, Natal. Anais [...] Natal: Universidade Federal do Rio Grande do Norte/Instituto Federal de Educação, Ciência e Tecnologia do Rio Grande do Norte; Porto Alegre: Sociedade Brasileira de Computação, 2020, p. 419-428. Disponível em: https://sol.sbc.org.br/index.php/wie/article/view/12634/12501. Acesso em: 22 abr. 2025.

ARISTÓTELES. Ética a Nicômaco. Tradução: Leonel Vallandro e Gerd Bornheim. 4. ed. São Paulo: Nova Cultural, 1991.

BARTON, David; HAMILTON, Mary. Literacy practices. In: BARTON, David; HAMILTON, Mary; IVANIC, Roz (org.). Situated literacies: reading and writing in context. Londres: Routledge, 2000, p. 7-15.

BAWDEN, David. Information and digital literacies: a review of concepts. Journal of Documentation, Leeds, v. 57, n. 2, p. 218-259, 2001.

BHAT, Maalvika; LONG, Duri. Designing Interactive Explainable AI Tools for Algorithmic Literacy and Transparency. In: DIS ’24: DESIGNING INTERACTIVE SYSTEMS CONFERENCE, 2024, Copenhagen Denmark. Designing Interactive Systems Conference. Copenhagen Denmark: ACM, 2024. p. 939-957. DOI: https://doi.org/10.1145/3643834.3660722. Disponível em: https://dl.acm.org/doi/10.1145/3643834.3660722. Acesso em: 29 abr. 2025.

BRASIL. Lei n° 9.394, de 20 de dezembro de 1996. Estabelece as diretrizes e bases da educação nacional. Brasília, DF: Presidência da República, [20--]. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l9394.htm. Acesso em: 29 abr. 2025.

BROCHADO, Mariah. Inteligência artificial no horizonte da filosofia da tecnologia: técnica, ética e direito na era cybernética. São Paulo: Editora Dialética, 2023b.

BRUCE, Christine. The seven faces of information literacy. Adelaide: Auslib Press, 1997.

CASTRO, Tamara. Letramento e/ou literácia? Distinções e aproximações. São Paulo: Centro de Estudos e Pesquisas em Educação, Cultura e Arte Comunitária, 2019. Disponível em: https://profemarli.com/letramento-e-ou-literacia. Acesso em: 15 fev. 2025.

HAN, Byung-Chul. No enxame: perspectivas do digital. Tradução: Lucas Machado. Petrópolis: Vozes, 2018.

HEGEL, Georg Wilhelm Friedrich. Fenomenologia do espírito: parte I. Tradução: Paulo Meneses e Karl-Heinz Efken. 2. ed. Petrópolis: Editora Vozes, 1992.

JAEGER, Werner. Paideia. A formação do homem grego. Tradução: Artur M. Parreira. São Paulo: Editora Herder, 1966.

JORNALNH. Toyota apresentou o Kirobo Mini, um pequenino robô destinado a fazer companhia a humanos solitários. Publicado pelo canal Jornal NH, 2016. 1 vídeo (1 min). Disponível em: https://www.youtube.com/watch?v=Ol5VoC9Feqc. Acesso em: 5 fev. 2026.

KAPP, Ernst. Grundlinien einer Philosophie der Technik: zur Entstehungsgeschichte der Kultur aus neuen Gesichtspunkten (1877). Hamburgo: Felix Meiner Verlag, 2015.

LONG, Duri; MAGERKO, Brian. What is AI Literacy? Competencies and Design Considerations. In: CHI CONFERENCE ON HUMAN FACTORS IN COMPUTING SYSTEMS, 2020, Honolulu. Anais […] Honolulu: ACM, 2020, p. 1-16. DOI: https://doi.org/10.1145/3313831.3376727. Disponível em: https://dl.acm.org/doi/10.1145/3313831.3376727. Acesso em: 29 abr. 2025.

MCCARTHY, John; MINSKY, Marvin; ROCHESTER, Nathaniel; SHANNON, Claude Elwood. A proposal for the dartmouth summer research project on artificial intelligence. Stanford: John McCarthy Archive, 1955. Disponível em: http://www-formal.stanford.edu/jmc/history/dartmouth.html. Acesso em: 20 abr. 2025.

REALE, Giovanni. História da filosofia antiga. 10. ed. Tradução: Henrique C. de Lima Vaz e Marcelo Perine. São Paulo: Loyola, 1975.

REALE, Giovanni; ANTISERI, Dario. História da filosofia: antiguidade e idade média: volume I. Tradução: Álvaro Cunha. 3. ed. São Paulo: Paulus, 1990.

RICH, Elaine; KNIGHT, Kevin. Inteligência artificial. Tradução: Maria Cláudia Santos Ribeiro Ratto. São Paulo: Makron Books, 1993.

SMITH, Brian Cantwell. Age of significance. 2010. Disponível em: www.ageofsignificance.org. Acesso em: 20 abr. 2025.

SPENCER, Herbert. Consciousness under chloroform. Mind, Oxford, v. 3, n. 12, p. 555-558, 1878. Disponível em: https://www.jstor.org/stable/2246759?seq=1. Acesso em: 5 jul. 2026.

SPENCER, Herbert. The principles of psychology. 2. ed. Londres: Williams and Norgate, 1870.

TOURETZKY, David; GARDNER-MCCUNE, Christina; MARTIN, Fred; SEEHORN, Deborah. Envisioning AI for K-12: what should every child know about AI?. Proceedings of the AAAI Conference on Artificial Intelligence, Washington, v. 33, n. 01, p. 9795-9799, 2019. DOI: https://doi.org/10.1609/aaai.v33i01.33019795. Disponível em: https://ojs.aaai.org/index.php/AAAI/article/view/5053. Acesso em: 29 abr. 2025.

UNESCO. The Plurality of Literacy and Its Implications for Policies and Programmes. UNESCO Education Sector Position Paper. Paris: UNESCO, 2004. Disponível em: https://rmportal.net/library/content/136246e-1.pdf. Acesso em: 30 abr. 2025.

WHITBY, Blay. Inteligência artificial: um guia para iniciantes. Tradução: Claudio Blanc. São Paulo: Madras, 2004.

Professora Titular de Filosofia da Tecnologia e do Direito na Faculdade de Direito da Universidade Federal de Minas Gerais (UFMG). Doutora (2003), Mestre (2000) e Especialista (1999) em Direito pela UFMG, com Pós-Doutorado em Filosofia pela Ruprecht-Karls-Universität Heidelberg, Alemanha (Bolsa Capes Sênior – 2012/2013). Professora Visitante no Leibniz Institut für Medienforschung – Universität Hamburg, Alemanha (Bolsa CAPES PrInt-2023). Membro do Instituto Nacional de Ciência e Tecnologia IACiber – Inteligência Artificial para a Segurança Cibernética da UFMG. Coordenadora da Cátedra PhiloTech: Filosofia da Tecnologia aplicada ao Direito Digital/Centro de Excelência Jean Monnet (UE/UFMG).

Doutor em Direito pela Universidade Federal de Minas Gerais (UFMG). Bacharel em Direito e Ciências Socioambientais pela UFMG. Especialista em Design Digital. Associado da Design Research Society, Society for Philosophy of Technology e Association for Computing Machinery. Defensor Público do Estado do Paraná.

1 Universidade Federal de Minas Gerais, Belo Horizonte, MG, Brasil.

ORCID ID: https://orcid.org/0000-0001-5863-7360. E-mail: mbrochado@ufmg.br.

2 Defensoria Pública do Estado do Paraná, Curitiba, PR, Brasil.

ORCID ID: https://orcid.org/0000-0002-6046-4961. E-mail: lucas.mporto@defensoria.pr.def.br.

3 A carta-proposta para o “Dartmouth Summer Research Project on Artificial Intelligence”, datada de 31 de agosto de 1955 e assinada por John McCarthy, Marvin Minsky, Nathaniel Rochester e Claude Shannon, delineou um estudo de verão para 1956. O documento partia da premissa fundamental de que “todo aspecto de aprendizado ou qualquer característica da inteligência consegue, por princípio, ser tão precisamente descrito que uma máquina pode ser criada para simulá-lo”. O objetivo era investigar como máquinas poderiam usar linguagem, formar abstrações e conceitos, resolver problemas humanos e auto aperfeiçoar-se. As áreas de pesquisa propostas incluíam: 1) Capacidades dos computadores automáticos e programação; 2) Uso de linguagem por computadores; 3) Redes neurais para formação de conceitos; 4) Teoria da complexidade e eficiência computacional; 5) Autoaperfeiçoamento de máquinas; 6) Mecanismos de abstração; 7) Relação entre aleatoriedade e criatividade no pensamento (McCarthy et al., 1955).

4 O termo "K-12" refere-se ao sistema de educação formal nos Estados Unidos que abrange desde o jardim de infância (kindergarten, 'K') até o 12º ano (12th grade) (Touretzky et al., 2019).

5 Transumanismo é, em linhas gerais, um movimento intelectual que defende o uso de biotecnologias e tecnologias convergentes para ampliar as capacidades humanas para além dos limites biológicos naturais, sem que isso implique a negação do humano (Vilaça, 2022).