Dimensões e enfoques alternativos para um modelo de letramentos críticos de inteligência artificial

Marcelo El Khouri Buzato; Priscila Gonsales

Autores

Marcelo El Khouri Buzato Universidade de Campinas (UNICAMP)
Priscila Gonsales Universidade de Campinas (UNICAMP)

Palavras-chave:

inteligência artificial, letramento digital, dataficação, assemblagens cognitivas, ChatGPT

Resumo

Este ensaio propõe um modelo de múltiplas dimensões, baseado em um enfoque filosófico alternativo da interação humano - IA para subsidiar o debate sobre agendas de pesquisa, práticas e políticas educacionais voltadas para a promoção de letramentos críticos de inteligência artificial (IA) na sociedade brasileira. Aborda, particularmente, sistemas conexionistas opacos de IA generativa baseados em grandes modelos de linguagem natural acessíveis online ou por aplicativos ao público leigo hoje no Brasil. Nossa pesquisa bibliográfica de revisões internacionais pertinentes mostrou que, em vista da dimensão “fundacional” dessa tecnologia, há a necessidade de considerarem-se dimensões adicionais dos seus impactos socioculturais, éticos e epistêmicos, assim como de se propor enfoques alternativos sobre os eventos e práticas de letramento a eles associados para que se possa imaginar, debater e investigar letramentos críticos de IA de maneira alinhada à proposta de uma Linguística Aplicada Pós-humanista Crítica, feita por Alastair Pennycook em anos recentes. Em lugar de tratar esse tipo de sistema discursivamente por meio de metáforas e personificações que mistificam seu funcionamento, e que separam sujeito (humano) e objeto (ferramenta) do conhecimento, propomos uma visão ecológica da IA como assemblagem cognitiva (IA = máquinas + humanos), tal qual proposta por Katherine Hayles. Ademais, propomos a aplicação de princípios da pós-fenomenologia da tecnologia à análise dos eventos de letramento performados entre humanos e agentes de IA generativa de textos, facilitando o estudo de como a interface de linguagem natural habilita os efeitos de sentido de “inteligência” e “quase-subjetividade” ao agente de IA. Concluímos com exemplos ilustrativos de como o modelo pode ser utilizado por formuladores de políticas e metodólogos de educação crítica para nortear atividades educacionais e/ou por linguistas aplicados que desejem investigar esses eventos de letramento por essa ótica pós-humanista.

Downloads

Os dados de download ainda não estão disponíveis.

Referências

ALVES, M. A. S.; ANDRADE, O. M. Autonomia individual em risco? Governamentalidade algorítmica e a constituição do sujeito. Cadernos Metrópole, v. 24, n. 55, p. 1007-1024, 2022. Disponível em: http://www.scielo.br/scielo.php?script=sci_arttext&pid=S2236-99962022000301007&tlng=pt. Acesso em: 4 ago. 2024.

ANGELO, T. N. Behaviorismo Radical e Inteligência Artificial: Contribuições além das Ciências Cognitivas. Campinas: Faculdade de Engenharia Elétrica e Computação da UNICAMP, 2011. Disponível em: https://www.dca.fee.unicamp.br/~gudwin/courses/IA889/2011/IA889-19.pdf. Acesso em: 11 de mar. 2025.

BATESON, G. The Cybernetics of “Self”: a theory of alcoholism. Psychiatry, v. 34, n. 1, p. 1-18, 1971.

BATESON, G. Steps to an ecology of mind. Northvale, NJ: Aronson, 1987.

BIDARRA, J. et al. Artificial Intelligence in Teaching (AIT): A road map for future developments. Comissão Europeia, 2020. Disponível em: https://www.researchgate.net/publication/342214907_Artificial_Intelligence_in_Teaching_AIT_A_road_map_for_future_developments. Acesso em: 20 jun. 2023.

BIJKER, W. E. Of bicycles, bakelites, and bulbs: toward a theory of sociotechnical Change. Cambridge, MA: MIT Press, 1997.

BOLTER, J. D.; GRUSIN, R. A. Remediation: understanding new media. Cambridge, Mass.: MIT Press, 2000.

BRAIDOTTI, Rosi. A Theoretical Framework for the Critical Posthumanities. Theory, Culture & Society, v. 36, n. 6, p. 31-61, 2019. Disponível em: http://journals.sagepub.com/doi/10.1177/0263276418771486. Acesso em: 21 nov. 2020.

BUZATO, M. E. K. Letramento e inclusão: do estado-nação à era das TIC. DELTA: Documentação de Estudos em Lingüística Teórica e Aplicada, v. 25, n. 1, p. 01-38, 2009.

BUZATO, M. E. K. Letramentos em rede: textos, máquinas, sujeitos e saberes em translação. Revista Brasileira de Linguística Aplicada, v. 12, n. 4, p. 783-809, 2012.

BUZATO, M. E. K. Mapping Flows of Agency in New Literacies: Self and Social Structure in a Post-social World. In: JUNQUEIRA, E. S.; BUZATO, M. E. K. (org.). New Literacies, New Agencies: a Brazilian perspective. New York: Peter Lang, 2013a. (New Literacies and Digital Epistemologies). p. 22-49.

BUZATO, M. E. K. Práticas de letramento na ótica da Teoria Ator-Rede: casos comparados. Calidoscópio, v. 10, n. 1, p. 65-82, 2012.

BUZATO, M. E. K. Towards a theoretical mashup for studying posthuman/postsocial ethics. Journal of Information, Communication and Ethics in Society, v. 15, n. 1, p. 74-89, 2017.

BUZATO, M. E. K. Towards an interdisciplinary ICT applied ethics: language matters. Revista Brasileira de Linguística Aplicada, v. 16, n. 3, p. 493-519, 2016.

BUZATO, M. E. K. Inteligência artificial, pós-humanismo e Educação: entre o simulacro e a assemblagem. Dialogia, São Paulo, n. 44, p. 1-20, e23906, jan./abr. 2023. DOI: https://doi.org/10.5585/44.2023.23906.

BUZATO, M. E. K.; LEITE, A. L. M. Escrita generativa algorítmica e universidade pós-humanista: a redação do ENEM na grande assemblagem cognitiva. Fórum Linguístico, v. 21, n. 1, p. 10092-10111, 2024.

BRASIL. Diretrizes curriculares do novo Ensino Médio Ministério da Educação, 2018. Disponível em: http://portal.mec.gov.br/index.php?option=com_docman&view=download&alias=98291-texto-referencia-consulta-publica&category_slug=outubro-2018-pdf-1&Itemid=30192. Acesso em: 1 jun. 2023.

BRIDLE, J. A nova idade das trevas: a tecnologia e o fim do futuro. São Paulo: Todavia, 2019.

BRUNO, F. G.; BENTES, A. C. F.; FALTAY, P. Economia psíquica dos algoritmos e laboratório de plataforma: mercado, ciência e modulação do comportamento. Revista FAMECOS, v. 26, n. 3, p. 33095, 27, 2019.

CANTARINI, P. “Ghost work” e “big data”: uma nova forma de servidão e de colonialismo? Jornal da USP, São Paulo, 11 jan. 2024. Artigos. Disponível em: https://jornal.usp.br/artigos/ghost-work-e-big-data-uma-nova-forma-de-servidao-e-de-colonialismo/. Acesso em: 4 ago. 2024.

CARABANTES, M. Black-box artificial intelligence: an epistemological and critical analysis. AI & SOCIETY, v. 35, n. 2, p. 309-317, 2020.

CHENEY-LIPPOLD, J. We are data: algorithms and the making of our digital selves. New York: New York University Press, 2017.

DREYFUS, H. L. What computers still can’t do: a critique of artificial reason. Cambridge, Mass: MIT Press, 1992.

FLORIDI, L. AI as Agency Without Intelligence: On ChatGPT, Large Language Models, and other generative models. SSRN Electronic Journal, 2023. Disponível em: https://www.ssrn.com/abstract=4358789. Acesso em: 7 mar. 2023.

GILLESPIE, T. The Relevance of Algorithms. In: GILLESPIE, T.; BOCZKOWSKI, P.; FOOT, K. (Org.). Media Technologies. Cambridge, MA: MIT Press, 2014.

GONSALES, P. Inteligência além da artificial, educar para o pensar complexo. São Paulo: Z Edições, 2022.

GONSALES, P. IA, Educação e Contemporaneidade: dos ambientes às assemblagens. Passagens: Revista do Programa de Pós-Graduação em Comunicação da Universidade Federal do Ceará, [S. l.], v. 14, n. especial, p. 54-82, 2023. DOI: 10.36517/psg.v14iespecial.88632. Disponível em: https://periodicos.ufc.br/passagens/article/view/88632. Acesso em: 11 mar. 2025.

GOODY, J.; WATT, I. The Consequences of Literacy. Comparative Studies in Society and History, v. 5, n. 03, p. 304, 1963.

GOURLAY, L. Posthuman texts: nonhuman actors, mediators and the digital university. Social Semiotics, v. 25, n. 4, p. 484-500, 2015. Disponível em: http://www.tandfonline.com/doi/full/10.1080/10350330.2015.1059578. Acesso em: 24 out. 2020.

GOURLAY, L. Posthumanism and the digital university: texts, bodies and materialities. London, New York, Oxford, New Delhi, Sydney: Bloomsbury Academic, 2022.

GOURLAY, L. Recorporificando a universidade digital. In: SANTOS, G. M. dos; ROSADO, L. A. da S.; CARVALHO, J. de S. (org.). Educação e tecnologia: abordagens críticas. Rio de Janeiro: Seses, 2017. p. 410-422.

GUTIÉRREZ, M. Participation in a datafied environment: questions about data literacy. Comunicação e sociedade [Online]. 2019. Disponível em: http://journals.openedition.org/cs/1453. Acesso em: 12 set. 2023.

HAYLES, N. K. Unthought: The power of the cognitive nonconscious. Chicago and London: University of Chicago Press, 2017.

HAYLES, N. K. How we became posthuman: virtual bodies in cybernetics, literature, and informatics. Chicago, Ill: University of Chicago Press, 1999.

HAYLES, N. K. How we think: digital media and contemporary technogenesis. Chicago: The University of Chicago Press, 2012.

HAYLES, N. K. Unfinished work: from cyborg to cognisphere. Theory, Culture & Society, v. 23, n. 7-8, p. 159-166, 2006.

HEIDEGGER, M. The Question Concerning Technology. The question concerning technology, and other essays. Tradução de William Lovitt. New York: Harper, 1977. p. 3-35.

HUANG, Zhen. Introducing Neuro-Symbolic Artificial Intelligence to Humanities and Social Sciences: Why Is It Possible and What Can Be Done?. TEM Journal, p. 1863-1870, 2022. Disponível em: https://www.temjournal.com/content/114/TEMJournalNovember2022_1863_1870.html. Acesso em: 2 ago. 2024.

HUTCHINS, E. Cognition in the wild. Nachdr. Cambridge: MIT Press, 2000.

IHDE, Don. Technology and the lifeworld: from garden to earth. Bloomington: Indiana University Press, 1990.

ISOTANI, S.; BITTENCOURT, I. I. Inteligência Artificial na Educação. São Paulo: CIEB, 2019. Disponível em: https://cieb.net.br/wp-content/uploads/2019/11/CIEB_Nota_Tecnica16_nov_2019_digital.pdf. Acesso em: 2 jun. 2023.

KITCHIN, R. Thinking critically about and researching algorithms. Information, Communication & Society, v. 20, n. 1, p. 14-29, 2017. Disponível em: https://www.tandfonline.com/doi/full/10.1080/1369118X.2016.1154087. Acesso em: 29 mar. 2022.

KOETSIER, T. On the prehistory of programmable machines: musical automata, looms, calculators. Elsevier. Mechanism and Machine Theory, v. 5, n. 36, p. 589-603, 2001. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/S0094114X01000052. Acesso em: 11 set. 2023.

KOVÁČ, L. Fundamental Principles of Cognitive Biology. Evolution and Cognition, v. 6, n. 1, p. 51-69, 2000. Disponível em: https://dai.fmph.uniba.sk/courses/CSCTR/materials/CSCTR_03sem_Kovac_2000.pdf. Acesso em: 01 Mar. 2019.

LATOUR, B. Reassembling the social: an introduction to actor-network-theory. Oxford; New York: Oxford University Press, 2005.

LATOUR, B. Ciência em ação: como seguir cientistas e engenheiros sociedade afora. Tradução Ivone Castilho Benedetti. São Paulo: Editora UNESP, 2000.

LEMOINE, B. Is LaMDA sentient? An interview. Medium, 11 jun. 2022. Disponível em: https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917. Acesso em: 14 ago. 2023.

LUDERMIR, T. B. Inteligência Artificial e Aprendizado de Máquina: estado atual e tendências. Estudos Avançados, v. 35, n. 101, p. 85-94, abr. 2021. Disponível em: http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0103-40142021000100085&tlng=pt. Acesso em: 26 abr. 2023.

LUKE, A. Regrounding Critical Literacy. In: ALVERMANN, D. E. et al. (Org.). Theoretical Models and Processes of Literacy. 7. ed. New York: Routledge, 2019.

LONG, D.; MAGERKO, B. What is AI literacy? Competencies and Design Considerations. Honolulu: CHI’20, april 25-30, 2020. Disponível em: https://doi.org/10.1145/3313831.3376727. Acesso em: 17 jun. 2022.

MACHADO, I. Digitalização. Linguagem. Discurso. As mediações dialógicas possíveis. Lumina, v. 4, n. 2, p. 19-48, 2002.

MANOVICH, L. The language of new media. Cambridge, Mass.: MIT Press , 2001.

MARTINS, A. Engenheiro do Google diz que inteligência artificial da empresa ganhou vida. Exame, São Paulo, 12 jun. 2022. Disponível em: https://exame.com/pop/engenheiro-do-google-diz-que-inteligencia-artificial-da-empresa-ganhou-vida/. Acesso em: 16 ago. 2023.

MAZZONI, J. C. M. Fisicalismo e o problema mente-cérebro: uma questão de definição. Sofia, Espírito Santo, Brasil, v. 8, n. 1, p. 146-170, 2019. Disponível em: https://periodicos.ufes.br/sofia/article/view/23781. Acesso em: 11 set. 2023.

McCARTHY, J. et al. A proposal for the Dartmouth summer research project on artificial intelligence. Stanford, 1955. Disponível em: http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html. Acesso em: 1 jun. 2023.

McCULLOCH, W.; PITTS, W. A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biophysics, n. 5, p. 115-133, 1943.

MCQUILLAN, Dan. Non-Fascist AI. In: HLAVAJOVA, M.; MAAS, W. (Org.). Propositions for Non-Fascist Living: Tentative and Urgent. Cambridge, MA: MIT Press, 2020. Disponível em: https://osf.io/b64sw. Acesso em: 3 mar. 2023.

MORESCHI, B.; PEREIRA, G.; COZMAN, F. G. The Brazilian Workers in Amazon Mechanical Turk: Dreams and realities of ghost workers. Revista Contracampo, v. 39, n. 1, 2020. Disponível em: https://periodicos.uff.br/contracampo/article/view/38252. Acesso em: 4 ago. 2024.

MORGAN, M. S.; GRÜNE-YANOFF, T. Modeling Practices in the Social and Human Sciences. An Interdisciplinary Exchange. Perspectives on Science, v. 21, n. 2, p. 143-156, 2013. Disponível em: https://direct.mit.edu/posc/article/21/2/143-156/15337. Acesso em: 29 jul. 2024.

MOROZOV, E. Big Tech: a ascensão dos dados e a morte da política. São Paulo: Ubu, 2018.

NAGEL, Thomas. What Is It Like to Be a Bat?. The Philosophical Review, v. 83, n. 4, p. 435, 1974. Disponível em: https://www.jstor.org/stable/2183914?origin=crossref. Acesso em: 21 dez. 2023.

NG, D. T. K.; LEUNG, J. K. L.; CHU, S. K. W.; et al. Conceptualizing AI literacy: An exploratory review. Computers and Education: Artificial Intelligence, v. 2, p. 100041, 2021. Disponível em: https://www.sciencedirect.com/science/article/pii/S2666920X21000357. Acesso em: 11 set. 2023.

NEWELL, A.; SIMON, H. A. Computer Simulation of Human Thinking: A theory of problem solving expressed as a computer program permits simulation of thinking processes. Science, v. 134, n. 3495, p. 2011-2017, 1961. Disponível em: https://www.science.org/doi/10.1126/science.134.3495.2011. Acesso em: 2 ago. 2024.

NICOLELIS, M. O Verdadeiro Criador De Tudo. São Paulo, SP: Editora Planeta do Brasil, 2020.

OCHOA, P. P. Tecnologías para un planeta em llamas. Editorial Paidós, 2023.

ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT (OCDE). Artificial intelligence in society. Paris: OECD, 2019.

O’NEIL, C. Weapons of math destruction: how big data increases inequality and threatens democracy. First paperback edition. New York: Broadway Books, 2017.

PENNYCOOK, Alastair (org.). Posthumanist Applied Linguistics. New York, NY: Routledge, 2018.

PERRIGO, B. Exclusive: The $2 per hour workers who made chatGPT safer. Disponível em: https://time.com/6247678/openai-chatgpt-kenya-workers/. Acesso em: 16 ago. 2023.

PETRAKAKI, D.; CHAMAKIOTIS, P.; CURTO-MILLET, D. From ‘making up’ professionals to epistemic colonialism: Digital health platforms in the Global South. Social Science & Medicine, v. 321, p. 115787, 2023. Disponível em: https://linkinghub.elsevier.com/retrieve/pii/S0277953623001442. Acesso em: 4 ago. 2024.

POERSCH, J. M. Simulações conexionistas: a inteligência artificial moderna. Linguagem em Discurso, v. 4, n. 2, p. 441-58, 2004. Disponível em: https://portaldeperiodicos.animaeducacao.com.br/index.php/Linguagem_Discurso/article/view/273. Acesso em: 11 set. 2023.

PYBUS, J. et al. Hacking the social life of Big Data. Big Data & Society, v. 2, n. 2, 2015. Disponível em: https://doi.org/10.1177/2053951715616649. Acesso em: 12 set. 2023.

RODRÍGUEZ-GARCÍA, J. D. et al. Introducing artificial intelligence fundamentals with LearningML: Artificial intelligence made easy. In: Eighth international conference on technological ecosystems for enhancing multiculturality. ACM, 2020, p. 18-20.

SCHAPER, M. et al. Robot Presidents: Who should rule the world?: Teaching Critical Thinking in AI through Reflections upon Food Traditions. In: Proceedings of the 11th Nordic Conference on Human-Computer Interaction. Tallinn: ACM, 2020, p. 1-4. Disponível em: https://dl.acm.org/doi/10.1145/3419249.3420085. Acesso em: 12 set. 2023.

RITTER, M. Postphenomenological Method and Technological Things Themselves. Human Studies, v. 44, n. 4, p. 581-593, 2021. Disponível em: https://doi.org/10.1007/s10746-021-09603-5. Acesso em: 12 set. 2023.

ROSENBERGER, R.; VERBEEK, P. (Org.). Postphenomenological investigations: essays on human-technology relations. Lanham: Lexington Books, 2015.

SCHAUL, K. et al. Inside the secret list of websites that make AI like ChatGPT sound smart. Washington Post. Disponível em: https://www.washingtonpost.com/technology/interactive/2023/ai-chatbot-learning/. Acesso em: 11 set. 2023.

SEARLE, J. R. Minds, brains, and programs. Behavioral and Brain Sciences, v. 3, n. 3, p. 417-457, 1980.

SILVEIRA, S. A. Governo dos algoritmos. Revista de Políticas Públicas, v. 21, n. 1, p. 267, 2017. Disponível em: http://www.periodicoseletronicos.ufma.br/index.php/rppublica/article/view/6123. Acesso em: 9 ago. 2019.

SLIJEPCEVIC, P. Principles of cognitive biology and the concept of biocivilisations. Biosystems, v. 235, p. 105109, 2024. Disponível em: https://linkinghub.elsevier.com/retrieve/pii/S0303264723002848. Acesso em: 2 ago. 2024.

SRNICEK, N.; DE SUTTER, L. Platform capitalism. Cambridge, UK: Polity, 2017.

TEIXEIRA, J. F. O cérebro e o robô: inteligência artificial, biotecnologia e a nova ética. São Paulo: Paulus, 2015.

TIKU, N. The Google engineer who thinks the company’s AI has come to life. The Washignton Post, 11 jun. 2022. Disponível em: https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/. Acesso em: 14 ago. 2022.

TURING, A. M. Computing machinery and intelligence. Mind, v. LIX, n. 236, p. 433-460, 1950. Disponível em: https://academic.oup.com/mind/article/LIX/236/433/986238. Acesso em: 20 out. 2023.

UNESCO. GEM Report 2023. Disponível em: https://www.unesco.org/gem-report/en/technology. Acesso em: 17 ago. 2023.

UNESCO. Guidance for generative AI 2023. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386693/PDF/386693eng.pdf.multi. Acesso em: 10 set. 2023.

VASSALLO, M. et al. Problems of Connectionism. Philosophies, v. 9, n. 2, p. 41, 2024. Disponível em: https://www.mdpi.com/2409-9287/9/2/41. Acesso em: 2 ago. 2024.

VASWANI, A.; SHAZEER, N.; PARMAR, N.; et al. Attention is all you need. 2023. Disponível em: http://arxiv.org/abs/1706.03762. Acesso em: 11 set. 2023.

VICARI, R. M. Tendências em inteligência artificial na educação no período de 2017 a 2030. Brasília: Serviço Nacional da Indústria, 2018. Disponível em: https://www2.fiescnet.com.br/web/uploads/recursos/d1dbf03635c1ad8ad3607190f17c9a19.pdf. Acesso em: 20 ago. 2023.

WATTERS, A. Teaching Machines: The History of Personalized Learning. London: MIT Press, 2021.

WEBSTER, J. Microworkers of the Gig Economy: Separate and Precarious. New Labor Forum, v. 25, n. 3, p. 56-64, 2016. Disponível em: http://journals.sagepub.com/doi/10.1177/1095796016661511. Acesso em: 4 ago. 2024.

WITTKOWER, D. E. What is it like to be a bot? In: WITTKOWER, D. E. The Oxford Handbook of Philosophy of Technology. Oxford: Oxford University Press, 2022. p. 357-373.