Detección de textos generados por ChatGPT
capacidades, limitaciones y aplicaciones prácticas
DOI:
https://doi.org/10.35699/2525-8036.2024.53509Palabras clave:
Inteligencia artificial, ChatGPT, Detección de IA, Seguridad digitalResumen
La popularización de las herramientas de Inteligencia Artificial (IA) para la generación de textos ha intensificado los debates sobre la autenticidad y confiabilidad del contenido digital, en medio de crecientes preocupaciones por fraudes académicos, violaciones de derechos de autor y desinformación. Este estudio evaluó la eficacia de cinco herramientas de detección (Copyleaks AI Content Detector, AI de Smodin, PlagiarismDeTector.NET AI, ZeroGPT y AI Content Detector) en distinguir entre textos escritos por humanos y textos generados por ChatGPT. Los resultados indican que las herramientas varían en su precisión y confiabilidad. Mientras que Copyleaks y AI de Smodin demostraron alta precisión en la identificación de textos generados por IA y escritos por humanos, PlagiarismDeTector.NET AI presentó varias inconsistencias, especialmente en distinguir correctamente los textos generados por IA. ZeroGPT y AI Content Detector mostraron un rendimiento variable, destacándose en ciertos escenarios y enfrentando desafíos en otros. Estos hallazgos evidencian la necesidad continua de mejorar las herramientas de detección de textos generados por IA para garantizar un entorno digital seguro y confiable.
Referencias
AREMU, Toluwani. Unlocking Pandora's Box: Unveiling the Elusive Realm of AI Text Detection. SSRN, Rochester, NY, 2023. Disponível em: http://dx.doi.org/10.2139/ssrn.4470719. Acesso em: 23 dez. 2024.
CHAKA, Chaka. Detecting AI content in responses generated by ChatGPT, YouChat, and Chatsonic: The case of five AI content detection tools. Journal of Applied Learning and Teaching, v. 6, n. 2, 2023. Disponível em: https://doi.org/10.37074/jalt.2023.6.2.12. Acesso em: 23 dez. 2024.
COUTINHO, Dimítria. 2023, o ano em que o ChatGPT mostrou a IA generativa ao mundo. Data Privacy Brasil, 29 dez. 2023. Disponível em: https://www.dataprivacybr.org/documentos/2023-o-ano-em-que-o-chatgpt-mostrou-a-ia-generativa-ao-mundo/. Acesso em: 23 dez. 2024.
GIL, Antonio Carlos. Métodos e técnicas de pesquisa social. São Paulo: Editora Atlas, 2008.
HUANG, Yue; SUN, Lichao. Harnessing the power of chatgpt in fake news: An in-depth exploration in generation, detection and explanation. Pré-print. arXiv preprint, v. 1, 2023. Disponível em: https://doi.org/10.48550/arXiv.2310.05046. Acesso em: 23 dez. 2024.
LUCCHI, Nicola. ChatGPT: a case study on copyright challenges for generative artificial intelligence systems. European Journal of Risk Regulation, v. 15, n. 3, p. 602-624, 2024. Disponível em: https://www.cambridge.org/core/journals/european-journal-of-risk-regulation/article/chatgpt-a-case-study-on-copyright-challenges-for-generative-artificial-intelligence-systems/CEDCE34DED599CC4EB201289BB161965. Acesso em: 23 dez. 2024.
MEYER, Jesse G.; URBANOWICZ, Ryan J.; MARTIN, Patrick C. N.; O’CONNOR, Karen; LI, Ruowang; PENG, Pei-Chen; BRIGHT, Tiffani J.; TATONETTI, Nicholas; WON, Kyoung Jae; GONZALEZ-HERNANDEZ, Graciela; MOORE, Jason H. ChatGPT and large language models in academia: opportunities and challenges. BioData Mining, v. 16, n. 1, 2023. Disponível em: https://doi.org/10.1186/s13040-023-00339-9. Acesso em: 23 dez. 2024.
OPENAI. OpenAI Charter. São Francisco: 2024. Disponível em: https://openai.com/charter/. Acesso em: 23 dez. 2024.
SARKAR, Ratan Kumar. AI Content Detector. ChatGPT, 2024. Disponível em: https://chatgpt.com/g/g-NcgzdHmZc-ai-content-detector. Acesso em: 23 dez. 2024.
SARRION, Eric. Exploring the Power of ChatGPT: Applications, Techniques, and Implications. Berkeley: Apress, 2023.
TRINDADE, Alessandra Stefane C. E.; OLIVEIRA, Henry Poncio C. Inteligência artificial (IA) generativa e competência em informação: habilidades informacionais necessárias ao uso de ferramentas de IA generativa em demandas informacionais de natureza acadêmica-científica. Perspectivas em Ciência da Informação, v. 29, p. e-47485, 2024. Disponível em: https://doi.org/10.1590/1981-5344/47485. Acesso em: 23 dez. 2024.
Descargas
Publicado
Número
Sección
Licencia
Derechos de autor 2024 Felipe Soares de Moraes
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
1. Os conteúdos dos trabalhos são de exclusiva responsabilidade de seu autor.
2. É permitida a reprodução total ou parcial dos trabalhos publicados na Revista, desde que citada a fonte.
3. Ao submeterem seus trabalhos à Revista os autores certificam que os mesmos são de autoria própria e inéditos (não publicados em qualquer meio digital ou impresso).
4. Os direitos autorais dos artigos publicados na Revista são do autor, com direitos de primeira publicação reservados para este periódico.
5. Para fins de divulgação, a Revista poderá replicar os trabalhos publicados nesta revista em outros meios de comunicação como, por exemplo, redes sociais (Facebook, Academia.Edu, etc).
6. A Revista é de acesso público, portanto, os autores que submetem trabalhos concordam que os mesmos são de uso gratuito.
7. Constatando qualquer ilegalidade, fraude, ou outra atitude que coloque em dúvida a lisura da publicação, em especial a prática de plágio, o trabalho estará automaticamente rejeitado.
8. Caso o trabalho já tenha sido publicado, será imediatamente retirado da base da revista, sendo proibida sua posterior citação vinculada a ela e, no número seguinte em que ocorreu a publicação, será comunicado o cancelamento da referida publicação. Em caso de deflagração do procedimento para a retratação do trabalho, os autores serão previamente informados, sendo-lhe garantido o direito à ampla defesa.
9. Os dados pessoais fornecidos pelos autores serão utilizados exclusivamente para os serviços prestados por essa publicação, não sendo disponibilizados para outras finalidades ou a terceiros.
