“DECIFRA-ME OU DEVORO-TE”: a moderação de conteúdo como forma de combate ao discurso de ódio no ecossistema digital do Youtube
Palavras-chave:
Moderação de conteúdo, Discurso de ódio, Regulação de plataformas, Vulnerabilidades digitaisResumo
Este trabalho se propõe a investigar a questão do combate ao discurso de ódio por meio da moderação de conteúdo nas plataformas digitais, com foco na plataforma Youtube. Para isso, a pesquisa se desenvolve em três capítulos principais. No primeiro capítulo, discute-se a regulação do ecossistema digital, considerando o papel da Internet na sociedade moderna e as implicações legais e sociais da sua regulação. O segundo capítulo foca no combate ao discurso de ódio, abordando as técnicas e desafios da moderação de conteúdo nas plataformas digitais, com destaque para a evolução e manifestações do discurso de ódio no ambiente digital. O último capítulo é um estudo de caso específico sobre o YouTube, examinando as políticas internas da plataforma para o combate ao discurso de ódio, os desafios enfrentados e as perspectivas futuras para melhorar a eficácia dessas políticas no Brasil. O trabalho argumenta que a teoria das vulnerabilidades pode oferecer uma contribuição significativa para a caracterização e regulação do discurso de ódio na Internet, ressaltando a necessidade de um equilíbrio entre liberdade de expressão e a proteção de grupos vulneráveis.
Downloads
Referências
ABBATE, Janet. What and where is the Internet? (Re)defining Internet histories. Internet Histories: Digital Technology, Culture and Society, (1-2), n. 1, p. 8–14, 2017. DOI: https://doi.org/10.1080/24701475.2017.1305836.
ALMEIDA, Virgílio; FILGUEIRAS, Fernando; DONEDA, Danilo. The Ecosystem of Digital Content Governance. IEEE Internet Computing, v. 25, n. 3, p. 13–17, 2021. DOI: 10.1109/MIC.2021.3057756.
ALMEIDA, Virgílio; FILGUEIRAS, Fernando; GAETANI, Francisco. Digital Governance and the Tragedy of the Commons. IEEE Internet Computing, v. 24, n. 4, p. 41–46, 2020. DOI: 10.1109/MIC.2020.2979639.
ALTO COMISSÁRIO DAS NAÇÕES UNIDAS PARA OS DIREITOS HUMANOS. Report of the Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression (A/74/486). Nova Iorque: Assembleia Geral das Nações Unidas, out. 2019. Disponível em: <https://www.ohchr.org/en/ documents/thematic-reports/a74486-report-online-hate-speech>. Acesso em: 8 ago. 2024.
BARLOW, John Perry. A Declaration of Independence of Cyberspace. Suíça: Eletronic Frontier Foundation, 1996. Disponível em: <https://www.eff .org/pt-br/ cyberspace-independence>. Acesso em: 10 jul. 2024.
CALVINO, Ítalo. O visconde partido ao meio. Tradução: Nilson Moulin. São Paulo: Companhia das Letras, 2009.
CASTELLS, Manuel. A sociedade em rede. Tradução: Roneide Venâncio Majer. São Paulo: Editora Paz e Terra S/A, 2002. v. 1. (A era da informação: economia, sociedade e
cultura).
CASTELLS, Manuel; CARDOSO, Gustavo. A sociedade em rede: do conhecimento à acção política. Belém, Portugal: Imprensa Nacional - Casa da Moeda, 2005.
CHAVEZ, Nicole. Pittsburgh synagogue gunman said he wanted all Jews to die, criminal complaint says. CNN, 2018. Disponível em: <https://edition.cnn.com/2018/ 10/28/us/pittsburgh-synagogue-shooting/index.html>. Acesso em: 6 ago. 2024.
COMISSÃO EUROPEIA. How to deal with borderline content from the
perspective of public trust? European Comission: Migration e Home Affairs, abr. 2024. Disponível em: <https://home-affairs.ec.europa.eu/whats-new/events/ran-cnhow-deal-borderline-content-perspective-public-trust-2024-04-16>. Acesso em: 6 ago. 2024.
D’ANDREA, Carlos Frederico de Brito. Pesquisando plataformas digitais: conceitos e métodos. Salvador, Bahia: EdUFBA, 2020.
DE ANDRADE, Pedro Victor Silva. Tutela da honra nas redes sociais: a
contribuição possível da teoria da impolidez. Dissertação (Mestrado em Direito) – Universidade Federal de Minas Gerais, Belo Horizonte, 2019. Disponível em:
//hdl.handle.net/1843/32323>. Acesso em: 28 out. 2023.
FILGUEIRAS, Fernando; ALMEIDA, Virgílio. Governance for the digital world: neither more state nor more market. Suíça: Palgrave Macmillan, 2021. P. 75–104.
GAO, Lei; HUANG, Ruihong. Detecting Online Hate Speech Using Context Aware Models. 2018. Disponível em: <https://arxiv.org/abs/1710.07395>. Acesso em: 13 ago. 2024.
GILLESPIE, Talerton. Custodians of the Internet: platforms, content moderation and the hidden decisions that shape social media. New Haven: Yale University Press, 2018.
GOOGLE. Cumprimento das diretrizes da comunidade do Youtube. Relatório de Transparência, 2024. Disponível em: https://transparencyreport.google.com/youtubepolicy/removals>. Acesso em: 7 ago. 2024.
GUSTIN, Miracy Barbosa de Souza; DIAS, Maria Tereza Fonseca; NICÁCIO, Camila Silva. (Re)pensando a pesquisa jurídica: teoria e prática. Belo Horizonte: Almeidina, 2020.
HIETANEN, Mika; EDDEBO, Johan. Towards a Definition of Hate SpeechWith a Focus on Online Contexts. Journal of Communication Inquiry, v. 47, n. 4, p. 441–458, out. 2022. DOI: https://doi.org/10.1177/01968599221124309.
INSTAGRAM. Why you’re seeing a warning before you can view a photo or
video on Instagram. 2024. Disponível em: <https://help.instagram.com/18884864828 2410?helpref=uf_permalink>. Acesso em: 12 ago. 2024.
JOROUVÁ, Vera. Code of Conduct for Illegal online hate speech: questions and answers. European Comission, jun. 2016. Disponível em: <https://ec.europa.eu/newsroo m/document.cfm?doc_id=41844>. Acesso em: 6 ago. 2024.
KEMP, Simon. Digital 2024: Brazil. Data Reportal, fev. 2024. Disponível em: . Acesso em: 12 jun. 2024.
KLEINWÄCHTER, Wolfgang; ALMEIDA, Virgilio A.F. The Internet Governance Ecosystem and the Rainforest. IEEE Internet Computing, v. 19, n. 2, p. 64–67, 2015. DOI: 10.1109/MIC.2015.49.
KRANZBERG, Melvin. Technology and History: “Kranzberg’s Laws”. Technology and Culture, v. 27, n. 3, p. 544–560, 1986. DOI: https://doi.org/10.2307/3105385.
KURTZ, Lahis Pasquali; DO CARMO, Paloma Rocillo Rolim; VIEIRA, Victor Barbieri Rodrigues. Transparência da moderação de conteúdo: tendências
regulatórias nacionais. Belo Horizonte: Instituto de Referência em Internet e Sociedade, 2021.
LESSIG, Lawrence. Code and other laws of cyberspace: version 2.0. Nova Iorque, EUA: Basic Books, 2006.
LUNA, Florencia. Elucidating the concept of vulnerability. The International Journal of Feminist Approaches to Bioethics, v. 2, n. 1, p. 120–138, 2009.
MACKLIN, Graham. The Christchurch Attacks: Livestream Terror in the Viral Video Age. Combating Terrorism Center, v. 12, 2019. Disponível em: <https://ctc.westpoint. edu/christchurch-attacks-livestream-terror-viral-video-age/>. Acesso em: 8 ago. 2024.
MARQUES, Claudia Lima; MUCELIN, Guilherme. Vulnerabilidade na era digital: um estudo sobre os fatores de vulnerabilidade da pessoa natural nas plataformas, a partir da dogmática do Direito do Consumidor. civilistica.com, v. 11, n. 3, p. 1–30, dez. 2022. Disponível em: <https://civilistica.emnuvens.com.br/redc/article/view/872>. Acesso em: 7 nov. 2023.
MARTINS, Anna Clara Lehmann. Discurso de ódio em redes sociais e reconhecimento do outro: o caso M. Revista Direito GV, v. 15, n. 1, abr. 2019. DOI: https://doi.org/10. 1177/01968599221124309.
MCCROSKY, Jesse; GEURKINK, Brandi. Youtube Regrets: A crowdsourced
investigation into Youtube’s recommendation algorithm. Mozilla Foundation, 2021.
Disponível em: <https://assets.mofoprod.net/network/documents/Mozilla_YouTube_ Regrets_Report.pdf>. Acesso em: 30 out. 2023.
MCGRADY, Ryan. What we discovered on Deep Youtube. The Atlantic, 2024. Disponível em: < https://www.theatlantic.com/technology/archive/2024/01/how-many-videos-youtube-research/677250/> Acesso em: 26/05/2025.
MINISTÉRIO PÚBLICO FEDERAL. Inquérito Civil n. 1.24.000.000812/2021-0. Out. 2019. Disponível em: <https://www.mpf.mp.br/pb/sala-de-imprensa/docs/acpdiscurso-de-odio-contra-mulheres-na-paraiba.pdf/view>. Acesso em: 14 ago. 2024.
. Procedimento Investigativo Criminal n. 1.24.000.000924/2021-51. Jan. 2023. Disponível em: <https://static.poder360.com.br/2023/02/pedido-prisao-sikerajunior-mpf.pdf>. Acesso em: 14 ago. 2024.
MOST popular social networks worldwide as of April 2024, ranked by number of monthly active users (in millions). Statista, ago. 2024. Disponível em: <https://www.statista.com/ statistics/272014/global-social-networks-ranked-by-number-of-users/>. Acesso em: 12 ago. 2024.
MPF e DPU acionam Google na Justiça por discurso de ódio de policiais. Consultor
Jurídico, mai. 2024. Disponível em: <https://www.conjur.com.br/2024-mai-04/mpf-edpu-acionam-google-na-justica-por-discurso-de-odio-de-policiais/>. Acesso em: 14 ago. 2024.
MUNGER, Kevin; PHILLIPS, Joseph. Right-Wing YouTube: A Supply and Demand Perspective. The International Journal of Press/Politics, v. 27, n. 1, p. 186–219, 2022. DOI: 10.1177/1940161220964767.
NALON, Tai. Notas da Comunidade do ex-Twitter são capturadas por grupos e expõem usuários ao ódio. Terra / Newsletter O Digital Disfuncional, out. 2023. Disponível em: <https://www.terra.com.br/noticias/checamos/notas-da-comunidadedo-ex-twitter-sao-capturadas-por-grupos-e-expoem-usuarios-ao-odio,1874f0d37413940 fe513015e62f3523as5luexff.html?utm_source=clipboard>. Acesso em: 21 ago. 2024.
OBAR, Johnatan A.; WILDMAN, Steve. Social Media Definition and the Governance
Challenge: An Introduction to the Special Issue. 2015. Disponível em: <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2647377>. Acesso em: 15 ago. 2024.
ORGANIZAÇÃO DAS NAÇÕES UNIDAS. UN strategy and plan of action on hate
speech. Mai. 2019. Disponível em: <https://www.un.org/en/genocideprevention/ documents/advising-and-mobilizing/Action_plan_on_hate_speech_EN.pdf>. Acesso em: 12 ago. 2024.
POLAND, Baley. Haters: harassment, abuse and violence online. Nebraska, EUA: Potomac Books, 2016.
RAINIE, Lee; ANDERSON, Janna; ALBRIGHT, Jonathan. The Future of Free
Speech, Trolls, Anonymity and Fake News Online. Pew Research Center, 2017.
Disponível em: <https://www.pewresearch.org/internet/2017/03/29/the-future-of-freespeech-trolls-anonymity-and-fake-news-online/>. Acesso em: 25 mar. 2024.
RECHMANN, Aline. Aprovação do PL das Fake News é improvável, diz pesquisa. Gazeta do Povo, mai. 2024. Disponível em: <https://www.gazetadopovo.com.br/repu blica/45-dos-deputados-consideram-improvavel-a-aprovacao-do-pl-das-fake-news/>.
Acesso em: 14 ago. 2024.
RIBEIRO, Manoel Horta; CALAIS, Pedro H. et al. Characterizing and Detecting Hateful Users on Twitter. CoRR, abs/1803.08977, 2018. Disponível em: <http://arxiv.org/abs/ 1803.08977>. Acesso em: 8 ago. 2024.
RIBEIRO, Manoel Horta; OTTONI, Raphael et al. Auditing Radicalization Pathways on
YouTube. In: PROCEEDINGS of the 2020 Conference on Fairness, Accountability, and Transparency. Barcelona, Spain: Association for Computing Machinery, 2020. (FAT* ’20),
p. 131–141. ISBN 9781450369367. DOI: 10.1145/3351095.3372879.
RIO DE JANEIRO, TRF2. Ação Civil Pública n. 5028178-59.2024.4.02.5101. Abr. 2024. Disponível em: <https://tinyurl.com/4ddzy6ec>. Acesso em: 14 ago. 2024.
RUEDIGGER, Marco Aurêlio. Regulação de plataformas digitais: uma regulação para a análise do debate nacional frente a um desafio global. Rio de Janeiro: FGV DAPP, 2022.
SAID, Edward. Orientalismo: o Oriente como invenção do Ocidente. 1. ed. São Paulo: Companhia das Letras, 2007.
SANDER, Barrie. Freedom of expression in the age of online platforms: the promise and pitfalls of a human-rights based approach to content moderation. Fordham International Law Journal, v. 43, p. 939–1006, 2019.
SLOANE, Garret. Stop Hate for Profit: os efeitos do boicote um ano depois. Meio e Mensagem, 2024. Disponível em: <https://www.meioemensagem.com.br/midia/stophate-for-profit-os-efeitos-do-boicoite-um-ano-depois>. Acesso em: 8 ago. 2024.
TSE. Contra fake news, Instagram e Facebook colocam avisos em postagens sobre Eleições 2022. 2021. Disponível em: <https://support.google.com/youtube/ answer/1311392?hl=en>. Acesso em: 12 ago. 2024.
TUFEKCI, Zeynep. Big Questions for Social Media Big Data: Representativeness,
Validity and Other Methodological Pitfalls. In: ICWSM ’14: Proceedings of the 8th International AAAI Conference on Weblogs and Social Media. 2014. Disponível
em: <https://doi.org/10.48550/arXiv.1403.7400>.
TWITTER/X. Freedom of Speech, Not Reach: An update on our enforcement
philosophy. Abr. 2023. Disponível em: <https://blog.x.com/en_us/topics/product/ 2023/freedom-of-speech-not-reach-an-update-on-our-enforcement-philosophy>. Acesso em: 12 ago. 2024.
VALENTE, Jonas. Regulando desinformação e fake news: um panorama internacional das respostas ao problema. Comunicação Pública, v. 14, n. 27, 2019.
VOLPINI, Silvia Pires. Sentidos da vulnerabilidade no contexto da deficiência a partir da análise de decisões judiciais. Dissertação (Mestrado em Direito) – Universidade Federal de Minas Gerais, Belo Horizonte, 2023. Disponível em:
//repositorio.ufmg.br/handle/1843/55177>. Acesso em: 10 ago. 2024.
YOUTUBE. Age-restricted content. 2024. Disponível em: <https://support.google. com/youtube/answer/2802167?hl=en>. Acesso em: 12 ago. 2024.
. Hate speech policy. 2019. Disponível em: <https://support.google.com/ youtube/answer/2801939?hl=en>. Acesso em: 6 ago. 2024.
. Políticas contra spam, práticas enganosas e golpes. 2024. Disponível em:
<https://support.google.com/youtube/answer/2801973?hl=pt-BR>. Acesso em: 6 ago. 2024.
. Report inappropriate videos, channels, and other content on YouTube. 2024. Disponível em: https://support.google.com/youtube/answer/ 2802027>. Acesso em: 6 ago. 2024.
. Youtube channel monetization policies. 2024. Disponível em:
//support.google.com/youtube/answer/1311392?hl=en>. Acesso em: 12 ago. 2024.
YOUTUBE TEAM. Our ongoing work to tackle hate. Youtube Official Blog, mai. 2019. Disponível em: <https://blog.youtube/news-and-events/our-ongoing-work-totackle-hate/>. Acesso em: 6 ago. 2024.
YOUTUBE VIWERS. The life of a flag. Youtube, 2018. Disponível em: . Acesso em: 6 ago. 2024.
WYZOL. Youtube Stats, 2025. Disponível em: < https://www.wyzowl.com/youtube-stats/>. Acesso em: 26/05/2025.
Downloads
Publicado
Edição
Seção
Licença
Copyright (c) 2026 Victoria Vital de Castro Macedo Costa (Autor)
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
