Estado, soberania digital e tecnologias emergentes
interações entre direito internacional, segurança cibernética e inteligência artificial
DOI:
https://doi.org/10.35699/2525-8036.2024.53066Palavras-chave:
Soberania digital, Inteligência artificial, Colonialismo de dados, Cooperação internacional, Ordem transnacional digitalResumo
Este artigo examina a complexa relação entre a soberania do Estado em matéria digital, compreendendo questões de direito internacional, segurança cibernética e inteligência artificial (IA). Ele busca estabelecer os desafios éticos e práticos enfrentados pelos Estados, como a possível utilização da IA em ataques cibernéticos transfronteiriços, e algumas respostas do direito internacional a essas questões. Igualmente, analisa as dificuldades encontradas pelos Estados na tarefa de proteção de seus espaços soberanos no âmbito digital, os desafios normativos relacionados à manipulação de dados e à concentração de poder por conglomerados transnacionais de tecnologia e as tensões enfrentadas pelas jurisdições estatais na interface com novas tecnologias, em especial quanto a manifestações do (neo)colonialismo de dados. São destacadas as estratégias para fortalecer a soberania digital, incluindo reformas nos sistemas jurídicos domésticos rumo a quadros normativos robustos orientados pelo uso ético, responsável e transparente de IA e promoção das bases normativas para segurança cibernética.
Referências
AMORIM, Daniela. Brasil precisa com urgência de Marco de Cibersegurança e Soberania Digital. CNN, São Paulo, 9 de mar. 2023. Disponível em: https://www.cnnbrasil.com.br/economia/brasil-precisa-com-urgencia-de-marco-de-ciberseguranca-e-soberania-digital-diz-fgv/. Acesso em: 14 de mai. 2024.
AVILA PINTO, Renata. Digital Sovereignty or Digital Colonialism. International Journal on Human Rights. v. 15, n.27, p.15-28, 2018. Disponível em: https://sur.conectas.org/en/digital-sovereignty-or-digital-colonialism/. Acesso em: 19 de jun. 2024.
BELLI, Luca. To Get Its AI Foothold, Brazil Needs to Apply the Key AI Sovereignty Enablers (KASE). In: FELDSTEIN, Steven (eds.). New Digital Dilemmas: Resisting Autocrats, Navigating Geopolitics, Confronting Platforms. Washington, DC, Carnegie Endowment for International Peace, p. 27-34, 2023.
BELLI, Luca et al. Cibersegurança: uma visão sistêmica rumo a uma Proposta de Marco Regulatório para um Brasil Digitalmente soberano. Rio de Janeiro: FGV Direito Rio, 2023. Disponível em: https://cyberbrics.info/ciberseguranca-uma-visao-sistemica-rumo-a-uma-proposta-de-marco-regulatorio-para-um-brasil-digitalmente-soberano/. Acesso em: 12 de abr. 2024.
BRATTON, Benjamin H. The stack: On software and sovereignty. MIT press, 2016.
CINTRA et. All. Plataformização, inteligência artificial e soberania de dados: tecnologia no Brasil 2020-2030, 2023. Disponível em: https://portolivre.fiocruz.br/plataformizacao-inteligencia-artificial-e-soberania-de-dados-tecnologia-no-brasil-2020-2030. Acesso em: 12 de abr. 2024.
CNN. Brasil precisa com urgência de Marco de Cibersegurança e Soberania Digital, diz FGV. Disponível em: https://www.cnnbrasil.com.br/economia/brasil-precisa-com-urgencia-de-marco-de-ciberseguranca-e-soberania-digital-diz-fgv/. Acesso em: 12 de abr. 2024.
CONFERÊNCIA internacional debate cibersegurança e soberania digital. FGV Direito Rio, Rio de Janeiro, 15 de mar. 2023. Disponível em: https://direitorio.fgv.br/noticia/conferencia-internacional-debate-ciberseguranca-e-soberania-digital. Acesso em: 12 de abr. 2024.
COULDRY, Nick; MEJIAS, Ulises A. Data colonialism: Rethinking big data’s relation to the contemporary subject. Television & New Media, v. 20, n. 4, p. 336-349, 2019. Disponível em: https://journals.sagepub.com/doi/full/10.1177/1527476418796632. Acesso em: 19 de jun. 2024.
COULDRY, Nick; MEJÍAS, Ulises Ali. Resistance to the new data colonialism must start now. Al Jazeera, Doha, 28 de abr. 2020. Disponível em: https://www.aljazeera.com/opinions/2020/4/28/resistance-to-the-new-data-colonialism-muststart-now/. Acesso em: 14 de mai. 2024.
COULDRY, Nick; MEJÍAS, Ulises Ali. The costs of connection: how data is colonizing human life and appropriating it for capitalism. Stanford: Stanford University Press, 2019.
CRISTIANO LIMA-STRONG. Biden signs bill that could ban TikTok, a strike years in the making. Disponível em: https://www.washingtonpost.com/technology/2024/04/23/tiktok-ban-senate-vote-sale-biden/. Acesso em: 14 de mai. 2024.
DOMESTIC SURVEILLANCE DIRECTORATE. Surveillance Techniques: How Your Data Becomes Our Data. Disponível em: https://nsa.gov1.info/surveillance/. Acesso em: 17 de abr. 2024.
ELON Musk is feuding with Brazil’s powerful Supreme Court. The Economist, Londres, 14 de abr. 2024. Disponível: https://www.economist.com/the-americas/2024/04/14/elon-musk-is-feuding-with-brazils-powerful-supreme-court. Acesso: 14 de mai. 2024.
FGV. Conferência internacional debate cibersegurança e soberania digital. Rio de Janeiro: Fundação Getulio Vargas. Disponível em: https://direitorio.fgv.br/noticia/conferencia-internacional-debate-ciberseguranca-e-soberania-digital. Acesso em: 12 de abr. 2024.
FIDLER, David P. Whither the Web? International Law, Cybersecurity, and Critical Infrastructure Protection. Georgetown Journal of International Affairs. v. 16, n. 3, p. 8-20, 2015. Disponível em: https://www.repository.law.indiana.edu/cgi/viewcontent.cgi?article=3452&context=facpub. Acesso em: 19 de jun. 2024.
FUNG, Brian. Biden just signed a potential TikTok ban into law. Here’s what happens next. CNN, Atlanta, 24 de abr. 2024. Disponível em: https://edition.cnn.com/2024/04/23/tech/congress-tiktok-ban-what-next/index.html. Acesso em: 15 de mai. 2024.
GAGLIARDONE, Iginio. A Postcolonial Perspective on Digital Sovereignty. In: FELDSTEIN, Steven (eds.). New Digital Dilemmas: Resisting Autocrats, Navigating Geopolitics, Confronting Platforms. Washington, DC: Carnegie Endowment for International Peace, 2023.
GRAVETT, Willem. Digital neo-colonialism: The Chinese model of internet sovereignty in Africa. African Human Rights Law Journal, v. 20, n. 1, p. 125-146, 2020.
KITSARA, Irene. Artificial intelligence and the digital divide: From an innovation perspective. In: BOUNFOUR, Ahmed. Platforms and Artificial Intelligence: The Next Generation of Competences. Cham: Springer International Publishing, 2022, p. 245-265. Disponível em: https://doi.org/10.1007/978-3-030-90192-9_12. Acesso em: 19 de jun. 2024.
KOERNER, Andrei. Capitalismo e vigilância digital na sociedade democrática. Revista Brasileira de Ciências Sociais, v. 36, n. 105, p. 1-6, 2021. Disponível em: https://www.scielo.br/j/rbcsoc/a/3RSTj7mCYh6YcHRnM8QZcYD/?format=pdf&lang=pt. Acesso em: 19 de jun. 2024.
LANGAN, Mark. Neo-Colonialism and the Poverty of 'Development in Africa. Cham: Springer/Palgrave, p. 1-261, 2018.
LARSEN, Benjamin Cedric. The geopolitics of AI and the rise of digital sovereignty. Brookings, Washington D.C., 8 de dez. 2022. Disponível em: https://www.brookings.edu/articles/the-geopolitics-of-ai-and-the-rise-of-digital-sovereignty/. Acesso em: 15 de abr. 2024.
LAVANIA, Ankit. The need to fill legal vacuum in international law to deal with non-state actors in cyber operations. International Journal of Law Management & Humanities, vol.5, p. 462-478, 2022.
LIMA-STRONG, Cristiano. Biden signs bill that could ban TikTok, a strike years in the making. The Washington Post, Washington D.C., 24 de abr. 2024. Disponível em: https://www.washingtonpost.com/technology/2024/04/23/tiktok-ban-senate-vote-sale-biden/. Acesso em: 14 mai. 2024.
MACHADO, Léia; SOUSA, Juliana. Especial security leaders: Soberania de dados além da Segurança - Security Leaders. Security Leaders, São Paulo, 23 de jan. 2024. Disponível em: https://securityleaders.com.br/especial-security-leaders-soberania-de-dados-alem-da-seguranca/. Acesso em: 12 de abr. 2024.
MITCHELL, Andrew D.; SAMLIDIS, Theodore. Cloud services and government digital sovereignty in Australia and beyond. International Journal of Law and Information Technology, vol. 29, n. 4, p. 364-394, 2021. Disponível em: https://academic.oup.com/ijlit/article/29/4/364/6516411?login=false. Acesso em: 19 de jun. 2024.
MUELLER, Milton, Communications and the Internet. In: COGAN, Jacob Katz; HURD, Ian; JOHNSTONE, Ian (Ed.). The Oxford handbook of international organizations. Oxford: Oxford University Press, 2016, pp.535-56.
NATAHNSON, Graciela; MORALES, Susana; RODRIGO. Colonialismo de dados e apropriação das tecnologias digitais: articulações e propostas a partir de uma perspectiva feminista. Fronteiras: estudos midiáticos, v. 24, n. 3, p. 1-34, 2022. Disponível em: https://revistas.unisinos.br/index.php/fronteiras/article/view/25698. Acesso em: 19 de jun. 2024.
PARLAMENTO EUROPEU. Regulamento (UE) 2024/206 do Parlamento Europeu e do Conselho, adotado em 13 de março de 2024 estabelecendo regras harmonizadas sobre inteligência artificial (‘Artificial Intelligence Act’) e alterando certos atos legislativos da União, Jornal Oficial da União Europeia, Estrasburgo: Parlamento Europeu, 2024. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138-FNL-COR01_PT.pdf. Acesso em: 19 de jun. 2024.
PELLEGRINI, Jerônimo et al. Inteligência local, soberania digital e soberania de dados. In: PENTEADO, Cláudio; PELLEGRINI, Jerônimo; SILVEIRA, Sérgio Amadeu da (org.). Plataformização, inteligência artificial e soberania de dados: tecnologia no Brasil 2020-2030. São Paulo: Ação Educativa, 2023. Disponível em: https://portolivre.fiocruz.br/plataformizacao-inteligencia-artificial-e-soberania-de-dados-tecnologia-no-brasil-2020-2030. Acesso em: 12 de abr. 2024.
PINHEIRO, Patrícia Peck. O que é esperado com a Política Nacional de Cibersegurança (PNCiber). FEBRABAN Tech, São Paulo, 15 de jan. 2024. Disponível em: https://febrabantech.febraban.org.br/especialista/patricia-peck-pinheiro/o-que-e-esperado-com-a-politica-nacional-de-ciberseguranca-pnciber. Acesso em: 12 mai. 2024.
POLIDO, Fabrício B.P. Direito Internacional Privado nas Fronteiras do Trabalho e Tecnologias. 2ª ed. Rio de Janeiro: Lumen Iuris, 2021.
RICAURTE, Paola. Data Epistemologies, The Coloniality of Power, and Resistance. Television & New Media, v. 20, p. 350-365, 2019. Disponível em: https://journals.sagepub.com/doi/epub/10.1177/1527476419831640. Acesso em: 19 de jun. 2024.
SECRETARIA DE COMUNICAÇÃO SOCIAL. O que é a Política Nacional de Cibersegurança, marco no combate aos crimes virtuais. Disponível em: https://www.gov.br/secom/pt-br/fatos/brasil-contra-fake/noticias/2023/3/o-que-e-a-politica-nacional-de-ciberseguranca-marco-no-combate-aos-crimes-virtuais. Acesso em: 12 de mai. 2024.
SHAW, Malcolm N. International law. 5th ed, Cambridge: Cambridge Univ. Press. 2003.
SINGER, Peter W.; FRIEDMAN, Allan. Cybersecurity and Cyberwar: what everyone needs to know. Oxford: Oxford University Press, 2014.
SOVEREIGNTY in Cyberspace: Theory and Practice (Version 4.0). World Internet Conference, Wuzhen, 16 de jan. 2024. Disponível em: https://subsites.chinadaily.com.cn/wic/2024-01/16/c_956165.htm. Acesso em: 15 de abr. 2024.
SURVEILLANCE Techniques: How Your Data Becomes Our Data. Domestic Surveillance Directorate, [s. l.], 2021. Disponível em: https://nsa.gov1.info/surveillance/. Acesso em: 19 de jun. 2024
TAITZ, Sarah. Five Things to Know About NSA Mass Surveillance and the Coming Fight in Congress. ACLU, Nova Iorque, 11 de abr. 2023. Disponível em: https://www.aclu.org/news/national-security/five-things-to-know-about-nsa-mass-surveillance-and-the-coming-fight-in-congress. Acesso em: 17 de abr. 2024.
THE Cybersecurity Strategy. European Comission, 2022. Disponível em: https://digital-strategy.ec.europa.eu/en/policies/cybersecurity-strategy. Acesso em: 12 de mai. 2024.
THE WHITE HOUSE WASHINGTON. National Cybersecurity Strategy. Washington D.C.: 2023. https://www.whitehouse.gov/wp-content/uploads/2023/03/National-Cybersecurity-Strategy-2023.pdf. Acesso em: 12 de mai. 2024.
TIKTOK vows legal fight after Biden signs sell-or-ban bill. Deutsche Welle, Bonn, 24 de abr. 2024. Disponível: https://www.dw.com/en/tiktok-vows-legal-fight-after-biden-signs-sell-or-ban-bill/a-68912207. Acesso em: 14 de mai. 2024.
TIMMERS, Paul. AI Challenging Sovereignty and Democracy. Turkish Policy Quarterly, v. 20, 4 ed, p. 45–55, 2021.
TIMMERS, Paul. Ethics of AI and Cybersecurity When Sovereignty is at Stake. Minds Mach, v. 29, n. 4, p. 635–645, 2019. Disponível em: https://link.springer.com/article/10.1007/s11023-019-09508-4. Acesso em: 12 de abr. 2024.
USMAN, Hazrat; NAWAZ, Bushra; NASSER, Saiqa. The Future of State Sovereignty in the Age of Artificial Intelligence. Journal of Law & Social Studies, v. 5, n. 2, p. 142-152, 2023. Disponível em: https://www.advancelrf.org/wp-content/uploads/2023/04/Vol-5-No.-2-1.pdf. Acesso em: 12 de abr. 2024.
WOODS, Andrew Keane. Digital Sovereignty + Artificial Intelligence. In: CHANDER, Anupam; SUN, Haochen (eds). Data Sovereignty: From the Digital Silk Road to the Return of the State New York. Oxford: Oxford University Press, 2023. p.115-136. Disponível em: https://academic.oup.com/book/55328/chapter/428796733. Acesso em: 12 de abr. 2024.
WORLD ECONOMIC FORUM. The Global Risk Report 2024. Cologny/Genebra: World Economic Forum, 2024. Disponível em: https://www3.weforum.org/docs/WEF_The_Global_Risks_Report_2024.pdf. Acesso em: 19 de jun. 2024.
XINXCHUCHU, Gao. Sovereignty and Cyberspace: China’s Ambition to Shape Cyber Norms. LSE Blogs, Londres, 18 de ago. 2022. Disponível em: https://blogs.lse.ac.uk/cff/2022/08/18/sovereignty-and-cyberspace-chinas-ambition-to-shape-cyber-norms/. Acesso em: 14 de mai. 2024.
ZUBOFF, Shoshana. We make them dance: surveillance capitalism, the rise of instrumentarian power, and the threat to human rights. In: JØRGENSEN, Rikke Frank (ed.) Human Rights in the Age of Platforms. Cambridge: MIT Press, p. 3-51, 2019. Disponível em: https://direct.mit.edu/books/oa-edited-volume/4531/Human-Rights-in-the-Age-of-Platforms. Acesso: 14 de mai. 2024.
ZUBOFF, Shoshana. A Era do Capitalismo de Vigilância: A luta por um futuro humano na nova fronteira do poder. São Paulo: Intrínseca, 2021.
Downloads
Publicado
Edição
Seção
Licença
Copyright (c) 2024 Fabrício Bertini Pasquot Polido
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
1. Os conteúdos dos trabalhos são de exclusiva responsabilidade de seu autor.
2. É permitida a reprodução total ou parcial dos trabalhos publicados na Revista, desde que citada a fonte.
3. Ao submeterem seus trabalhos à Revista os autores certificam que os mesmos são de autoria própria e inéditos (não publicados em qualquer meio digital ou impresso).
4. Os direitos autorais dos artigos publicados na Revista são do autor, com direitos de primeira publicação reservados para este periódico.
5. Para fins de divulgação, a Revista poderá replicar os trabalhos publicados nesta revista em outros meios de comunicação como, por exemplo, redes sociais (Facebook, Academia.Edu, etc).
6. A Revista é de acesso público, portanto, os autores que submetem trabalhos concordam que os mesmos são de uso gratuito.
7. Constatando qualquer ilegalidade, fraude, ou outra atitude que coloque em dúvida a lisura da publicação, em especial a prática de plágio, o trabalho estará automaticamente rejeitado.
8. Caso o trabalho já tenha sido publicado, será imediatamente retirado da base da revista, sendo proibida sua posterior citação vinculada a ela e, no número seguinte em que ocorreu a publicação, será comunicado o cancelamento da referida publicação. Em caso de deflagração do procedimento para a retratação do trabalho, os autores serão previamente informados, sendo-lhe garantido o direito à ampla defesa.
9. Os dados pessoais fornecidos pelos autores serão utilizados exclusivamente para os serviços prestados por essa publicação, não sendo disponibilizados para outras finalidades ou a terceiros.
