DEEPFAKE PORNOGRAPHY: UMA ANÁLISE JURÍDICA SOBRE DIGNIDADE HUMANA E INTELIGENCIA ARTIFICIAL

Autores

DOI:

https://doi.org/10.26512/2357-80092025e53064

Palavras-chave:

Dignidade humana, Inteligência Artificial, Direito à imagem, Manipulação de imagem, Deepfake pornography

Resumo

Este artigo visa compreender a ascensão da Inteligência Artificial na sociedade, em especial na atividade de manipulação de imagens, a fim de discutir juridicamente a interseção entre a dissimulação virtual de conteúdo pornográfico e a dignidade da vítima, realizando uma abordagem legislativa e jurisprudencial acerca desse tema, com o propósito de responder o seguinte problema: de que maneira esses deepfakes afetam a dignidade humana, a privacidade e a imagem das vítimas? Para tanto, realiza-se um percurso histórico acerca dos avanços tecnológicos e o surgimento da IA, bem como sua influência nos programas de manipulação de imagem. Em seguida, trata-se da dignidade humana e a sua relação com a prática ilegal de produção e a divulgação de conteúdo pornográfico montado de maneira dissimulada e sem o consentimento da vítima. Ao final, aborda-se o deepfake pornography, demonstrando a insuficiência legislativa para tratamento do assunto. O estudo é de grande importância porque cada vez mais a evolução tecnológica traz consigo problemas de natureza sociojurídica, que exige do Estado uma resposta efetiva e rápida para salvaguardar a dignidade humana. Para a consecução deste estudo foi adotado o método indutivo para construção do argumento, com o método de procedimento descritivo, a partir da técnica de pesquisa exclusivamente bibliográfica.

Biografia do Autor

  • Márcia Haydée Porto de Carvalho , Universidade Federal do Maranhão (UFMA)

    Doutora em Direito do Estado pela PUC/SP. Professora permanente do Departamento de Direito e do Programa de Pós-Graduação em Direito da Universidade Federal do Maranhão (UFMA), linha de pesquisa: Instituições dos Sistemas de Justiça, Hermenêutica Constitucional, Controle de Constitucionalidade e Direitos Fundamentais, Promotora de Justiça em São Luís/MA. 

  • Isadora Silva Sousa, Universidade Federal do Maranhão (UFMA)

    Mestranda do Programa de Pós-Graduação em Direito e Instituições do Sistema de Justiça da Universidade Federal do Maranhão. 

  • Pedro Bergê Cutrim Filho, Universidade Federal do Maranhão (UFMA)

    Mestrando do Programa de Pós-Graduação em Direito e Instituições do Sistema de Justiça da Universidade Federal do Maranhão. 

  • Wiane Joany Batalha Alves, Universidade Federal do Maranhão (UFMA)

    Mestranda do Programa de Pós-Graduação em Direito e Instituições do Sistema de Justiça da Universidade Federal do Maranhão. Graduada pelo Centro Universitário Dom Bosco. Bolsista CAPES/BRASIL.

Referências

AJDER, Henry et al. DEEPTRACE. The State of deepfakes: Landscape, Threats, and Impact. [S.l.], set. 2019. p. 3. Disponível em: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf. Acesso em: 04 fev. 2024.

ALCÂNTARA, Maria Clara. Alunos de colégio particular do Recife usam IA para criar “nudes” falsos de colegas. CNN Brasil, 14 de novembro de 2023. Disponível em: https://www.cnnbrasil.com.br/nacional/alunos-de-colegio-particular-do-recife-usam-ia-para-criar-nudes-falsos-de-colegas/. Acesso em: 26 de jan. 2024.

ARAUJO, Luiz Alberto David. A Proteção Constitucional da Própria Imagem: Pessoa Física, Pessoa Jurídica e Produto. Belo Horizonte: Dey Rey, 1996.

ARAÚJO, Marcelo. O uso de inteligência artificial para a geração automatizada de textos acadêmicos: plágio ou meta-autoria? Logeion: Filosofia da Informação. Rio de Janeiro, v. 3, n. 1, p. 89-107, 2016. Disponível em: https://revista.ibict.br/fiinf/article/view/3012/2761. Acesso em: 08 fev. 2024.

BECCHI, Paolo. O princípio da dignidade humana. Aparecida, São Paulo: Santuário, 2013.

BELL, Daniel. O advento da sociedade Pós-Industrial: uma tentativa de previsão social. São Paulo: Editora Cultrix, 1973.

BRASIL, Superior Tribunal de Justiça. Súmula n. 403. Independe de prova do prejuízo a indenização pela publicação não autorizada de imagem de pessoa com fins econômicos ou comerciais. Brasília, DF: Superior Tribunal de Justiça, [2009]. Disponível em: https://www.stj.jus.br/docs_internet/revista/eletronica/stj-revista-sumulas-2014_38_capSumula403.pdf. Acesso em: 31 fev. 2024.

BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 1.082.878/RJ. Recorrente: Editora Globo S/A. Recorrido: Marcos Fábio Prudente. Relatora: Ministra Nancy Andrighi, 14 de outubro de 2008. DJe em 18/11/2008. Disponível em: https://processo.stj.jus.br/processo/revista/inteiroteor/?num_registro=200801875678&dt_publicacao=18/11/2008.Acesso em: 07 fev. 2024.

BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 1.840.848/SP. Recorrente: KKS. Recorrido: Google Brasil Internet Ltda.. Relator: Ministro Paulo de Tarso Sanseverino. 26 de abril de 2022. DJe em 05/05/2022 . Disponível em: https://processo.stj.jus.br/processo/julgamento/eletronico/documento/mediado/?documento_tipo=integra&documento_sequencial=151617285&registro_numero=201902924723&peticao_numero=&publicacao_data=20220505&formato=PDF. Acesso em: 07 fev. 2024.

BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 1.930.256/SP. Recorrentes: FBC e GBIL. Recorridos: FBC e GBIL. Relatora: Ministra Nancy Andrighi. 07 de dezembro de 2021. DJe 17/12/2021. Disponível em: https://processo.stj.jus.br/processo/julgamento/eletronico/documento/mediado/?documento_tipo=integra&documento_sequencial=142674902&registro_numero=202100934040&peticao_numero=&publicacao_data=20211217&formato=PDF. Acesso em: 07 fev. 2004.

BRASIL. Superior Tribunal de Justiça. Recurso Especial n. 1.735.712/SP. Recorrente: VWZ. Recorrido: Facebook Serviços Online do Brasil Ltda. Relatora: Ministra Nancy Andrighi. 19 de maio de 2020. DJe: 27/05/2020. Disponível em: https://scon.stj.jus.br/SCON/GetInteiroTeorDoAcordao?num_registro=201800428994&dt_publicacao=. Acesso em 07 fev. 2024.

BRASIL. Tribunal Superior Eleitoral. TSE proíbe uso de inteligência artificial para criar e propagar conteúdos falsos nas eleições. TSE, 29 de fevereiro de 2024. Disponível em: https://www.tse.jus.br/comunicacao/noticias/2024/Fevereiro/tse-proibe-uso-de-inteligencia-artificial-para-criar-e-propagar-conteudos-falsos-nas-eleicoes. Acesso em: 01 mar. 2024.

CANOTILHO, José Joaquim Gomes. Direito Constitucional e teria da constituição. 7. ed. Coimbra: Almedina, 2003.

CASTELLS, Manuel. A sociedade em rede: a era da informação, economia, sociedade e cultura. 6. ed. São Paulo: Paz e Terra, 2011. v. 1.

CASTRO, Ana Lara Camargo de; SYDOW, Spencer Toth. Exposição pornográfica não consentida na internet: da pornografia de vingança ao lucro. 1 ed. Belo Horizonte: D’Plácido, 2017.

COMPARATO, Fabio Konder. A Afirmação histórica dos direitos humanos. 6. ed. São Paulo: Saraiva: 2015.

COPPIN, Ben. Inteligência artificial. Tradução: Jorge Duarte Pires Valério. Rio de Janeiro: LTC, 2017.

DAMILANO, Cláudio Teixeira. Inteligência artificial e inovação tecnológica: as necessárias distinções e seus impactos nas relações de trabalho. Brazilian Journal of Development. Curitiba, PR,v. 5, n. 10, p. 19985-20001, out. 2019.p. 19987. ISSN: 2525-8761. Disponível em: https://www.ufsm.br/app/uploads/sites/563/2019/09/12.4.pdf. Acesso em: 05 fev. 2024.

DE CUPIS, Adriano. Os direitos da personalidade. 2. ed. São Paulo: Quorum, 2008.

DELFNO, Rebeca. (2019). Pornographic deepfakes: the case for federal criminalization of revenge porn’s next tragic act. Fordham Law Review, v. 88, n.3, 2019. Disponível em: https://ir.lawnet.fordham.edu/flr/vol88/iss3/2/. Acesso em: 06 fev. 2024.

DIAS, Jacqueline Sarmento. O direito à imagem. Belo Horizonte: Del Rey, 2000, p. 71; SOUZA, Carlos Affonso Pereira de. Contornos atuais do direito à imagem. Revista Trimensal de Direito Civil, v .4, n. 13, p. 33-72, jan.-mar. 2003. p. 51.

DINIZ, Maria Helena. Teoria geral do direito civil. 31. ed. São Paulo: Saraiva, 2014.

FACHIN, Zulmar Antonio. A proteção jurídica da imagem. São Paulo: Celso Bastos Editor, 1999.

FLYNN, Asher et al. Shattering lives and myths: Report on image-based sexual abuse. Australian Research Council (ARC). 2019. Disponível em https://claremcglynn.files.wordpress.com/2019/10/shattering-lives-and-myths-revised-aug-2019.pdf. Acesso: 15 fev. 2024.

GILBOURNE, Jade. Taylor Swift deepfakes: a legal case from the singer could help other victims of AI pornography. The Conversantion, 31 janeiro 2024. Disponível em: https://theconversation.com/taylor-swift-deepfakes-a-legal-case-from-the-singer-could-help-other-victims-of-ai-pornography-222113. Acesso em: 26 de fev. 2024.

GREENGARD, Samuel. Will deepfakes do deep damage?. Communications of the ACM, v. 63, n.1, 17-19, 2019. Disponível em: https://cacm.acm.org/news/will-deepfakes-do-deep-damage/. Acesso em 07 fev. 2024.

HAPSARI, Anita Dwi. Students’ Perception toward Using Canva in EFL Business Correspondence Class. Edulitics (Education, Literature, and Linguistics) Journal, v. 8, n. 2, p. 47-56, 2023. Disponível em: https://www.e-jurnal.unisda.ac.id/index.php/edulitic/article/view/5268. Acesso em: 07 fev. 2024.

HOME SECURITY HEROES. 2023 State of Deepfakes: Realities, Threats, and Impact. Home Secutity Heroes, 2023. Disponível em: https://www.homesecurityheroes.com/state-of-deepfakes/. Acesso em 15 jan. 2024.

KANT, Immanuel. Crítica da razão prática. Tradução Valério Rohden. São Paulo: Martins Fontes, 2003.

LARENZ, Karl. Derecho civil: parte general. Madri: Editoriales de Derecho Reunidas, 1978.

LONGO, Ivan. Lula é alvo de deepfake usado por criminosos para aplicar golpes; veja como não cair. Fórum, Brasil, 11 de dezembro de 2023. Disponível em: https://revistaforum.com.br/brasil/2023/12/11/lula-alvo-de-deepfake-usado-por-criminosos-para-aplicar-golpes-veja-como-no-cair-149271.html. Acesso em: 26 fev. 2024.

LOPES, Isaia Lima; SANTOS, Flávia Aparecida Oliveira; PINHEIRO, Carlos Alberto Murari. Inteligência Artificial. 1. ed. Rio de Janeiro: Elsevier, 2014.

MARIA, Carolina. The Legal Implications and Remedies Concerning revenge Porn and Fake Porn: A Common Law Perspective. Sexuality & Culture, 2020. Disponível em: https://doi.org/10.1007/s12119-020-09738-0. Acesso em: 07 fev. 2024.

MARTINS, Américo. Eleições nos EUA: uso de deepfake e IA revela problema que pode se repetir no Brasil. CNN Brasil, Londres, 23 de janeiro de 2024. Disponível em: https://www.cnnbrasil.com.br/internacional/eleicoes-nos-eua-uso-de-deepfake-e-ia-revela-problema-que-pode-se-repetir-no-brasil/. Acesso em: 26 fev. 2024.

MEDEIROS. Heloísa Gomes. Software e direitos de propriedade intelectual. Curitiba: Gedai, 2019.

MOORE, Martin; TAMBINI, Damian. Policy Responses to Digital Dominance Regulating Big Tech. New York: Oxford University, 2022.

MORAES, Maria Celina Bodin de. Na medida da pessoa humana: estudos de direito civil. Rio de Janeiro: renovar, 2010.

MOURA, Camila Stéffane Fernandes Teixeira de. Detecção de deepfakes a partir de técnicas de visão computacional e aprendizado de máquina.Orientador: Anderson de Rezende Rocha. 2021. 105 f. Dissertação (Mestrado em Ciência da Computação) - Universidade Estadual de Campinas, Instituto de Computação, Campinas, SP, 2021. Disponível em: https://repositorio.unicamp.br/acervo/detalhe/1162078. Acesso em: 05 fev. 2024.

NAJDOWSKI, Cynthia. Legal responses to nonconsensual pornography: Current policy in the United States and future directions for research. Psychology, Public Policy, and Law, v. 23, n. 2, p. 154–165, 2017. Disponível em https://psycnet.apa.org/doiLanding?doi=10.1037%2Flaw0000123. Acesso em 07 jan. 2024.

ORGANIZAÇÃO DAS NAÇÕES UNIDAS (ONU). Informe de política para a nossa agenda comum: integridade da informação nas plataformas digitais. 2023. Disponível em: https://brasil.un.org/sites/default/files/2023-10/ONU_Integridade_Informacao_Plataformas_Digitais_Informe-Secretario-Geral_2023.pdf. Acesso em 07 jan. 2024.

PASSOS, Hugo Assis. Inteligência Artificial e a Repercussão Geral da Questão Constitucional: análise crítica e parâmetros de utilização. 2022. Tese (Doutorado de Direito Constitucional) - Faculdade de Direito, Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa. Brasília, 2022.

PEIXOTO, Hartmann Fabiano. Direito e Inteligência Artificial: referenciais básicos com comentários à Resolução CNJ 332/2020. Brasília: DR.IA, 2020.

PINA, Afroditi; HOLANDA, James; JAMES, Mark. The malevolent side of revenge porn proclivity: Dark personality traits and sexist ideology. International Journal of Technoethics (IJT), v. 8, n.1, p. 30–43, 2017. Disponível em: https://doi.org/10.4018/IJT.2017010103. Acesso em: 06 jan. 2024.

PINTO, Felipe Chiarellode Souza; OLIVEIRA, Gabriela Franklin de. Não acredite em tudo que vê: deepfake pornography e responsabilidade civil no ordenamento jurídico brasileiro. Direito e Política, vol. 18, n. 2, 2023. Disponível em: https://periodicos.univali.br/index.php/rdp/article/view/19869/11490. Acesso em: 07 jan. 2024.

PRADO, Magaly Parreira do. Deepfake de áudio: manipulação simula voz real para retratar alguém dizendo algo que não disse. Revista Digital de Tecnologias Cognitivas, nº 23, jan./jun. 2021, p. 45-68. Disponível em: https://revistas.pucsp.br/index.php/teccogs/article/view/55977. Acesso em: 29 dez. 2023.

RÁDIO PÚBLICA FRANCESA (RFI). Europa impõe novas regras para combater conteúdos ilícitos. Carta Capital, 25 de agosto de 2023. Disponível em: https://www.cartacapital.com.br/tecnologia/internet-europa-impoe-novas-regras-para-combater-conteudos-ilicitos/. Acesso em: 26 de jan. 2024.

REINA, Eduardo. China cria lei para combater informações falsas formatadas por meio de deepfakes. Consultor jurídico, 8 de abril de 2023. Disponível em: https://www.conjur.com.br/2023-abr-08/china-cria-lei-informacoes-falsas-meio-deepfakes/#:~:text=A%20China%20%C3%A9%20o%20primeiro,dos%20aplicativos%20que%20usam%20IA. Acesso em: 26 fev. 2024.

REIS, Jorge Renato dos; DIAS, Felipe da Veiga. O Direito de imagem sob a ótica da constitucionalização do direito privado: um panorama jurisprudencial no estado democrático de direito. Scientia Iuris, Londrina, v. 15, n. 1, p. 51-70, 2011.

ROSEN, Michael. Dignity: Its History and Meaning. Cambridge, MA: Harvard University Press, 2012.

SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais. 13. ed. Porto Alegre: Livraria do Advogado, 2018.

SCHREIBER, Anderson. Direitos da personalidade. 2. ed. São Paulo: Atlas, 2013.

SCHREIBER, Anderson; RIBAS, Felipe; MANSUR, Rafael. deepfakes: regulação e responsabilidade civil. In: TEPEDINO, Gustavo; SILVA, Rodrigo da Guia (Coord.). O direito civil na era da inteligência artificial. São Paulo: Thompson Reuters Brasil, 2020.

SEARLE, John Rogers. A Redescoberta da Mente. São Paulo: Martins Fontes, 1997.

SHINOHARA, Luciane. Inteligência Artificial, Machine Learning e Deep Learning. In: PINHEIRO, Patrícia Peck (Coord.). Direito digital aplicado 3.0. São Paulo: Thompson Reuters Brasil, 2018.

SIQUEIRA, Dirceu Siqueira; VIEIRA, Ana Elisa Silva Fernandes Vieira. OS LIMITES À RECONSTRUÇÃO DIGITAL DA IMAGEM NA SOCIEDADE TECNOLÓGICA. Revista Eletrônica do Curso de Direito da UFSM, [S. l.], v. 17, n. 3, p. e67299, 2022. DOI: 10.5902/1981369467299. Disponível em: https://periodicos.ufsm.br/revistadireito/article/view/67299. Acesso em: 03 fev. 2024.

SOUZA, Carlos Affonso Pereira de. Contornos atuais do direito à imagem. Revista Trimensal de Direito Civil, v .4, n. 13, p. 33-72, jan.-mar. 2003.

SUZOR, Nicolas; SEIGNIOR, Bryony; SINGLETON, Jennifer. Non-consensual porn and the responsibilities of online intermediaries. Melbourne University Law Review, v. 40, n. 3, 2016. Disponível em: https://law.unimelb.edu.au/__data/assets/pdf_file/0007/2329396/Suzor-403-Advance.pdf. Acesso em: 10 fev. 2024.

TEFFÉ, Chiara Antonia Spadaccini de. Considerações sobre a proteção do direito à imagem na internet. RIL Brasília. Brasília, v. 54, n. 213, p. 173-198, jan.-mar. 2017.p. 179. Disponível em: https://www12.senado.leg.br/ril/edicoes/54/213/ril_v54_n213_p173.pdf. Acesso em: 07 fev. 2024.

TOMASEVICIUS FILHO, Eduardo. Inteligência artificial e direitos da personalidade: uma contradição em termos? Revista da Faculdade de Direito, Universidade de São Paulo. [S.l.], v. 113, p. 133-149, 2018. DOI: 10.11606/issn.2318-8235.v113i0p133-149. Disponível em: https://www.revistas.usp.br/rfdusp/article/view/156553. A cesso em: 08 fev. 2024.

TORRES, Ana Maria Lumi Kamimura; MURRATA, Paula Ritzmann. A convenção de budapeste sobre os crimes cibernéticos foi promulgada, e agora? Boletim IBCRIM, ano 31, n. 368, julho, 2023.

Revista Direito.UnB |Janeiro – Dezembro, 2025, V. 9, N. 1

Downloads

Publicado

2025-12-31

Como Citar

DEEPFAKE PORNOGRAPHY: UMA ANÁLISE JURÍDICA SOBRE DIGNIDADE HUMANA E INTELIGENCIA ARTIFICIAL. Direito.UnB - Revista de Direito da Universidade de Brasília, [S. l.], v. 9, n. 1, p. 167–194, 2025. DOI: 10.26512/2357-80092025e53064. Disponível em: https://periodicostestes.bce.unb.br/index.php/revistadedireitounb/article/view/53064. Acesso em: 10 fev. 2026.

Artigos Semelhantes

1-10 de 254

Você também pode iniciar uma pesquisa avançada por similaridade para este artigo.