A guerra declarada contra o pornô deepfake

Nos últimos anos, a tecnologia de deepfake tem se tornado uma preocupação crescente em diversos setores da sociedade. A capacidade de criar vídeos e imagens falsas, mas incrivelmente realistas, a partir de Inteligência Artificial tem sido utilizada de maneira prejudicial, especialmente no contexto da pornografia. Os legisladores americanos, reconhecendo a gravidade da situação, estão trabalhando para declarar ilegal a distribuição de pornografia deepfake. Este texto explora os esforços legislativos, os impactos na vida das vítimas e as medidas tomadas para combater essa tecnologia nociva.

A ascensão da pornografia deepfake

Em 2023, foram contabilizados mais de 21.000 vídeos de pornografia deepfake online, representando um aumento de 460% em relação ao ano anterior, conforme relatado por fontes do Congresso. Esse crescimento exponencial indica não apenas a evolução da tecnologia, mas também a facilidade com que ela pode ser utilizada para criar conteúdo prejudicial. A pornografia deepfake envolve a sobreposição digital de rostos de pessoas, muitas vezes sem o seu consentimento, em vídeos pornográficos, causando danos significativos às vítimas.

Esforços legislativos

Diante desse cenário alarmante, a senadora democrata de New Hampshire, Maggie Hassan, e o senador republicano do Texas, John Cornyn, apresentaram uma legislação bipartidária que visa impor sanções penais e civis para aqueles que compartilharem imagens deepfake sem consentimento. As penalidades propostas incluem multas e até dois anos de prisão, além de compensações civis que podem chegar a 150.000 dólares. Hassan expressou sua indignação com a situação: “Precisamos garantir que nossas leis acompanhem essa nova tecnologia e protejam as pessoas”. Cornyn também destacou a importância da legislação, afirmando que continuarão pressionando até que o projeto seja aprovado.

O impacto nas vítimas: o caso de Breeze Liu

Um dos casos mais notórios envolvendo pornografia deepfake é o de Breeze Liu, cujo rosto foi sobreposto em imagens pornográficas sem seu consentimento. “Realmente sinto que todo o meu mundo desabou naquele momento”, disse Liu, descrevendo a devastação emocional causada pela disseminação dessas imagens. Apesar de saber quem era o perpetrador e ter denunciado à polícia, as autoridades locais não tomaram medidas. A situação se agravou quando o agressor criou mais de 800 links com falsificações de Liu na internet, forçando-a a buscar ajuda do FBI e participar de uma ação coletiva contra o Pornhub.

A responsabilidade das plataformas online

As plataformas online, como o Pornhub, têm sido criticadas por sua resposta inadequada à disseminação de pornografia deepfake. Em uma declaração à CBS News, a plataforma afirmou que remove rapidamente qualquer material não consensual e que possui protocolos para evitar que esse material seja carregado. No entanto, a eficácia dessas medidas é frequentemente questionada, especialmente em casos como o de Breeze Liu, onde o conteúdo continua a se proliferar mesmo após denúncias. A pressão sobre essas plataformas para adotar medidas mais rigorosas e eficazes continua a crescer.

Deepfake e celebridades

Além de afetar cidadãos comuns, a pornografia deepfake também tem visado celebridades, criando imagens íntimas falsas de figuras públicas. Taylor Swift, por exemplo, foi uma das vítimas dessa tecnologia, levando o site de redes sociais X a desabilitar buscas relacionadas a ela para impedir a circulação de imagens pornográficas ultrafalsas da cantora. Esse tipo de abuso não só afeta a reputação e a vida pessoal das celebridades, mas também destaca a necessidade urgente de regulamentação e proteção contra a disseminação de deepfakes.

Deepfakes nas escolas: um problema emergente

O problema da pornografia deepfake também tem invadido o ambiente escolar. Estudantes têm utilizado essa tecnologia para criar imagens pornográficas de colegas e disseminá-las com a intenção de humilhar ou extorquir. Em Nova Jersey, um adolescente processou outro estudante por produzir e compartilhar deepfakes pornográficos dele e de outros colegas. Esses casos revelam uma nova dimensão do problema, onde jovens são tanto vítimas quanto perpetradores, e sublinham a necessidade de educação e prevenção no combate a esse tipo de crime.

Soluções e iniciativas

Para enfrentar a disseminação de deepfakes, algumas iniciativas têm sido desenvolvidas. Breeze Liu, por exemplo, fundou a Alecto AI, uma startup dedicada a identificar e remover rapidamente deepfakes encontrados online. Liu afirmou: “Cheguei à conclusão de que, a menos que o sistema mude, a menos que o mundo mude, a justiça nem seria uma opção para mim”. Além disso, legisladores como Hassan e Cornyn continuam a trabalhar em prol da aprovação de leis que criminalizem a criação e distribuição de imagens íntimas não consentidas, buscando estabelecer barreiras legais que protejam as pessoas dessa forma de abuso.

Problema complexo e urgente

A guerra contra a pornografia deepfake é um problema complexo e urgente que exige ações coordenadas de legisladores, autoridades policiais, plataformas online e a sociedade em geral. A tecnologia, que avança rapidamente, tem potencial para causar danos irreparáveis à vida das vítimas, como evidenciado pelos casos mencionados. A legislação proposta por Hassan e Cornyn representa um passo significativo na proteção dos direitos individuais e na responsabilização dos perpetradores. No entanto, é crucial que esses esforços sejam complementados por iniciativas educacionais e tecnológicas que possam prevenir a criação e disseminação de deepfakes. Com o apoio bipartidário e uma abordagem abrangente, há esperança de que se possa controlar essa ameaça crescente e proteger tanto figuras públicas quanto cidadãos comuns dos abusos dessa tecnologia.