A pornografia deepfake – onde a semelhança de alguém é imposta em imagens sexualmente explícitas com inteligência artificial – “tornou-se assustadoramente comum”, atesta Clare McGlynn, professora de Direito da Universidade de Durham. O site mais popular dedicado a deepfakes sexualizados, geralmente criados e partilhados sem consentimento, recebe cerca de 17 milhões de acessos por mês. O conteúdo tem como alvo quase exclusivamente mulheres. Também houve um aumento exponencial em aplicativos de nudificação que “transformam imagens comuns de mulheres e meninas em nus”.

Para ler depois
Perdeu a filha porque cometeu um erro no Facebook

Quando Jodi, recebeu um e-mail anónimo a informá-la de que havia sido alvo de deepfaked, ficou arrasada – e deu inclusive origem a um documentário da BBC. O seu sentimento de violação intensificou-se quando descobriu que o homem responsável era amigo próximo dela há anos. Ficou com sentimentos suicidas. Várias da suas amigas foram também vítimas.

O horror com que Jodie, alguns dos seus amigos e outras vítimas se confrontaram “não é causado por pervertidos desconhecidos na Internet, mas antes por sujeitos comuns. Os perpetradores de abuso sexual deepfake podem ser nossos amigos, conhecidos, colegas de trabalho ou de escola. Adolescentes de todo o mundo perceberam que os seus colegas de classe estão a usar aplicativos para transformar os seus conteúdos de redes sociais em nus e a partilhá-los em grupos.

“Tendo trabalhado de perto com vítimas e falado com muitas mulheres jovens, está claro para mim que a pornografia deepfake se tornou numa ameaça invisível nas vidas de todas as mulheres e até acrianças. Pornografia deepfake ou imagens comuns de nudez podem acontecer a qualquer um de nós, a qualquer momento. E não há nada que possamos fazer para evitá-lo.

Embora as leis criminalizem a partilha de pornografia deepfake sem consentimento, não cobrem a sua criação. A possibilidade de criação por si só implanta medo e ameaça na vida das mulheres.

Criação de pornografia deepfake por si só é violação

Por tudo isto, considera Clare McGlynn, é momento “criminalizar a criação de deepfakes sexualizados sem consentimento”. No Reino Unido, por exemplo, na Câmara dos Lordes, Charlotte Owen descreveu o abuso de deepfakes como uma “nova fronteira de violência contra mulheres” e pediu que fosse criminalizado.

O debate acontece em todo o mundo. Os EUA consideram uma legislação federal para dar às vítimas o direito de processar por danos nos tribunais civis, que já acontece no Texas. Outras jurisdições, como Holanda e o estado australiano de Victoria, já criminalizam a produção de deepfakes sexualizados sem consentimento.

“Uma resposta comum à ideia de criminalizar a criação de deepfakes sem consentimento é que a pornografia deepfake é uma fantasia sexual, assim como imaginá-la na sua cabeça. Mas na realidade não é – é criar um arquivo digital que pode ser partilhado online a qualquer momento, deliberadamente ou de forma maliciosa, como o hacking.

“Não está claro, igualmente, por que deveríamos privilegiar os direitos dos homens à fantasia sexual sobre os direitos das mulheres e crianças à integridade sexual, autonomia e escolha”, diz. Trata-se, afinal, de “uma conduta não consensual de natureza sexual”. “Nem o ator pornográfico nem a mulher cuja imagem é imposta na pornografia consentiram que as suas imagens, identidades e sexualidades fossem usadas desta forma.”

A criação “pode ser” sobre fantasia sexual, mas “também é sobre poder e controlo e a humilhação das mulheres”. O sentido de direito sexual dos homens sobre os corpos das mulheres “atravessa as salas de chat da Internet onde deepfakes sexualizados e dicas para a sua criação são amplamente difundidos”. “Tal como todas as formas de abuso sexual baseado em imagens, a pornografia deepfake é sobre dizer às mulheres para voltarem para o seu canto e saírem da Internet”, considera McGlynn.

Lei mais abrangente

Uma lei que criminaliza apenas a distribuição de pornografia deepfake “ignora o fato de que a criação não consensual do material é em si uma violação”. Criminalizar a produção teria como objetivo “interromper essa prática na sua raiz”.

Embora existam preocupações legítimas sobre a criminalização excessiva de problemas sociais, “há uma ‘subcriminalização’ mundial dos danos sofridos pelas mulheres, particularmente o abuso online”.

Embora a justiça criminal não seja a única solução – “ou até a principal” – para a violência sexual devido às falhas policiais e judiciais contínuas, “é uma opção de reparação”. “Nem todas as mulheres querem denunciar à polícia, mas algumas querem. Também precisamos de novos poderes civis para permitir que os juízes ordenem que as plataformas de Internet e os perpetradores retirem e excluam imagens e exijam que a compensação seja paga quando apropriado.”

Da mesma forma que a lei criminal “estabelece as bases para a educação e a mudança cultural, também pode impor maiores obrigações às plataformas de Internet”. “Se a criação de deepfakes pornográficos fosse ilegal, seria difícil aos provedores continuarem a sustentar o ecossistema deepfake e difícil ao Google continuar listar sites pornográficos deepfake no topo dos resultados das pesquisas e difícil também para empresas de redes sociais como X (antigo Twitter) ou lojas de aplicações continuarem a anunciar quaisquer App de nudez”, explica.

A realidade de viver com a ameaça invisível do abuso sexual deepfake “está agora a começar a atingir mulheres e crianças”. “As minhas alunas ficam horrorizadas quando percebem que o colega do lado pode produzir pornografia deepfake com imagens delas, por mais inocentes que sejam, e na prática não há nada que possam fazer contra eles, porque a prática, no fim de contas, não é ilegal.”

Com as mulheres a partilharem o seu profundo desespero de que o seu futuro está nas mãos de ‘comportamentos imprevisíveis’ e das decisões ‘precipitadas’ dos homens, está na hora de a lei abordar esta ameaça de forma séria”, pede o professora de Direito da Universidade de Durham Clare McGlynn.

Siga a Impala no Instagram