App de troca de rosto gera furor

Aplicativo chinês modela a foto de uma pessoa e insere o rosto em qualquer vídeo

No próximo ciclo eleitoral, tanto no Brasil quanto nos EUA, é bom estarmos preparados para a chegada forte dos “deepfakes”. Trata-se de falsificações da realidade criadas com o uso de inteligência artificial (daí o nome, que faz referência a “deep learning”, uma das principais modalidades de inteligência artificial).

Com essa tecnologia, é possível criar vídeos e fotos de políticos e personalidades conhecidas em situações em que nunca estiveram e que parecem totalmente reais. Essa tecnologia barateou e está hoje acessível em toda parte.

O capítulo mais recente dessa epopeia é a popularidade do aplicativo chinês chamado Zao, que foi lançado em 30 de agosto e foi direto para o topo dos mais baixados nas app stores daquele país.

O aplicativo é ao mesmo tempo fascinante e aterrorizador. Usando apenas uma foto de qualquer pessoa, ele consegue modelá-la e inserir o rosto em qualquer vídeo. Usando inteligência artificial, é possível aparecer em um vídeo —com perfeição de movimentos— com a facilidade de quem coloca um desses filtros faciais que hoje são populares em vários aplicativos.

O aplicativo imediatamente causou furor. Muita gente colocou seu rosto em filmes com o ator Leonardo diCaprio. Mas logo em seguida outros usos nada salutares começaram a aparecer. Por exemplo, é fácil inserir o rosto de alguém em um vídeo pornográfico.

Para complicar, a empresa teve de mudar seus termos de uso, em razão de alegações de que estavam violando a privacidade dos usuários. Para fazer o app funcionar melhor, os usuários “treinam” a ferramenta publicando fotos piscando, abrindo a boca e fazendo outras expressões faciais. Só que a versão inicial do aplicativo conferia uma licença “gratuita, irrevogável, permanente e transferível” para o aplicativo, que poderia então usar o rosto da pessoa para outras finalidades.

Em razão da polêmica, a empresa rapidamente mudou os termos de uso dizendo que não poderá utilizar as fotos ou vídeos feitos pelos usuários exceto em casos em que eles concordem previamente. E se comprometeu a deletar todo o conteúdo que foi colocado no app dos seus servidores se os usuários efetuarem essa operação.

No entanto, a polêmica continua. Muita gente ficou com a sensação de que o aplicativo Zao nos coloca em um território desconhecido. A maleabilidade do mundo digital ficou não só clara como completamente escancarada. Cada vez mais nossa vida se passa digitalmente. E esse mundo é completamente passível de fabricação.

Um bom exemplo é a popular videoblogueira chinesa Qiaobiluo Dianxia. Ela se passava por uma garota adolescente nos vídeos (e já tinha 130 mil seguidores). Só que na verdade era uma senhora de 58 anos, aplicando filtros de inteligência artificial no próprio rosto para parecer garota na internet.

Vamos cada vez mais conviver com situações como essa. O que fazer? Hoje não há nenhum método para detectar “deepfakes” que seja confiável. Uma empresa de tecnologia acabou de lançar um prêmio de US$ 10 milhões para quem conseguir inventar um detector “deepfakes”. Se você tiver uma solução, vale se inscrever no prêmio (e avisar a este colunista para que ele possa dormir melhor).