O aplicativo DeepNude chegou ao fim nesta quinta-feira (27) após causar polêmica na Internet. O objetivo do programa era criar fotos de mulheres nuas usando Inteligência Artificial. Lançado em março deste ano para uso em computadores Windows, o software de imagens comprometedoras teve vida curta. "O mundo não está pronto para o DeepNude", diz o comunicado oficial de encerramento publicado no Twitter — veja a nota na íntegra no fim da matéria.
O fim do programa de deepfake se dá depois da repercussão negativa sobre o app na imprensa internacional. O site de tecnologia Motherboard foi o primeiro a noticiar a existência do software, ressaltando o perigo do uso indevido da tecnologia. Durante o dia de ontem, o aumento do tráfego fez com que o app enfrentasse instabilidade e ficasse fora do ar. No fim da tarde, a empresa anunciou em seu perfil no Twitter que o aplicativo havia chegado ao fim: "DeepNude não lançará outras versões e não permitirá o acesso de mais ninguém — nem mesmo de usuários Premium".
O objetivo da aplicação era, a partir de fotos comuns, tirar a roupa das pessoas em poucos cliques, criando nudes realistas. Vale destacar que o sistema funcionava sem o consentimento de quem estava na fotografia e apenas com imagens de mulheres, trocando a blusa por seios e a calça por vulvas. O Motherboard testou o DeepNude, que não funcionou com fotos masculinas e, de acordo com a reportagem, conseguiu melhores resultados com fotos de mulheres com roupas leves, em que mostravam mais a pele.
O site do DeepNude definia o serviço como "um software automatizado Offline que transforma fotos, criando fake nudes". O programa era gratuito e funcionava em computadores Windows e Linux. Quem quisesse imagens em alta resolução poderia comprar a versão premium por US$ 50 (cerca de R$ 200). Todas as imagens falsas geradas pela plataforma continham uma marca d'água com a palavra FAKE.
Embora o algoritmo do DeepNude seja similar ao que é usado para a complexa criação de vídeos deepfake, a existência de um aplicativo que cria imagens falsas em cerca de 30 segundos poderia popularizar o uso mal intencionado da tecnologia para assédio, por exemplo. O que, de acordo com o desenvolvedor do software (que permanece anônimo), não seria um problema "se alguém tem más intenções, ter o DeepNude não muda muito... Se eu não fizer, alguém fará isso em um ano", disse em entrevista ao Motherboard antes dar fim à plataforma.
De acordo com o comunicado de encerramento, os criadores não previram que o app se tornaria viral, já que "não é tão bom assim", mas que não têm interesse em ganhar dinheiro com o uso inapropriado do sistema. "As chances de ocorrer uso indevido do aplicativo, caso tivéssemos 500 mil usuários, seriam altas. Nós não queremos lucrar dessa forma", explicam.
Deepfake
Esta não é a primeira vez que a inteligência artificial é usada com conotação sexual, para manipular a imagens de mulheres. Em 2018, a tecnologia deepfake ficou conhecida por incluir o rosto de atrizes famosas em filmes pornô. O termo se refere a uma tecnologia baseada em IA, capaz de gerar vídeos falsos. A técnica permite inserir rosto de pessoas reais em clipes diversos, ou gerar um áudio para parecer que uma pessoa disse aquilo. Desde seu surgimento, o deepfake tem sido usado com fins políticos (com falsificações de grandes pessoas públicas, como Trump e Obama) ou para fins pornográficos.
Comunicado oficial
"Esta é a breve história e o fim do DeepNude. Nós iniciamos esse projeto alguns meses atrás para o entretenimento de usuários. Nós ach
... ávamos que as vendas mensais eram poucas e estavam sob controle. Honestamente, o aplicativo não é tão bom assim, e apenas funciona em algumas fotos. Nós nunca achamos que o app viralizaria, e que não seríamos mais capazes de controlar o tráfego de acesso. Nós subestimamos a demanda.
Apesar das medidas de segurança que adotamos (como marcas d'água em fotos), seriam altas as chances de ocorrer uso indevido do aplicativo caso tivéssemos 500 mil usuários. Nós não queremos lucrar dessa forma. Com certeza algumas cópias do DeepNude cairão na Internet, mas nós não somos responsáveis pelas vendas delas. Baixar o software a partir de outras fontes ou compartilhá-lo de outra forma é contra os termos de uso do nosso site. De agora em diante, DeepNude não lançará outras versões e não permitirá o acesso de mais ninguém — nem mesmo de usuários Premium que desejam ativar a licença.
Pessoas que não conseguiram fazer o upgrade serão estornadas.
