O Facebook vai começar a usar inteligência artificial e machine learning para detectar fotos e vídeos íntimos publicados sem permissão. A nova ferramenta também funcionará no Instagram e pretende combater o chamado “pornô de vingança” (“revenge porn”, em inglês), em que pessoas divulgam vídeos e imagens privadas na Internet sem consentimento dos envolvidos. O anúncio foi feito na última sexta-feira (15).
A verificação e remoção automática do conteúdo faz com que a rede social não dependa de usuários para denunciar o abuso e removê-lo da plataforma. Além disso, o Facebook promete encaminhar as vítimas para grupos de apoio e prestar outros tipos de assistência por meio da central de ajuda "Não sem meu consentimento".
A ferramenta de inteligência artificial funciona a partir de photo-matching e aprendizado de máquina. Ou seja, a partir da amostra de um caso de revenge porn da plataforma, o recurso o compara com outros posts na rede social, buscando imagens similares. Ele verifica e analisa automaticamente vídeos e imagens em busca dos traços que denotem uma eventual quebra dos termos de uso do Facebook, como conteúdo potencialmente irregular. Assim, a capacidade de análise deve ficar mais precisa à medida que o sistema for usado.
Os materiais denunciados pela inteligência artificial como infratores serão revisados por um analista humano. Caso o diagnóstico do computador seja correto, a conta que publicou a postagem estará sujeita às sanções previstas nos termos de uso da rede social, como o banimento do Facebook. Em nota, a rede social indicou que haverá
... recursos para que os usuários recorram dessas sanções caso a checagem esteja equivocada.
