O Facebook anunciou um novo processo que ajudará a impedir a propagação de conteúdo ofensivo em suas plataformas. E enquanto o principal objetivo da nova iniciativa é acabar com a pornografia de vingança, ela poderia ter implicações mais amplas para outras violações de conteúdo também.

Como observado em seu anúncio, e pelo CEO do Facebook Mark Zuckerberg, pornografia de vingança é o seu foco principal aqui.

O novo processo funcionará da seguinte forma :

• Quando um usuário vê uma “imagem íntima no Facebook que parece que foi compartilhada sem permissão”, eles podem denunciá-lo usando o link “Relatório” que aparece quando você toca na seta para baixo ao lado de uma postagem.
• Representantes da equipe de Operações Comunitárias do Facebook revisarão a imagem e a removerão se violar os  Padrões Comunitários da plataforma . Facebook diz que na maioria dos casos, eles também desativarão a conta para compartilhar imagens íntimas sem permissão.
• O Facebook usará a tecnologia de correspondência de fotos para impedir que o conteúdo ofensivo seja compartilhado ainda mais no Facebook, Messenger e Instagram. “Se alguém tentar compartilhar a imagem depois que ela for relatada e removida, nós alertaremos que ela viola nossas políticas e que paramos sua tentativa de compartilhá-la”.

É o mais recente avanço nos esforços automatizados de reconhecimento de imagens do Facebook, que Zuckerberg destacou em seu recente esboço de iniciativas comunitárias-chave em andamento , publicado em fevereiro. Nesse momento, Zuckerberg observou que suas ferramentas de inteligência artificial e reconhecimento de imagens já geram cerca de um terço de todos os relatórios para a equipe de revisão de conteúdo.

Facebook tem sido o desenvolvimento de sua tecnologia de reconhecimento de imagem por anos – você pode ver por si mesmo o quão longe os seus sistemas têm evoluído por verificar as tags incluídas em cada post imagem (no canto superior direito da imagem abaixo).

Esta nova aplicação mostra que eles agora são capazes de colocar mais confiança no sistema e, como observado, enquanto vingança pornô é o foco-chave (e um importante – uma em cada 25 pessoas nos EUA foram vítimas de não-consensual Compartilhamento de imagens), as aplicações podem ser estendidas ainda mais para eliminar todo o conteúdo ofensivo relatado de suas plataformas. Se o sistema é capaz de identificar de forma precisa e confiável instâncias duplicadas de qualquer imagem, os possíveis casos de uso são significativos.

A próxima fase deste será o reconhecimento de vídeo, que o Facebook também está em desenvolvimento .

Tais avanços têm muitos casos de uso em potencial, mas a segurança da comunidade é uma área-chave do desenvolvimento – que poderia nos levar a ter um espaço muito mais seguro e inclusivo, livre de material ilegal e ofensivo.

Compartilhar

Leia também