Meta prepara ferramentas para identificar imagens geradas por IA

A Meta está preparando ferramentas para identificar imagens geradas por inteligência artificial (IA). O presidente de assuntos globais da empresa, Nick Clegg, anunciou a novidade em uma publicação nesta terça-feira (6).

Todas as imagens geradas por IAs da Meta apresentam metadados e identificadores invisíveis para mostrar que foram criadas por modelos generativos. Contudo, isso não está presente em serviços concorrentes.

No Facebook, imagens geradas por IA serão identificadas com uma tag específica.Fonte:  Meta/Reprodução 

Segundo o executivo, a Meta está desenvolvendo ferramentas e marcadores para identificar imagens geradas por IA em plataformas vizinhas, como geradores do Google, OpenAI, Microsoft e Adobe.

“À medida que a diferença entre conteúdo humano e sintético fica confusa, as pessoas querem saber onde está o limite”, pontuou Clegg. “Muitas vezes, as pessoas encontram pela primeira vez conteúdo gerado por IA e nossos usuários nos disseram que apreciam a transparência em torno dessa tecnologia”, ressaltou.

Sendo assim, Clegg reconhece a importância de destacar quando uma imagem é gerada por um modelo generativo.

A maior transparência ajuda a Meta a evitar a disseminação de conteúdo nocivo gerado por IA. “Pessoas que organizações que desejam ativamente enganar outras pessoas com conteúdo gerado por IA procurarão maneiras de contornar os mecanismos de detecção”, pontuou Clegg.

Nas redes sociais da Meta — Instagram, Facebook e Threads —, todas as publicações com imagens geradas por IA serão identificadas com uma tag específica.

Segundo Clegg, a capacidade está em desenvolvimento e os identificadores serão implementados ao longo dos próximos meses. O executivo ressaltou que a agilidade é importante para preservar a integridade das eleições que acontecem este ano em vários países.

Contudo, a ferramenta da Meta será limitada a imagens. Os identificadores ainda não serão capazes de distinguir conteúdo em áudio ou vídeo gerado por IA.