A Explosão dos Deepfakes e a Nova Ferramenta da Meta
Jogar uma pedra e é quase certo que você vai atingir um deepfake. A commoditização da inteligência artificial generativa resultou em uma explosão absurda de conteúdos falsos online. De acordo com a plataforma de verificação de identidade Sumsub, houve um aumento de quatro vezes nos deepfakes em todo o mundo de 2023 para 2024. Em 2024, os deepfakes representaram 7% de todas as fraudes, abrangendo desde imitações e assumir contas até campanhas sofisticadas de engenharia social.
Com a esperança de contribuir significativamente na luta contra os deepfakes, a Meta está lançando uma ferramenta para aplicar marcas d’água imperceptíveis a clipes de vídeo gerados por IA. Anunciada na quinta-feira, a ferramenta, chamada Meta Video Seal, está disponível como open source e foi projetada para ser integrada a softwares já existentes. Essa novidade se junta a outras ferramentas de marca d’água da Meta, como o Watermark Anything (relançado hoje sob uma licença permissiva) e o Audio Seal.
“Desenvolvemos o Video Seal para oferecer uma solução de marca d’água em vídeo mais eficaz, especialmente para a detecção de vídeos gerados por IA e para proteger a originalidade”, afirmou Pierre Fernandez, cientista de pesquisa em IA na Meta, em entrevista ao Visualizer.
O Video Seal não é a primeira tecnologia desse tipo. O SynthID da DeepMind também pode marcar vídeos, e a Microsoft possui suas próprias metodologias de marca d’água para vídeo.
No entanto, Fernandez afirma que muitas abordagens existentes não são adequadas.
“Embora existam outras ferramentas de marca d’água, elas não oferecem robustez suficiente à compressão de vídeo, que é muito comum ao compartilhar conteúdo em plataformas sociais; não eram eficientes o bastante para funcionar em larga escala; não eram abertas ou reproduzíveis; ou eram derivadas de marcas d’água de imagens, que não são ideais para vídeos”, explicou Fernandez.
Além da marca d’água, o Video Seal pode adicionar uma mensagem oculta aos vídeos que pode ser revelada posteriormente para determinar suas origens. A Meta afirma que o Video Seal é resistente a edições comuns como desfoque e corte, além de acessar algoritmos de compressão populares.
Fernandez admite que o Video Seal possui certas limitações, principalmente a troca entre quão perceptíveis são as marcas d’água da ferramenta e sua resiliência geral à manipulação. Compressão intensa e edições significativas podem alterar as marcas d’água ou torná-las irrecuperáveis, ele acrescentou.
É claro que o maior desafio enfrentado pelo Video Seal é que desenvolvedores e a indústria podem não ter motivos suficientes para adotá-lo, especialmente aqueles que já utilizam soluções proprietárias. Para enfrentar isso, a Meta está lançando um quadro de líderes público, o Meta Omni Seal Bench, dedicado à comparação do desempenho de diversos métodos de marca d’água, além de organizar um workshop sobre marca d’água este ano na ICLR, uma importante conferência de IA.
“Esperamos que cada vez mais pesquisadores e desenvolvedores de IA integrem algum tipo de marca d’água em seu trabalho”, disse Fernandez. “Queremos colaborar com a indústria e a comunidade acadêmica para progredir mais rapidamente neste campo”, finalizou.
