Em um comunicado publicado no fórum oficial de criadores, o YouTube anunciou a ampliação de sua ferramenta de detecção de deepfakes criados por inteligência artificial para todos os usuários maiores de 18 anos.
Continua após a publicidade
Com a mudança, qualquer pessoa adulta poderá usar o sistema para identificar vídeos que utilizem sua imagem de forma falsa ou manipulada dentro da plataforma.
Em resumo:
- YouTube libera detector de deepfakes para todos os usuários adultos;
- Sistema usa selfie para identificar rostos falsificados por inteligência artificial;
- Plataforma avisa usuários sobre vídeos suspeitos encontrados no YouTube;
- Pessoas poderão pedir remoção de conteúdos manipulados com suas imagens;
- Ferramenta busca reduzir golpes, fraudes e desinformação com deepfakes.
Como funciona o detector de deepfakes do YouTube
A ferramenta funciona a partir de uma digitalização facial feita pelo próprio usuário, semelhante a uma selfie. Com esses dados, o sistema monitora o YouTube em busca de rostos parecidos que possam indicar o uso indevido da imagem da pessoa em conteúdos gerados por IA.
Quando encontra uma possível correspondência, a plataforma envia um aviso ao usuário. A partir disso, ele pode pedir a remoção do vídeo. Segundo o YouTube, o número de solicitações registradas até agora ainda é considerado pequeno.
O recurso começou a ser testado inicialmente com criadores de conteúdo. Depois, foi liberado para jornalistas, políticos, autoridades públicas e profissionais da indústria do entretenimento. Agora, a empresa decidiu abrir o acesso para o público em geral.
A expansão representa um passo importante no combate aos deepfakes, tecnologia que permite criar vídeos muito realistas com rostos falsificados digitalmente. O avanço dessas ferramentas tem aumentado preocupações sobre golpes, desinformação e uso indevido da imagem de pessoas comuns.
Leia mais:
Remoção é feita após análise criteriosa dos vídeos
O YouTube informou que os pedidos de remoção passam por análise baseada em sua política de privacidade. Entre os critérios avaliados estão o nível de realismo do vídeo, a identificação clara de que o conteúdo foi criado por IA e a possibilidade de reconhecer a pessoa mostrada nas imagens.
A plataforma destacou ainda que existem exceções para materiais de sátira, humor ou paródia. Além disso, a ferramenta atua apenas na identificação facial e não inclui outros elementos, como imitações de voz.
Os usuários também poderão deixar o programa quando quiserem e solicitar a exclusão de seus dados faciais armazenados pela empresa.
Continua após a publicidade
No anúncio, o porta-voz Jack Malon afirmou que não há exigência mínima para que alguém participe da ferramenta. “Com essa expansão, estamos deixando claro que, independentemente de os criadores estarem publicando conteúdo no YouTube há uma década ou estarem apenas começando, eles terão acesso ao mesmo nível de proteção”.
O crescimento das deepfakes vem preocupando cada vez mais especialistas, tendo em vista que a tecnologia já foi usada em casos de assédio, fraudes e criação de conteúdos falsos envolvendo adolescentes, celebridades e figuras públicas.