Após pressão de ator de Breaking Bad, OpenAI vai combater deepfakes no Sora 2

A OpenAI divulgou nesta semana um comunicado dizendo que vai trabalhar ao lado de Bryan Cranston, membro do sindicato de atores e protagonista da série de sucesso Breaking Bad, para combater deepfakes no aplicativo Sora 2.

O caso aconteceu depois que vídeos feitos por IA usando a imagem de pessoas reais sem autorização, incluindo Cranston, apareceram no aplicativo.

Bryan Cranston cobrou medidas da OpenAI

De acordo com a CNBC, Bryan Cranston demonstrou preocupação ao Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA), o sindicato dos atores, após sua voz e imagem serem usadas para criar vídeos artificiais dentro do Sora 2.

PUBLICIDADE

Outras empresas de Hollywood já tinham expressado receios com a falta de proteção à imagem de artistas.

Diante da cobrança, a OpenAI publicou uma nota conjunta com Cranston e do sindicato de atores dizendo que vai combater as deepfakes dentro do Sora. A desenvolvedora também afirmou que, além do SAG-AFTRA, vai trabalhar em parceria com a United Talent Agency (agência que representa Cranston), com a Association of Talent Agents e com a Creative Artists Agency para aumentar as proteções contra usos indevidos de IA.

Em nota, Bryan Cranston agradeceu:

Agradeço à OpenAI pela política e por reforçar as barreiras de proteção. Espero que eles e todas as empresas envolvidas respeitem nosso direito, tanto pessoal quanto profissional, de controlar o uso da nossa voz e imagem.

Bryan Cranston

Deepfakes de Martin Luther King Jr. e Robin Williams já apareceram no Sora 2

O caso de Cranston não foi o primeiro.

Na semana passada, a OpenAI suspendeu a geração de vídeos artificiais retratando Martin Luther King Jr., após um pedido formal do espólio do líder dos direitos civis. A decisão aconteceu depois que o Sora 2 criou conteúdo considerado desrespeitoso e ofensivo, levando a uma onda de críticas nas redes sociais e entre especialistas em ética digital. Saiba os detalhes aqui.

Outro caso também expôs as questões de deepfakes no aplicativo. Zelda Williams, filha do ator e comediante Robin Williams, pediu que usuários parem de enviar vídeos retratando a imagem do pai.

Na ocasião do lançamento do Sora 2, em setembro, a OpenAI adotou um sistema de “opt-out”, permitindo o uso de material protegido por direitos autorais a menos que estúdios ou agências solicitassem sua exclusão. Após críticas, o CEO Sam Altman afirmou que daria aos detentores de direitos “controle mais granular” sobre personagens gerados.

A empresa não deu detalhes de como combateria as deepfakes.

Leia mais:

• 5 IAs parecidas com o Sora, que criam vídeo a partir de texto
• O que é a Sora, a inteligência artificial da OpenAI que cria vídeos?
• Real ou falso? Vídeos de IA estão tão bons que é difícil confiar no que vemos

Hollywood critica OpenAI por riscos a direitos de artistas com Sora 2

• Antes do caso de Bryan Cranston, a Creative Artists Agency (CAA), uma das principais agências de talentos de Hollywood, já havia demonstrado preocupação com o uso da imagem de artistas sem autorização;
• A empresa disse que a OpenAI estava expondo artistas a “riscos significativos” com o Sora 2;
• Além da CAA, a United Talent Agency (UTA) e a WME também manifestaram preocupação, instruindo que seus clientes optem por não participar das atualizações do Sora.

Confira os detalhes aqui.

O post Após pressão de ator de Breaking Bad, OpenAI vai combater deepfakes no Sora 2 apareceu primeiro em Olhar Digital.