Google Research Revela Novo Gerador de Vídeos de AI Avançada com Implicações para Contéudo Deepfake

Google Research desenvolveu uma inovadora ferramenta chamada Lumiere, que permite a criação de filmes de vídeo realistas através de comandos de texto simples. A tecnologia, baseada na arquitetura “Space-Time U-Net”, possibilita a geração de uma sequência completa de filme em uma única vez, diferenciando-se de modelos anteriores que geravam quadro a quadro. Lumiere tem como objetivo facilitar a criação e edição de vídeos para usuários sem conhecimentos técnicos. Respondendo a comandos como “panda tocando ukulele em casa” ou “timelapse do pôr do sol na praia”, ela gera filmes de vídeo detalhados e realistas. A tecnologia também tem a habilidade de gerar vídeos baseados no estilo de uma única imagem, oferecendo recursos de edição impressionantes. No entanto, há preocupação de que possa ser utilizada para criar conteúdo falso ou prejudicial.

Lumiere tem a capacidade de manipular partes selecionadas de uma imagem, reparar áreas vazias e editar aspectos específicos de um filme com base em comandos de texto. Existe um risco de que essa tecnologia possa permitir a criação de deepfakes mais convincentes. Embora o documento de pesquisa reconheça essa possibilidade e a necessidade de ferramentas para detectar viés e uso potencialmente prejudicial, não menciona as medidas de segurança existentes que a Google supostamente já está implementando. Em maio, a Google destacou seus esforços em segurança e responsabilidade durante a conferência Google I/O. Em agosto, a Google DeepMind apresentou uma ferramenta de marca d’água chamada SynthID, e em novembro, a plataforma de propriedade da Google, o YouTube, anunciou uma política que exige que os usuários informem se os vídeos foram gerados usando inteligência artificial.

Embora Lumiere esteja atualmente em fase de pesquisa, não há indicações de quando ou como poderá ficar disponível para os consumidores. No entanto, a revelação de capacidades avançadas de inteligência artificial como essa apresenta desafios para a Google em termos de responsabilidade e implementação de segurança. A Google, conhecida por seu compromisso com o desenvolvimento responsável de IA, deve encontrar maneiras de lidar com os potenciais riscos associados a essa tecnologia, especialmente no contexto das crescentes preocupações com deepfakes.

Perguntas Frequentes:

1. O que é Lumiere?
– Lumiere é uma ferramenta desenvolvida pela Google Research que permite a criação de filmes de vídeo realistas através de comandos de texto simples.

2. Quais são as características do Lumiere?
– Lumiere é capaz de gerar uma sequência completa de filme em uma única vez, manipular partes selecionadas de uma imagem e editar aspectos específicos de um filme com base em comandos de texto.

3. Quais são as preocupações em relação ao Lumiere?
– Há preocupação de que o Lumiere possa ser utilizado para criar deepfakes mais convincentes, gerando conteúdo falso ou prejudicial.

FONTE: [link da fonte]

The source of the article is from the blog meltyfan.es