谷歌研究推出了Lumiere，一款先进的AI视频生成器，能够根据简单的文字提示生成逼真的五秒影片。Lumiere利用了”Space-Time U-Net”架构，完全可以在一次传递中生成整个影片的时间序列，与之前逐帧生成的模型有所区别。Lumiere旨在为非技术用户简化视频创作和编辑，可以对”熊猫在家里弹奏尤克里里”或”日落沙滩的延时摄影”等命令作出响应，并生成详细而逼真的影片。它还能根据单张图片的风格生成电影，提供令人印象深刻的编辑功能。
然而，人们对潜在滥用和制造虚假或有害内容的担忧也越来越大。Lumiere有能力操作图像的特定部分，填充空白视频区域，并根据文本提示编辑影片的特定方面，这也带来了创作更具说服力的深度伪造影片的风险。虽然科学文章承认这种风险，强调了”开发和应用检测偏见和恶意应用的工具”的必要性，但却没有提到谷歌据称正在实施的现有安全措施。去年五月，在谷歌I/O大会上，谷歌强调了其安全措施和责任。8月，谷歌DeepMind推出了一款基于AI的水印工具SynthID，11月，谷歌旗下的YouTube平台宣布了一项政策，要求用户披露视频是否是使用AI生成的。
虽然Lumiere目前仍处于研究阶段，没有说明何时以及如何可以让用户获取，但这种先进的AI能力的揭示引发了人们对责任和保护措施的质疑。以负责任AI开发而闻名的谷歌面临着与该技术相关的潜在威胁的挑战，特别是在不断增长的深度伪造的问题引起广泛关注的背景下。
常见问题解答：
Q：Lumiere能够生成哪种类型的影片？
A：Lumiere可以根据简单的文字提示生成各种类型的影片，例如动物弹奏乐器或日落的延时摄影。
Q：Lumiere是否有可能产生深度伪造影片？
A：是的，Lumiere的能力可以操纵图像的特定部分，并根据文本提示编辑影片的特定方面，存在创作更具说服力的深度伪造影片的风险。
Q：谷歌是否有关于AI生成影片的安全措施？
A：谷歌已经采取了一些安全措施来应对AI生成影片的潜在风险。举例来说，谷歌提出了AI水印工具SynthID，并要求YouTube平台用户披露视频是否使用AI生成。
The source of the article is from the blog hashtagsroom.com