谷歌研究部门近日发布了Lumiere，一款基于高级人工智能技术的视频生成器，能够根据简单的文本提示产生逼真的五秒影片。这项技术采用了“时空U-Net”架构，可以在一次通过中生成整个影片的时间序列，与之前逐帧生成的模型有所不同。Lumiere旨在简化非技术用户的视频创作和编辑过程，它能够根据命令生成如“熊猫在家里弹奏尤克里里”或者“海滩日落延时摄影”的详细且真实的影片。它还具备根据单张图片风格生成电影和引人注目的编辑功能。
然而，人们对于潜在滥用和虚假或有害内容的担忧不容忽视。Lumiere具备操纵图像选定部分、填充空白视频区域以及根据文本指示编辑影片特定方面的能力，这增加了深度伪造技术更具说服力的风险。虽然科学文章承认了该风险，并强调了“开发和应用工具以检测偏见和恶意应用”的必要性，但并未提及谷歌据报正在实施的现有安全措施。去年五月，谷歌在Google I/O大会上强调了其安全措施和责任。今年八月，谷歌DeepMind推出了一种基于人工智能的水印工具SynthID，同年十一月，谷歌旗下的平台YouTube宣布了一项政策，要求用户披露视频是否是由人工智能生成的。
尽管Lumiere目前仍处于研究阶段，没有透露何时以及如何供用户使用，但这种先进的人工智能能力的问世引发了关于责任和保护措施的问题。谷歌作为负责任的人工智能开发者，面临着与这项技术相关的潜在威胁的挑战，尤其是在人们对于深度伪造技术日益关注的背景下。
FAQ常见问题解答：
Q: Lumiere会对网络安全造成威胁吗？
A: 虽然Lumiere的能力可以使深度伪造技术更具说服力，但谷歌已经采取了安全措施，并提出了检测偏见和恶意应用的工具开发和应用。谷歌还在其旗下的平台YouTube要求用户披露视频是否由人工智能生成。
Q: Lumiere能够应对未来可能出现的深度伪造问题吗？
A: 谷歌作为负责任的人工智能开发者，面临着技术的挑战，并采取了一系列安全措施来应对深度伪造问题。然而，这是一个持续的工作，需要不断发展和改进。
Q: Lumiere何时会面向大众用户？
A: 目前尚不清楚Lumiere何时会面向大众用户。该技术目前仍处于研究阶段，谷歌尚未公布详细的发布计划。
来源：谷歌官网
The source of the article is from the blog revistatenerife.com