Google ResearchがLumiereという先進的なAI動画生成器を発表

Google Researchは、テキストベースの単純なプロンプトに基づいて写真のようなリアルな5秒の映像を生成することができる先進的なAI動画生成器であるLumiereを発表しました。この技術は「Space-Time U-Net」のアーキテクチャを利用しており、フレーム単位ではなく、一括で映画の時間的なシーケンスを生成することができるため、従来のモデルとは異なる特徴を持っています。Lumiereは、非技術的なユーザーのためにビデオの作成と編集を簡素化するために設計されており、「家でウクレレを弾くパンダ」や「ビーチでの日没のタイムラプス」といったコマンドに応えて、詳細でリアルな映画を生成します。さらに、Lumiereは単一の画像のスタイルに基づいて映画を生成し、印象的な編集機能も提供しています。

ただし、Lumiereの選択した部分の画像操作や空白のビデオ領域の補完、テキストベースの指示に基づく映画の特定の要素の編集といった機能には、誤った情報や有害なコンテンツの作成といった懸念があります。科学論文ではこのリスクを認識し、「バイアスや悪意ある利用を検出するためのツールを開発・適用する必要性」を強調していますが、Googleが報告されている既存のセキュリティ対策については言及していません。昨年5月には、GoogleはGoogle I/Oカンファレンスでそのセキュリティ対策と責任を強調しました。また、8月にはGoogle DeepMindがSynthIDと呼ばれるAIベースの透かしツールを導入し、11月にはGoogle傘下のYouTubeが、AIを使用して生成された動画であるかどうかをユーザーが開示することを義務付ける方針を発表しました。

現在のところ、Lumiereは研究段階であり、ユーザーがいつどのようにアクセスできるようになるのかは明示されていませんが、このような先進的なAIの能力が披露されることで、責任と保護策に関する疑問が浮上しています。Googleは責任あるAI開発に取り組んでいることで知られており、特にディープフェイクに関する懸念が高まる状況下で、この技術に関連する潜在的な脅威への対処が課題となっています。