University of ChicagoのGlaze Projectは、アーティストが自分の作品をトレーニングに使用するAI生成モデルを妨害することができるツールであるNightshade v1.0をリリースしました。Nightshadeは、画像のピクセルレベルで見えない変更を加えることで、AIモデルに誤った情報を導入し、画像を別のものと解釈させることで、画像の歪んだ結果（例えばキュビスト様式を漫画として識別する）に影響を与えます。
このツールは現在、WindowsシステムとApple Silicon Macに対応しています。
Nightshadeは、AIイメージ生成モデルの「ポイズニング」を再現することで、その効果を実証しました。以下に、このプロセスの効果を示すいくつかの例を挙げます。
AIモデルの「ポイズニング」の例
Nightshadeを使用して行われたテストの一つは、キュビスト様式の画像を生成するためのデータでトレーニングされたAIイメージ生成モデルの「ポイズニング」でした。Nightshadeによる影響を加えた後、AIモデルはこれらの画像を漫画として解釈し始めました。この効果は驚くべきものであり、データ操作がAI生成モデルの結果にどのように影響を与えるかを示しています。
別の例は、印象派絵画のスタイルを認識するAIモデルの「ポイズニング」です。しかし、Nightshadeによる変更後、AIモデルはこれらの画像を抽象的なものと解釈し、予想された結果を完全に変えました。
Nightshade v1.0は、自分の創造性が望ましくない方法で搾取されていると感じるアーティストにとって、新たな可能性を切り拓きます。このツールは、AIスクレーパーに対抗し、生成AIモデルの結果に影響を与えることができるようにします。
FAQ
質問：Nightshadeとは何ですか？
回答：Nightshadeは、University of ChicagoのGlaze Projectが開発したツールであり、画像のピクセルレベルで誤情報を導入することで、AI生成モデルを妨害することができます。
質問：NightshadeはAIモデルにどのような影響を与えますか？
回答：Nightshadeは画像のピクセルレベルで見えない変更を加えることで、AIモデルに誤情報を与えます。これにより、モデルは画像を異なる解釈し、歪んだ結果を生み出します。
質問：Nightshadeはどのオペレーティングシステムで利用できますか？
回答：Nightshadeは現在、WindowsシステムとApple Silicon Macに対応しています。
質問：Nightshadeを使用したAIモデルの「ポイズニング」の例はありますか？
回答：一つの例は、キュビスト様式の画像を生成するためにトレーニングされたAIモデルの「ポイズニング」です。これにより、Nightshadeの変更後、AIモデルはこれらの画像を漫画と解釈します。もう一つの例は、印象派絵画のスタイルを認識するために設計されたAIモデルの「ポイズニング」ですが、Nightshadeの変更後、モデルはこれらの画像を抽象的なものと解釈します。
質問：Nightshadeはアーティストにどのような可能性を提供しますか？
回答：Nightshade v1.0は、アーティストが自分の創作物がAIモデルによって望ましくない方法で利用されることに対抗することができるようにします。このツールは、アーティストが生成AIモデルの結果に影響を与え、自分の作品がどのように解釈されるかをコントロールすることができます。
役立つリンク：
University of Chicago’s Glaze Projectウェブサイト
The source of the article is from the blog toumai.es