시카고 대학교의 Glaze Project에서는 ‘Nightshade v1.0’이라는 새로운 툴을 출시했습니다. 이 툴은 아티스트들이 자신들의 작품이 AI 생성 모델에 사용될 때, 그 모델을 악용할 수 있는 ‘데이터 독립화’를 취할 수 있게 해줍니다. Nightshade는 이미지의 픽셀 수준에서 알아채지 못할 정도로 작은 변화를 주어 AI 모델에 잘못된 정보를 주입하고, 그 결과로 이미지를 다른 것으로 인식하게 하며, 왜곡된 이미지 결과를 영향을 줍니다. 예를 들어, 큐비스트 스타일을 만화로 인식하는 것과 같은 결과를 얻을 수 있습니다.
이 툴은 현재 Windows 시스템과 Apple Silicon Mac에 사용할 수 있습니다.
테스트 중인 Nightshade는 AI 이미지 생성 모델의 ‘독립화’를 성공적으로 복제했습니다. 이 과정에서 나타나는 몇 가지 예시를 살펴보겠습니다.
AI 모델 ‘독립화’ 예시
Nightshade를 사용하여 수행한 하나의 테스트는, 큐비스트 스타일 이미지를 생성하기 위해 데이터로 학습된 AI 이미지 생성 모델을 ‘독립화’시키는 것이었습니다. Nightshade를 통해 영향력 있는 변경을 도모한 결과로, AI 모델은 이러한 이미지를 만화로 해석하기 시작했습니다. 이 효과는 놀라우면서도 흥미로웠으며, 데이터 조작이 AI 생성 모델의 결과에 어떤 영향을 끼칠 수 있는지 보여주었습니다.
또 다른 예시로는, 인상파 회화 스타일을 인식하도록 설계된 AI 모델에 ‘독립화’ 작업을 수행한 것입니다. 하지만 Nightshade의 변형 후, AI 모델은 그림을 추상화로 해석하게 되어, 예상과는 완전히 다른 결과를 도출했습니다.
Nightshade v1.0은 자신의 창의성이 원하지 않는 방식으로 악용되고 있다고 느끼는 아티스트들에게 새로운 가능성을 열어줍니다. 이 툴은 AI 스크래퍼에 대항하고, 생성적 AI 모델의 결과에 영향력을 행사할 수 있게 합니다.
FAQ
질문: Nightshade란 무엇인가요?
답변: Nightshade는 시카고 대학교 Glaze Project에서 개발한 툴로, 이미지의 픽셀 수준에서 정보를 조작하여 AI 생성 모델을 악용하는 아티스트들에게 정보를 주입합니다.
질문: Nightshade는 AI 모델에 어떤 영향을 미치나요?
답변: Nightshade는 이미지의 픽셀 수준에서 정보에 변화를 주어 AI 모델에 잘못된 정보를 제공합니다. 이로 인해 모델은 이미지를 다르게 해석하게 되며, 왜곡된 결과를 도출하게 됩니다.
질문: Nightshade는 어떤 운영 체제를 지원하나요?
답변: 현재 Nightshade는 Windows 시스템과 Apple Silicon Mac을 지원합니다.
질문: Nightshade를 사용한 AI 모델 ‘독립화’의 예시는 어떤 것이 있나요?
답변: Nightshade를 사용하여 큐비스트 스타일 이미지를 생성하는 AI 모델의 ‘독립화’를 한 예시가 있습니다. 이 경우, Nightshade의 변형 후 AI 모델은 그림을 만화로 해석하게 됩니다. 또 다른 예시로는 인상파 회화 스타일을 인식하도록 설계된 AI 모델을 ‘독립화’하는 것이 있습니다. 그러나 Nightshade를 적용한 후, 모델은 그림을 추상화로 해석하게 됩니다.
질문: Nightshade는 아티스트들에게 어떤 가능성을 제공하나요?
답변: Nightshade v1.0은 아티스트들이 원하지 않는 방식으로 자신들의 창의성이 악용되는 것에 대항할 수 있게 해줍니다. 이 툴은 아티스트들이 생성적 AI 모델의 결과에 영향력을 행사할 수 있어, 자신들의 작품이 어떻게 해석되는지에 대한 통제력을 가질 수 있게 해줍니다.
유용한 링크:
시카고 대학교 Glaze Project 웹사이트
The source of the article is from the blog qhubo.com.ni