Universitetet i Chicago sitt prosjekt Glaze har no lansert Nattskjelde v1.0, eit verktøy som gjev kunstnarar moglegheita til å øydelegge AI-genereringsmodellar som brukar arbeidet deira til opplæring. Nattskjelde gjer ubemerkelege endringar på pikselnivå i bilete, og introduserer misinformasjon til AI-modellane. Dette fører til at modellane tolkar bileta som noko anna og påverkar resultatet med forvrengte bileteffektar, som å identifisera kubistisk stil som teikneserie.
Verktøyet er førebels tilgjengeleg for Windows-system og Apple Silicon Macar.
Under testar demonstrerte Nattskjelde sin effektivitet ved å reprodusera «forgifting» av ein AI-modell for biletegenerering. Her er nokre døme på effektane av denne prosessen.
Døme på «forgifting» av AI-modellar
Ei av testane som vart utført med Nattskjelde var å forgifta ein AI-modell for biletegenerering som var opplært på data for å skapa kubistiske bilete. Etter å ha introdusert påverkande endringar gjennom Nattskjelde, byrja AI-modellane å tolka desse bileta som teikneseriar. Effekten var overraskande og spennande, og viste korleis manipulering av data kan påverka resultatet av AI-genereringsmodellar.
Eit anna døme var å forgifta ein AI-modell som var laga for å gjenkjenne stilen til impresjonistiske maleri. Etter modifikasjonar med Nattskjelde, byrja AI-modellane å tolka bileta som abstraksjonar, og endra dei forventa resultatene i stor grad.
Nattskjelde v1.0 opnar opp nye moglegheiter for kunstnarar som føler at kreativiteten deira blir utnytta på ein uønska måte. Verktøyet gjev dei høve til å forsvare seg mot AI-skraparar og påverka resultatet av genererande AI-modellar.
Oftast stilte spørsmål (FAQ)
Spørsmål: Kva er Nattskjelde?
Svar: Nattskjelde er eit verktøy utvikla av Universitetet i Chicago sitt prosjekt Glaze som gjev kunstnarar høvet til å øydelegge AI-genereringsmodellar ved å introdusera misinformasjon på pikselnivå i bilete.
Spørsmål: Korleis påverkar Nattskjelde AI-modellar?
Svar: Nattskjelde gjer ubemerkelege endringar på pikselnivå i bilete, og fører til misinformasjon for AI-modellar. Dette fører til at modellane tolkar bileta på ulike måtar, noko som gir forvrengte resultat.
Spørsmål: Kva operativsystem støttar Nattskjelde?
Svar: Nattskjelde er førebels tilgjengeleg for Windows-system og Apple Silicon Macar.
Spørsmål: Kva er døme på «forgifting» av AI-modellar ved bruk av Nattskjelde?
Svar: Eit døme er å forgifta ein AI-modell som er opplært til å skapa kubistiske bilete, der AI-modellane tolkar bileta som teikneseriar etter modifikasjonar med Nattskjelde. Eit anna døme er å forgifta ein AI-modell som er laga for å gjenkjenne impresjonistisk maleristil, men etter modifikasjonar med Nattskjelde, tolkar modellane bileta som abstraksjonar.
Spørsmål: Kva moglegheiter opnar Nattskjelde for kunstnarar?
Svar: Nattskjelde v1.0 gjev kunstnarar høve til å forsvare seg mot uønska utnytting av kreativiteten deira av AI-modellar. Verktøyet gjev dei makt til å påverke resultatet av genererande AI-modellar, slik at dei får kontroll over korleis arbeidet deira blir tolka.
Nyttige lenker:
Universitetet i Chicago sitt prosjekt Glaze – (lenke til: https://glaze.uchicago.edu/)
The source of the article is from the blog crasel.tk