Samsungs senaste flaggskepp, Galaxy S24, har skapat sensation världen över med sin omfattande användning av artificiell intelligens (AI). En av dess mest anmärkningsvärda funktioner är AI-vattenstämpeln, som syftar till att motverka spridningen av AI-förändrade eller falska bilder online. Det har dock kommit fram att S24:ans AI-teknik är så avancerad att enkla verktyg, liknande Magic Eraser, lätt kan ta bort vattenstämpeln.
Under tester utförda av Gizmodo bekräftades det att Samsungs AI-baserade verktyg för objektradering, som gör det möjligt för användare att eliminera och ersätta oönskade delar av en bild, kan ta bort AI-vattenstämpeln. Detta misstag väcker farhågor om spridningen av falska bilder på internet, vilket vattenstämpeln specifikt designades för att motverka.
Det som gör situationen ännu mer förbryllande är att vissa bilder testade av Gizmodo inte visade vattenstämpeln när objektraderingsverktyget användes, medan andra bilder, inklusive en AI-modifierad bakgrundsbild, visade vattenstämpeln. Samsungs omtagning av inspelningen från sin Unpacked-konferens visade Mr. Beast använda objektraderingsverktyget för att ta bort en kran från en gigantisk chokladkaka, med en ansvarsfriskrivning som säger att Samsung inte garanterar korrektheten och tillförlitligheten hos AI-genererat resultat.
Vattenstämpling har fått stöd från stora AI-företag som Adobe och till och med Vita huset, som ett sätt att bekämpa ökningen av AI-deepfakes. Dessa vattenmärken inför också metadata i varje bild för att visa ändringar. Men redigering av metadata är relativt enkelt, eftersom det lätt kan tas bort när bilder laddas upp på plattformar som Instagram.
Även om AI har visat sin förmåga att ta bort vattenstämplar måste Samsung ta itu med detta problem för att säkerställa integriteten hos sina AI-genererade bilder. Företag som Googles DeepMind utforskar säkrare metoder för vattenstämpling, till exempel att bädda in permanenta vattenstämplar inom pixlarna hos en bild. Men tills sådana framsteg är allmänt tillgängliga måste användare förlita sig på ofullkomliga lösningar för att skydda sig mot AI-bildmanipulation.
Definitioner av nyckelord:
– AI-förändrat: modifierat av AI.
– Spridning: spridning.
– Vattenstämpel: en synlig markering eller etikett på en bild.
– Ökning: snabb ökning eller spridning.
– Falsk: inte äkta eller verklig.
– Misstag: ett fel eller utelämnande.
– Objektraderingsverktyg: ett verktyg som används för att ta bort oönskade objekt från en bild.
– Unpacked-konferens: en konferens anordnad av Samsung för att presentera nya produkter.
– Deepfakes: manipulerade eller syntetiska medier med hjälp av AI.
Föreslagna relaterade länkar:
– Adobes webbplats
– Vita husets webbplats
– DeepMinds webbplats
FAQ
The source of the article is from the blog oinegro.com.br