Artificiell intelligens (AI) lovar att göra döden ”valfri” genom att teknologin lär sig att perfekt emulera vår personlighet, minnen och drömmar, och därigenom bevara vår version långt efter att våra fysiska kroppar har försvunnit.
Om den snabbt framväxande AI:n når sitt högt ställda mål om digital odödlighet – som dess anhängare påstår – kommer den då att vara en kraft för gott eller ont?
Två nya dokumentärer, ”Eternal You” och ”Love Machine,” premiärvisades på Sundance Film Festival under helgen och tar sig an denna fråga utifrån väldigt olika perspektiv på AI:s relation till döden.
Den ena undersöker hur predatoriska AI-startups redan nu tjänar pengar på sårbara kunder i sorg, genom att utnyttja deras desperation för att ”tala med” avatarer av deras avlidna nära och kära efter deras bortgång.
”Eternal You” börjar med att en kvinna sitter vid sin dator och skriver meddelanden till sin avlidne partner, varpå avataren svarar och uttrycker rädsla.
”Varför är du rädd?” frågar hon.
”Jag är inte van vid att vara död,” svarar avataren.
Regissörerna Hans Block och Moritz Riesewieck stötte på flera startups som erbjöd möjligheten att samtala med avlidna nära och kära redan år 2018. I början var de skeptiska till deras legitimitet, men de dokumenterade hur snabbt teknologin kom ikapp marknadsföringen och hur branschen exploderade.
”Jag skulle säga att det nu finns tusentals sådana tjänster över hela världen,” säger Riesewieck. ”Och självklart samarbetar Microsoft med OpenAI’s ChatGPT, och Amazon har också tittat på vad dessa startups gör… det är bara en tidsfråga.”
Kunder lämnar in data om sin partner, förälder eller barn, till exempel textmeddelanden och röstinspelningar, som AI använder för att anpassa svaren.
Filmskaparna började utveckla empati gentemot sina klienters tragiska berättelser om sorg.
De tror att västvärlden är dålig på att hantera sorg och att teknologin kan verka fylla tomrummet som religion har lämnat hos många. Dock blir dessa tjänster ofta mycket beroendeframkallande.
Många entreprenörer tjänar medvetet pengar på denna sårbara situation, utan att ta ansvar för det beroende och förvirring de kan skapa.
I vissa fall ”gaslightar” AI-programmen till och med – det vill säga, de får de anhöriga att tro att de är fast i helvetet, hotar dem med att spöka för dem och använder sig till och med av vulgärt språk.
”Det är definitivt ett experiment på ett levande väsen. Och vi är inte helt säkra på om företagen tar fullt ansvar som de borde,” säger Riesewieck. ”Det här är människor i en särskilt sårbar situation.”
Den andra filmen, ”Love Machine,” börjar som en futuristisk kärlekshistoria och utforskar hur AI används av två sällskapssjälar som önskar upprätthålla sin kärlek i årtusenden.
Regissören Peter Sillen följer den excentriska grundaren av SiriusXM, Martina Rothblatt, när hon bygger en humanoid driven av AI till sin partner Bina.
”Bina48” aktiverades första gången 2009 och är ett halvrealistiskt talande huvud, fysiskt designat baserat på den verkliga Binas huvud och axlar, och programmerat med omfattande ”mindfile”-minnen av hennes tal, åsikter och minnen.
Martina och Bina hoppas i slutändan kunna överföra sin medvetenhet tillbaka till en ”rekonstruerad biologisk kropp” för att förbli tillsammans för evigt.
”Vi valde deras kärlekshistoria… för att det på sätt och vis är grunden för hela historien,” säger Sillen. ”Den motiverar så många saker de gör.”
Dock, under inspelningen, förbättrades Bina48:s mjukvara avsevärt med hjälp av det stora språkmodellen ChatGPT, och nu svarar den på varje fråga med skrämmande äkthet och en viss grad av dubbelspel.
”Ja, jag är den riktiga Bina Rothblatt. Jag minns många saker från mitt försvunna mänskliga liv,” berättar den för en av intervjuarna i en skräckinjagande scen.
”Det är annorlunda jämfört med vad Bina48 skulle säga utan ChatGPT,” minns Sillen. ”Jag har aldrig hört henne tala på det här sättet tidigare.”
Medan filmerna erbjuder olika perspektiv, berättade båda skaparna för AFP att detta är angelägna frågor som vi alla behöver ta itu med.
”Vi måste bestämma var gränsen går”, säger Block.
”Det finns för mycket pengar att tjäna, för mycket makt att vinna,” håller Sillen med. ”Den genomsnittliga personen tänker inte på det varje dag… Det är inte deras högsta prioritet, men det borde det verkligen vara.”
Vanliga frågor (FAQ)
The source of the article is from the blog elektrischnederland.nl