Diepwijzer technologieën en kunstmatige intelligentie (AI) vormen een groeiende bedreiging voor de democratie in de Verenigde Staten. Recentelijk hebben gebeurtenissen, waaronder deepfake robocalls gegenereerd door AI, waarin president Biden kiezers uit New Hampshire opriep om niet te stemmen, aangetoond dat kwaadwillende actoren steeds vaker moderne AI-genererende platforms zien als krachtige instrumenten om de Amerikaanse verkiezingen te beïnvloeden. Platforms zoals ChatGPT, Gemini Google (voorheen bekend als Bard) en vele andere grootschalige taalmodellen (LLM’s) op het Dark Web kunnen een rol spelen bij het verstoren van het democratische proces, door middel van massale beïnvloedingscampagnes, geautomatiseerd trollen en de verspreiding van deepfakes.
Padraic O’Reilly, hoofd innovatie bij CyberSaint, is van mening dat het risico “significant” is, gezien de snelle vooruitgang van deze technologie. “Wat veelbelovend is, is dat we interessante en misschien wel verontrustende nieuwe varianten van deepfake-gedreven desinformatie zullen zien”, zo zegt hij.
Een “nachtmerrie” scenario, aldus O’Reilly, is de proliferatie van microtargeting met behulp van AI-genererde content op sociale media platforms. Deze tactiek doet denken aan het Cambridge Analytica-schandaal, waarbij het bedrijf gegevens verzamelde over de psychologische profielen van 230 miljoen Amerikaanse kiezers om zeer op maat gemaakte berichten via Facebook aan specifieke individuen te leveren, met als doel hun overtuigingen en keuzes te beïnvloeden. Het gebruik van GenAI kan dit proces echter op grote schaal automatiseren en zeer overtuigende content creëren die geen “bot-achtige” kenmerken vertoont.
O’Reilly legt uit dat “gestolen targeting data [met gebruikersbeeld en -interesse], in combinatie met AI-genererde content, een reëel risico vormt.” “Russische desinformatiecampagnes uit 2013-2017 laten zien wat er nog meer kan en zal gebeuren, en we hebben voorbeelden van deepfakes gegenereerd door Amerikaanse burgers [zoals die] met Biden en Elizabeth Warren.”
De combinatie van sociale media en gemakkelijk toegankelijke deepfake technologie zou een doemscenario kunnen vormen voor de gepolariseerde Amerikaanse samenleving, die al verdeeld is.
Om zich te verdedigen tegen deze bedreigingen, moeten verkiezingsfunctionarissen en campagneteams op de hoogte zijn van de risico’s van GenAI en weten hoe ze zich hiertegen kunnen verdedigen. “Verkiezingsfunctionarissen en kandidaten geven constant interviews en persconferenties, waaruit kwaadwillenden audiofragmenten kunnen selecteren om AI-gebaseerde deepfakes te genereren”, zegt James Turgal, vice-president van Cyber Risk bij Optiv. “Daarom zou er een individu of team verantwoordelijk moeten zijn voor contentbeheer.”
Bovendien moeten vrijwilligers en campagnemedewerkers getraind worden op de gevaren van AI, zoals toenemende social engineering, opponent tactieken en hoe te reageren op verdachte activiteiten. Deelnemers dienen training te volgen over social engineering en deepfakes met betrekking tot video’s, waarbij informatie wordt geboden over alle vormen van aanvallen, waaronder elektronisch (e-mail, tekstberichten en sociale media platforms), persoonlijk en telefonisch.
“Op de lange termijn zullen regelgevingen die labeling voor audio en video deepfakes bevatten cruciaal zijn”, aldus O’Reilly, die opmerkt dat de federale overheid samenwerkt met LLM-eigenaren om passende waarborgen in te voeren. De Federal Communications Commission (FCC) heeft AI-genererde telefoongesprekken recentelijk erkend als “kunstmatig” onder de Telecommunications Consumer Protection Act (TCPA), waardoor het gebruik van stemkloontechnologie illegaal is en statelijke aanklagers in het hele land nieuwe instrumenten heeft gegeven om dergelijke frauduleuze activiteiten te bestrijden.
“AI ontwikkelt zich zo snel dat er een inherent gevaar is dat voorgestelde regels ineffectief worden naarmate de technologie vordert, waardoor ze mogelijk de plank misslaan”, zegt O’Reilly. “In zekere zin is het een wildernis, en AI betreedt de markt met maar weinig beschermende maatregelen.”
De groeiende dreiging van deepfake en AI-aanvallen op de democratie in de VS
The source of the article is from the blog yanoticias.es