Deepfake porno: een nieuwe vorm van seksueel geweld
In 2022 steeg het aantal deepfake foto’s en video’s met 400%. Sinds AI in een stroomversnelling kwam, is het al lang niet meer voorbehouden voor computernerds en specialisten. Ook iemand die een beetje handig is op het internet kan tegenwoordig via toegankelijke programma’s een nieuw beeld creëren. Sommigen gebruiken AI voor grappige, creatieve doeleinden. Er is echter ook een keerzijde nu deepfake pornografische beelden explosief toenemen.
Deepfake pornografie is AI-gegenereerd seksueel misbruik. In de VS wordt het wel eens ‘image-based sexual abuse’ genoemd. Meestal gaat het om niet-consensuele pornografie, waarbij het hoofd van willekeurige vrouwen ‘geplakt’ wordt op dat van porno-actrices. En hoe beter de technologie, hoe gemakkelijker het is om deepfake porno te maken, en hoe moeilijker om het met het blote oog te onderscheiden van gewone porno. Zelfs gespecialiseerde programma’s moeten met iedere update hun software laten bijbenen om deepfakes überhaupt te kunnen detecteren.
Geweld op vrouwen
Bijna uitsluitend vrouwen worden het slachtoffer van deepfake porno. Al in 2019 berekende expert Sensity dat 96% van de online deepfake-beelden niet-consensuele pornografische beelden waren. In 99% van de gevallen ging het om vrouwen. Wereldsterren als Billie Eilish en Kristen Bell zagen al valse, seksueel getinte beelden van zichzelf opduiken. Maar steeds meer doodgewone vrouwen worden het mikpunt van AI-porno. Uit onderzoek van NBC bleek bijvoorbeeld dat er makers zijn op berichtenapp Discord die voor slechts 65 dollar een 5 minuten lange deepfake pornovideo creëren van ‘personal girls’, ofwel van vrouwen met minder dan 2 miljoen volgers op Instagram.
Toen QTCinderella, een kleinschalige Twitch-streamer, in februari geconfronteerd werd met zo’n beeld van zichzelf, stortte haar wereld in. «Dit is hoe het eruit ziet om je geschonden te voelen, om je misbruikt te voelen. Zo ziet het eruit als je tegen je wil in naakt op het internet verspreid wordt», zei ze huilend in een live-video. «Het zou geen deel van mijn werk mogen zijn om geld te moeten betalen om die zaken van het internet te laten verdwijnen. Het is geen deel van mijn werk om lastig gevallen te worden, om ‘naaktfoto’s’ van mij verspreid te zien worden.» Deepfake porno lijkt met andere woorden een nieuwe manier om vrouwen in de spotlight seksueel te intimideren. «Dit is niet alleen porno, het is terrorisme. Het is bedoeld om vrouwen te straffen en het zwijgen op te leggen», concludeerde The Guardian in april.
8 dollar voor duizenden deepfakes
Achter deepfake pornografie schuilt een commerciële miljoenenindustriedie winst boekt op de kap van vrouwen die ongewild in zulke filmpjes verschijnen. Wie een beeld van een vrouw wil laten maken, moet daar vaak zelfs niet voor naar het darkweb. Recent kon een seksueel getinte deepfake-app nog reclame maken via Facebook en Instagram, met foto’s van Emma Watson erbij. Ze riepen op om «eender welk gezicht te vervangen van wie dan ook». Google en Apple verwijderden de app uit hun store, maar het kwaad was geschied. Intussen duiken deepfake videoplatformen op à la Pornhub. De grootste website alleen al heeft iedere maand 17 miljoen bezoekers. Die cijfers bereiken ze volgens NBC door reclame te maken via Discord of op Pornhub. Hun grote troef is hun vindbaarheid: wie de juiste trefwoorden in Google gebruikt, vindt de site in een handomdraai. Daarnaast is een abonnement, met zijn prijskaartje van 8 dollar, erg betaalbaar. De twee grootste bedrijven groeien zelfs zo snel dat ze werkkrachten moeten rekruteren via Discord. Met een simpel berichtje kan je solliciteren. Na een opleiding in deepfake kan je aan de slag en word je verloond in cryptomunten. Ook hier geldt overigens de boutade ‘slechte reclame is ook reclame’. Hoe meer media erover schrijven, en het bedrijf met naam noemen, hoe meer gebruikers hun weg er naartoe vinden. Nadat het verhaal van QTCinderella viraal ging, vond er een explosie aan Google-searches naar deepfake pornosites plaats, volgens livestream-expert Genevieve Oh. Deepfake-porno is met andere woorden extreem lucratief, en bijna net zo gemakkelijk te verkrijgen als een blikje cola in de supermarkt.