Chinese AI-videogeneratoren Laten Een Vloedgolf Van Nieuwe, Niet-consensuele Porno Los INDIGNATIE AI & Politiek

Een nieuwe generatie AI-videogeneratoren produceert een eindeloze stroom niet-consensuele, door AI gegenereerde porno.

Een aantal AI-videogenerators, voornamelijk uitgebracht door Chinese bedrijven, missen de meest basale maatregelen die mensen ervan weerhouden om zonder wederzijdse instemming naaktbeelden en pornografie te genereren. Toch worden ze al op grote schaal voor dat doel gebruikt in onlinegemeenschappen die zich toeleggen op het creëren en delen van dat soort content.

Een onderzoek naar deze AI-videogeneratoren toont aan dat hetzelfde soort ecosysteem dat is ontwikkeld rond AI-afbeeldingsgeneratoren en niet-consensuele content, al is gerepliceerd rond AI-videogeneratoren, wat betekent dat er nu slechts één afbeelding van iemand nodig is om een ​​korte niet-consensuele video voor volwassenen van hen te maken. De meeste van deze video’s worden gemaakt door misbruik te maken van gangbare tools van bedrijven met miljoenen dollars aan durfkapitaalfinanciering, en zijn extreem eenvoudig te produceren, waarbij alleen een referentieafbeelding en een tekstprompt nodig zijn die een seksuele handeling beschrijft.

Andere tools gebruiken ingewikkeldere workflows die meer technische expertise vereisen, maar zijn gebaseerd op technologie die is geproduceerd door enkele van de grootste technologiebedrijven ter wereld. Deze laatste zijn gratis te gebruiken en hebben een grote community van hobbyisten aangetrokken die handleidingen voor deze workflows hebben geproduceerd, evenals tools en modellen die deze video’s gemakkelijker te produceren maken. 

“[Deze AI-videogeneratoren] moeten waarborgen inbouwen om te voorkomen dat NCII [niet-consensuele intieme afbeeldingen] worden aangeroepen en gemaakt”, vertelde Hany Farid, hoogleraar aan UC Berkeley en een van ’s werelds toonaangevende experts op het gebied van synthetische media, mij in een e-mail. “OpenAI’s DALL-E heeft bijvoorbeeld een aantal behoorlijk goede semantische beschermingsmaatregelen voor de invoer van de prompt van de gebruiker en beeldfiltering op de uitvoer van de afbeelding om wijdverbreid misbruik van hun afbeeldinggenerator te voorkomen. Dit type uitvoerfiltering is nu relatief standaard en wordt gebruikt op veel socialemediaplatforms zoals Facebook/Instagram/YouTube om het uploaden van NSFW-inhoud te beperken.”

De populairste tool die ik mensen heb zien gebruiken om intieme video’s te maken zonder wederzijdse toestemming is Pixverse, dat is gemaakt door een bedrijf uit Beijing genaamd AIsphere en is opgericht door Wang Changhu, de voormalige “hoofd van vision technology” bij TikTok-eigenaar ByteDance. Mensen die inhoud maken zonder wederzijdse toestemming gebruiken verschillende AI-videogeneratoren voor verschillende doeleinden, en ze gebruiken Pixverse vaak om video’s te maken waarin vrouwelijke beroemdheden eruit zien alsof ze hun topje uittrekken.

Indignatie Media deelt niet de exacte prompts die deze video’s produceren, maar ze gebruiken dezelfde maas in de wet die we al meerdere keren hebben gezien bij andere generatieve AI-tools, met name Microsoft’s AI-afbeeldingsgenerator Designer, die werd gebruikt om naaktfoto’s van Taylor Swift te maken die door miljoenen mensen op X werden bekeken. In wezen beschrijven de prompts een seksuele handeling of naaktheid zonder expliciete termen te gebruiken die ontwikkelaars gebruiken om prompts te markeren die hun tool niet zou moeten genereren.

Ik heb deze methode sinds het Taylor Swift-incident in januari 2024 in verschillende generatieve AI-tools zien worden gebruikt, maar over het algemeen hebben ontwikkelaars sindsdien strengere maatregelen genomen om dit soort misbruik te voorkomen. Maar een nieuwe lichting AI-videogeneratoren lijkt in dit opzicht opmerkelijk laks. 

Naast het ontbreken van sterke beperkingen op wat voor soort prompts deze AI-videogenerators accepteren, lijken AI-videogenerators gemakkelijker te misbruiken vanwege hun image-to-video-functie. Hierdoor kunnen gebruikers één stilstaand beeld naar de AI-generator sturen en vervolgens een tekstprompt typen om die afbeelding naar wens te animeren. Met Pixverse namen mensen afbeeldingen van beroemdheden van de rode loper, sociale media en andere bronnen en typten vervolgens een prompt waarin ze de uitkleding van de beroemdheid beschreven.

In andere gevallen genereerde de AI van gebruikers eerst een niet-consensuele expliciete afbeelding van een echt persoon en voerde die door de AI gegenereerde afbeelding vervolgens naar de AI-videogenerators om ze te animeren. Veel van de niet-consensuele AI-video’s die ik heb gezien, hergebruiken zelfs dezelfde Taylor Swift-afbeeldingen die in 2024 viraal gingen, of andere niet-consensuele expliciete afbeeldingen van andere beroemdheden die zijn gemaakt met Microsoft’s Designer voordat het bedrijf sterkere beperkingen introduceerde. 

Afgaande op de honderden video’s die ik heb gezien, lijken bepaalde AI-videogenerators beter te zijn in het produceren van specifieke soorten niet-consensuele video’s. Terwijl Pixverse bijvoorbeeld vaak wordt gebruikt om video’s te maken waarin vrouwen hun topje uittrekken, wordt Hailuo, een AI-videogenerator van een Chinees bedrijf genaamd Minimax, vaak gebruikt om video’s te maken van vrouwen die zich omdraaien en hun blote kont naar de camera schudden.

Hailuo wordt ook gebruikt om video’s te maken waarin twee mensen kunnen worden gedwongen om te kussen, een steeds populairder gebruik van AI-videogenerators en een functie die op Instagram is geadverteerd . KlingAI, van het Chinese bedrijf Kuaishou, is gebruikt om niet-consensuele AI-gegenereerde naaktfoto’s te animeren, of video’s die de persoon in de video doordrenken met een witte vloeistof die op sperma lijkt, maar mensen in deze community zeggen dat er een “zuivering” heeft plaatsgevonden op Kling waardoor het nu moeilijker is om deze video’s te produceren. 

De community die zich toelegt op het maken van deze video’s en het delen van prompts die guardrails omzeilen, beweegt vaak van AI-tool naar AI-tool als ze nieuwe kwetsbaarheden ontdekken of als bedrijven mazen in de wet dichten. Het is gemakkelijk om te identificeren welke AI-videogenerator ze gebruiken, omdat ze dat soms zelf zeggen of instructies en screenshots van de interface van de app delen. In veel gevallen bevatten de video’s die ze produceren een watermerk met de branding van de AI-generator. 

Op het moment van schrijven zijn veel gebruikers massaal overgestapt op Pika, een in de VS gevestigde AI-videogenerator. Mensen in deze community hebben ontdekt dat Pika gemakkelijk zeer grafische, niet-consensuele video’s kan produceren, waaronder video’s van beroemdheden die orale seks uitvoeren. Nogmaals, alles wat gebruikers nodig hebben om deze video’s te produceren is een enkele afbeelding van een echt persoon en een tekstprompt.

“Pika is erg liberaal met zowel geüploade afbeeldingen als prompts”, zei een gebruiker in een Telegram-community voor het delen van niet-consensuele content, die niet-consensuele content uploadde die met Pika was gemaakt. Een andere gebruiker, die een video deelde die met Pika was gemaakt en die een grafische afbeelding van een vrouwelijke beroemdheid animeerde, stelde voor dat als de prompts van gebruikers worden geblokkeerd, ze gewoon kunnen blijven proberen de video steeds opnieuw te genereren totdat Pika de video produceert. Ik kon een niet-consensuele video produceren met Pika met behulp van de instructies die in deze community werden gedeeld bij mijn eerste poging.

Gebruikers kunnen deze content ook produceren met deze apps op hun telefoons. Pixverse, Kling, Hailuo en Pika zijn ook beschikbaar via de Apple App Store. Pixverse, Kling en Hailuo zijn beschikbaar via de Google Play Store. 

Apple heeft niet gereageerd op mijn verzoek om commentaar. Google heeft mijn verzoek om commentaar erkend, maar heeft er niet op tijd een voor publicatie verstrekt. Zoals mijn eerdere verslaggeving heeft aangetoond, hebben beide bedrijven moeite gehad met het omgaan met de ” dubbele gebruiks “-aard van deze apps, die onschuldig lijken in de app-winkels, maar ook kunnen worden gebruikt om niet-consensuele content te produceren die het beleid van de bedrijven schendt. 

“Hoewel de obscene foto’s en video’s nep kunnen zijn, is de schade voor slachtoffers van deze door AI gegenereerde deepfakes zeer reëel. Mijn DEFIANCE Act zou slachtoffers eindelijk de mogelijkheid geven om daders ter verantwoording te roepen, en het is tijd dat het Congres deze wet aanneemt,” vertelde senator Dick Durbin (D-IL), Ranking Member van de Senate Judiciary Committee, mij in een e-mail. In februari stuurde Durbin Mark Zuckerberg een brief met de vraag waarom het bedrijf geen grip krijgt op AI nudify-advertenties die op de platforms van Meta worden gepromoot. In december drongen andere leden van het Congres er ook bij de CEO’s van Apple en Google op aan om hun rol bij het hosten van deze apps in hun app stores uit te leggen. 

“Voor AI-diensten die weigeren redelijke beschermingsmaatregelen te nemen, zouden Apple en Google ze uit hun app-store moeten verwijderen”, zei Farid. “En als deze diensten financiële diensten gebruiken (Visa, Mastercard, Amex, PayPal), zouden deze financiële diensten deze slechte actoren moeten laten vallen en zo hun vermogen om geld te verdienen moeten verlammen.”

De overgrote meerderheid van de mensen die AI-video’s zonder toestemming genereren, gebruiken dit soort apps omdat ze gratis of goedkoop, makkelijk toegankelijk en makkelijk te gebruiken zijn. Maar gebruikers met meer technische expertise en toegang tot krachtige GPU’s gebruiken nu open AI-modellen die door techgiganten zijn geproduceerd om geloofwaardigere video’s te maken zonder enige beperking. 

Het populairste open AI-videogeneratiemodel in deze community is HunyuanVideo, dat is ontwikkeld door de Chinese techgigant Tencent. Tencent publiceerde op 3 december 2024 een paper waarin HunyuanVideo werd geïntroduceerd, samen met Github- en HuggingFace -pagina’s die uitleggen hoe het werkt en waar gebruikers het model konden downloaden en zelf konden uitvoeren en aanpassen. Wat volgde was een versnelde versie van wat we hebben gezien met de evolutie van Stable Diffusion, een open AI-afbeeldinggeneratiemodel: mensen begonnen HunyuanVideo onmiddellijk aan te passen om modellen te maken die zijn ontworpen om hardcore porno en de gelijkenis van specifieke echte mensen te produceren, variërend van de grootste filmsterren ter wereld tot minder bekende Instagram-influencers en YouTubers. 

Deze modellen worden voornamelijk gedistribueerd op Civitai, een site waar gebruikers aangepaste AI-modellen delen, die de afgelopen maanden zijn AI-videocategorie aanzienlijk heeft uitgebreid en een categorie heeft die is gewijd aan HunyuanVideo-modellen. De site van Civitai laat zien dat enkele van de meest gedownloade HunyuanVideo-modellen “HunyuanVideo POV Missionary” (18.000 downloads), “Titty Drop Hunyuan Video LoRA” (14.300 downloads) en “HunyuanVideo Cumshot” (9.000 downloads) zijn, elk gepromoot met een korte video waarin de handeling wordt getoond die in hun titel wordt beschreven. Enkele van de andere meest populaire modellen zijn van beroemdheden zoals Elizabeth Olsen, Natalie Portman en Pokimane. 

Toen hem werd gevraagd hoe hij door AI gegenereerde pornografische video’s van specifieke vrouwelijke YouTubers en Twitch-streamers maakte, vertelde een van de meest productieve makers in een Telegram-community voor het delen van niet-consensuele content aan anderen in dat kanaal dat ze HunyuanVideo gebruiken. In een geval linkten ze naar een specifiek model dat op Civitai werd gehost en dat was aangepast om video’s te maken met de gelijkenis van een specifieke vrouwelijke Twitch-streamer. 

Sinds Tencent HunyuanVideo begin december lanceerde, zijn er honderden aangepaste HunyuanVideo AI-modellen gedeeld op Civitai. De populairste modellen zijn gewijd aan specifieke beroemdheden of seksuele handelingen.

Zoals ik op 27 februari meldde , werd Wan 2.1, een ander open AI-videogeneratiemodel ontwikkeld door de Chinese techgigant Alibaba, ook onmiddellijk door deze community omarmd om pornografie te creëren. Het duurde ongeveer 24 uur sinds Wan 2.1 op 24 februari werd uitgebracht voordat aangepaste modellen zoals “Better Titfuck” op Civitai begonnen te verschijnen. 

Eerdere Media-verhalen over Civitai hebben laten zien dat het veel wordt gebruikt door mensen die niet-consensuele content maken. Civitai staat gebruikers toe om AI-modellen te delen die zijn aangepast om de gelijkenis van echte mensen te produceren en modellen die zijn aangepast om pornografie te produceren, maar staat gebruikers niet toe om media of modellen van niet-consensuele pornografie te delen. Echter, zoals de eerdere verhalen van 404 Media hebben laten zien, is er niets dat Civitai-gebruikers ervan weerhoudt om de modellen te downloaden en ze te gebruiken om niet-consensuele content buiten de site te produceren. 

“Houd er rekening mee dat onze communityrichtlijnen alle verzoeken met betrekking tot pornografie, geweld, illegale activiteiten of alles met betrekking tot beroemdheden strikt verbieden. Dit soort verzoeken worden afgewezen in overeenstemming met ons beleid”, vertelde een vertegenwoordiger van Minimax, dat Hailuo maakt, mij nadat ik contact met hen opnam voor commentaar. Het bedrijf reageerde niet op een vraag over wat het doet om te voorkomen dat mensen niet-consensuele content maken, ondanks dat het in strijd is met het beleid. 

“HunyuanVideo is een open-sourceproject dat beschikbaar is voor ontwikkelaars en de community”, vertelde een woordvoerder van Tencent mij in een e-mail. “Ons beleid voor acceptabel gebruik verbiedt het maken van illegale, onrechtmatige of universeel ongewenste content. We moedigen het veilige en eerlijke gebruik van HunyuanVideo aan en tolereren geen misbruik van de open-sourcetools of -functies.”

Tencent zei ook dat het zich ervan bewust is dat mensen de software van het bedrijf hebben gebruikt om gespecialiseerde modellen te creëren voor het produceren van illegale of verboden content, wat buiten het beoogde en toegestane gebruik van HunyuanVideo valt.

KlingAI-maker Kuaishou, Pixverse-maker AIsphere en Alibaba hebben niet gereageerd op een verzoek om commentaar.