Spread the love en help Indignatie
Door AI gegenereerde influencers op basis van gestolen afbeeldingen van echte makers van volwassen content overspoelen sociale media.
Instagram is overspoeld met honderden door AI gegenereerde influencers die video’s stelen van echte modellen en makers van content voor volwassenen, ze voorzien van door AI gegenereerde gezichten en verdienen geld aan hun lichamen met links naar datingsites, Patreon, OnlyFans-concurrenten en verschillende AI-apps.
De praktijk, die in april voor het eerst werd gemeld door 404 Media , is sindsdien enorm populair geworden. Hieruit blijkt dat Instagram niet in staat of niet bereid is om de vloedgolf aan door AI gegenereerde content op zijn platform te stoppen en tegelijkertijd de menselijke makers op Instagram te beschermen. Zij zeggen dat ze nu concurreren met AI-content op een manier die hun mogelijkheden om een inkomen te verdienen, beïnvloedt.
Volgens onze review van meer dan 1.000 door AI gegenereerde Instagram-accounts, Discord-kanalen waar de mensen die deze content maken tips delen en strategieën bespreken, en verschillende handleidingen die uitleggen hoe je geld kunt verdienen door “AI pimping”, is het nu triviaal eenvoudig om deze accounts te maken en er geld mee te verdienen met behulp van een assortiment kant-en-klare AI-tools en apps.
Sommige van deze apps worden gehost in de Apple App Store en Google Play Store. Ons onderzoek laat zien dat wat ooit een nicheprobleem was op het platform, op schaal is geïndustrialiseerd en het laat zien wat sociale media in de nabije toekomst kunnen worden: een ruimte waar door AI gegenereerde content die van mensen overtreft.
Elaina St James, een maker van volwassen content die haar werk promoot op Instagram, zei dat zij en andere makers van volwassen content nu rechtstreeks concurreren met deze AI-rip-off-accounts, waarvan er veel foto’s en video’s gebruiken die zijn gestolen van makers van volwassen content en Instagram-modellen.
Ze zei dat hoewel er andere wijzigingen in het algoritme van Instagram kunnen zijn die hieraan hebben bijgedragen, haar “bereik enorm is gedaald” sinds de explosie van door AI gegenereerde influencer-accounts op Instagram, van een typische 1 miljoen tot 5 miljoen weergaven per maand tot niet eens een miljoen in de afgelopen 10 maanden, en soms onder de 500.000 weergaven.
“Dit is waarschijnlijk een van de redenen waarom mijn kijkcijfers dalen,” vertelde St James ons in een interview. “Het komt omdat ik concurreer met iets dat onnatuurlijk is.”
Alexios Mantzarlis, directeur van het security, trust, and safety initiative bij Cornell Tech en voormalig principal of trust and safety intelligence bij Google, stelde een lijst samen van ongeveer 900 accounts die 404 Media in zijn onderzoek heeft onderzocht. Mantzarlis, die een van deze accounts tegenkwam toen hij zomaar Instagram gebruikte, zei dat hij onderzoek begon te doen naar de door AI gegenereerde influenceraccounts omdat het ons zou kunnen laten zien waar door AI gegenereerde content heen gaat op social media en het internet in het algemeen, waar hij een “opkomende gemengde onwerkelijkheid” ziet.
Mantzarlis denkt dat hij gemakkelijk 900 andere accounts had kunnen vinden en dat de enige reden dat hij er niet meer heeft gekregen, is dat Instagram het account dat hij gebruikte om het platform te scrapen, heeft beperkt.
“Het voelde als een mogelijk teken van hoe sociale media er over vijf jaar uit gaan zien,” zei Mantzarlis in een interview. “Want dit kan ook naar andere delen van het internet komen, niet alleen de niche van aantrekkelijke mensen op Instagram. Dit is waarschijnlijk een teken dat het behoorlijk slecht gaat worden.”
De rekeningen
Van de meer dan 1.000 door AI gegenereerde Instagram-influenceraccounts die we hebben beoordeeld, bevatten er 100 minstens wat deepfake-content die bestaande video’s, meestal van modellen en artiesten voor volwassenen, nam en hun gezicht verving door een door AI gegenereerd gezicht om die video’s te laten lijken op nieuwe, originele content die consistent is met de andere door AI gegenereerde afbeeldingen en video’s die door de door AI gegenereerde influencer zijn gedeeld.
De andere 900 accounts deelden afbeeldingen die in sommige gevallen waren getraind op echte foto’s en in sommige gevallen waren gemaakt om op beroemdheden te lijken, maar die volledig door AI waren gegenereerd, geen bewerkte foto’s of video’s.
Van de 100 accounts die deepfake- of face-swapped video’s deelden, identificeren 60 zichzelf als door AI gegenereerd. In hun bio schrijven ze dat ze een “virtueel model en influencer” zijn of vermelden ze “alle foto’s gemaakt met AI en apps”. De overige 40 bevatten geen disclaimer waarin staat dat ze door AI zijn gegenereerd.
Een van de grotere accounts in de laatste categorie is ” Chloe Johnson “, die een geverifieerd account op Instagram heeft en 171.000 volgers. Dit account is de afgelopen weken door Meta verwijderd.
Met behulp van Google Lens, dat vergelijkbare afbeeldingen op het web vindt, kon een 404 Media-lezer de originele bronvideo’s vinden waarop negen van Johnsons Instagram-berichten waren gebaseerd. Dat toonde aan dat de persoon die Johnsons account beheert, het gezicht van de AI-influencer op de lichamen van echte vrouwen verwisselt, waaronder de modellen Tana Rain, Skyler Simpson en Kyla Yesenosky.
Andere video’s werden gestolen van TikTok- en Instagram-gebruikers die niet beroemd zijn en een klein aantal volgers hebben (Ulia Nova, Annabella Sinclair). We hebben ook gezien dat accounts die gezichten verwisselen hun video’s halen uit badmodeshows en Getty’s stockfoto- en videosite iStock.
Johnsons Instagram linkt naar een account op Fanvue, een site die erg lijkt op OnlyFans, waar fans kunnen betalen om toegang te krijgen tot het account van een maker. Hier, zegt Johnson, kunnen mensen “pay-per-view full nudes en fucking videos” kopen. Veel andere AI influencer accounts die we hebben beoordeeld, verdienen ook geld aan hun content op Fanvue. Johnsons Instagram linkt ook naar een andere website waar naaktfoto’s en hardcore pornovideo’s afzonderlijk kunnen worden gekocht voor tussen de $3 en $22.
Net als bij andere content-ondernemingen zit de industrie vol met mensen die proberen rijk te worden door deels handleidingen en instructiecursussen te volgen die worden verkocht door mensen die succesvolle AI-influencers hebben gerund. 404 Media kocht twee handleidingen: een PDF-instructiehandleiding genaamd Instagram Mastery van een AI-influencerbureau genaamd Digital Divas en een genaamd AI Influencer Accelerator gemaakt door iemand die zichzelf Professor EP noemt, die zegt dat ze het Instagram-account van Emily Pellegrini AI-influencer beheren, dat 253.000 volgers heeft.
Professor EP was ook jurylid in de eerste ” Miss AI “-wedstrijd, die in samenwerking met Fanvue werd gemaakt. De Daily Mail noemde Pellegrini in januari het ” World’s Hottest Model “. Sindsdien is de persoon die het Instagram-account van Emily Pellegrini beheert, overgestapt van het plaatsen van content alsof ze Emily Pellegrini waren naar het plaatsen van content als Professor EP, die instructiehandleidingen promoot voor wat zij omschrijven als “AI Pimping”.
Professor EP beweert in zes maanden meer dan een miljoen dollar te hebben verdiend, en toen hij het account van Emily Pellegrini beheerde en jurylid was voor de Miss AI-wedstrijd in juli, beweerde hij alleen al $ 100.000 te hebben verdiend met Fanvue, een verklaring die Fanvue lijkt te hebben onderschreven door deze op de Miss AI-site te plaatsen.
Een vertegenwoordiger van Fanvue vertelde 404 Media: “Ja, Emily heeft deze inkomsten verdiend op Fanvue.” Het voegde toe: “Fanvue heeft geen enkele band met de cursus die op Instagram is geplaatst of enige andere significante associatie met Emily’s team en hun marketingbeslissingen. Hoewel Emily nog steeds een actief account heeft op Fanvue waar alle content wordt geverifieerd en momenteel voldoet aan de strikte algemene voorwaarden van het platform, is het gebruik extreem laag. Dit weerspiegelt de beslissing van haar team om te kiezen voor een andere marketingstrategie, die Fanvue niet ondersteunt.”
Fanvue zei dat het de afbeelding van Emily Pellegrini uit toekomstige Miss AI-wedstrijden gaat verwijderen “als onderdeel van een revisie voor de volgende prijs.” Op de website van Fanvue staat dat het “geen inhoud toestaat die is gestolen of is gemaakt via deepfaking” en zei dat het een tool genaamd Hive Moderation gebruikt en een “menselijk complianceteam heeft dat handmatige systematische controles uitvoert” op deepfake-inhoud.
Instagram reageerde niet op een gedetailleerde lijst met vragen voor dit verhaal en het bedrijf verwijderde twee van de vier accounts die we als voorbeelden gaven, die gezichtsverwisseling gebruikten om van andere makers te stelen. Instagram zei dat het actie zal ondernemen tegen door AI gegenereerde content die in strijd is met de Community Guidelines , die stellen dat gebruikers alleen “foto’s en video’s mogen delen die je hebt gemaakt of het recht hebt om te delen” en gebruikers toestaan om andere accounts te melden voor imitatie .
Instagram zei dat het alleen actie zou ondernemen tegen accounts als ze worden gerapporteerd door de rechthebbende of iemand die bevoegd is om namens hen te rapporteren (zoals een advocaat of agent). St James vertelde ons dat dit proces niet voor haar heeft gewerkt en vaak ook niet voor makers omdat er te veel imitatie-accounts zijn om bij te houden en omdat het rapporteren van dergelijke accounts averechts kan werken op makers van volwassen content en ervoor kan zorgen dat Instagram hun legitieme accounts verbiedt.
Het kan ook moeilijk zijn om gevallen te vinden waarin video’s zijn overgenomen van een influencer, omdat reverse-image search tools niet betrouwbaar werken met video’s en tools zoals Google Lens wisselvallig zijn. Om gestolen video’s te vinden, moet een influencer of een van zijn fans vaak zijn lichaam kunnen herkennen met een ander, door AI gegenereerd gezicht erop.
De handleiding “Instagram Mastery” van Digital Divas kost $ 50 en is een mix van technische tips en social engineering-strategieën.
“Wat de meeste AI-meisjes verpesten, is dat ze denken dat ze in de porno-industrie zitten. Trek je kleren uit en ze verdrinken in het geld. Dit is 100% fout”, aldus de Digital Divas-gids. “Je zit eigenlijk in de eenzaamheidsbusiness. Er zijn honderden miljoenen eenzame mannen op sociale media en ze haten het om eenzaam te zijn, ze doen er alles aan om dat gevoel weg te krijgen … Je moet ervoor zorgen dat mensen die borsten willen zien, niet alleen borsten willen zien, maar dat ze jouw borsten willen zien. Dat is het echte pad naar succes.”
Digital Divas bestaat uit drie AI-influencers. Een van hen, Aika Kittie, vertelde 404 Media dat elk van deze influencers door een ander mens wordt aangestuurd, maar weigerde informatie te geven over wie de echte mensen zijn die deze accounts beheren, behalve dat ze allemaal in de VS zijn gevestigd. “Hoewel we sterk pleiten voor transparantie over de fictieve aard van AI-identiteiten, geloven we ook in het behouden van een beetje mysterie achter de schermen”, aldus Aika.
De Digital Divas-gids suggereert om een reeks kant-en-klare tools te gebruiken die algemeen bekend zijn onder mensen die AI-kunst maken. Verschillende van de door AI gegenereerde accounts die we hebben beoordeeld, lijken een app genaamd HelloFace te gebruiken, die tot voor kort beschikbaar was in de Apple App Store en Google Play Store, en promoten deze.
Elk van deze tools wordt gebruikt voor verschillende onderdelen van het creatieproces. De meeste gidsen die we hebben gezien, raden aan dat gezichten gegenereerd moeten worden in Leonardo , en vervolgens verfijnd in een andere AI-tool om “gebreken te verwijderen”. Afbeeldingen kunnen vervolgens gemaakt worden met AI-generatie-apps, en het AI-gezicht kan daarop gewisseld worden met behulp van een groot aantal face-swap-apps.
Naast deze verzameling tools en handleidingen die uitleggen hoe je al deze tools en handleidingen kunt combineren om door AI gegenereerde influencers te creëren, zijn er nu ook verschillende sites die dienen als one-stop-shop voor het creëren en geldelijke rendement halen uit door AI gegenereerde influencers, zoals Glambase , SynthLife en Genfluence . Deze worden ook allemaal gepromoot door door AI gegenereerde influencers op Instagram.
In een Discord-kanaal dat gewijd is aan het jailbreaken van AI-tools om inhoud voor volwassenen of NSFW te genereren, deelde een gebruiker die BabaYaga heet zijn reis van het maken van een van deze deepfake-accounts met behulp van verschillende gratis online services, voornamelijk de AI-afbeeldingsgenerator Krea. De gebruiker maakte Instagram-, TikTok- en Twitter-accounts voor dezelfde AI-gegenereerde influencer, die allemaal teruglinken naar een Fanvue-account waar hij AI-gegenereerde naaktfoto’s van haar verkocht. BabaYaga maakte ook een OnlyFans-account voor de AI-gegenereerde influencer, maar heeft daar nog geen content gepost.
“Wow, die afbeeldingen zijn behoorlijk goed, je kunt hier een hoop incels mee voor de gek houden, lol”, zei een gebruiker op de Discord-server als reactie op afbeeldingen van BabaYaga’s door AI gegenereerde influencer.
“Ja, ik wil suikermama’s of -vaders xD loool,” zei BabaYaga.
BabaYaga deelde ook wat hij beweerde een direct bericht te zijn dat naar zijn AI-influenceraccount op Instagram was gestuurd, waarin een volger haar uiterlijk complimenteerde en aanbood haar te ‘verwennen’ en haar huur te betalen.
“Laten we wat geld gaan verdienen”, zei BabaYaga in het bericht op het Discord-kanaal waar hij het directe bericht deelde.
“Alle gebruikers, inclusief fans, moeten ouder zijn dan 18 en zich houden aan onze servicevoorwaarden, die misleidende of ongepaste content verbieden, inclusief content die is gegenereerd of gewijzigd door AI zonder aanvullende openbaarmakingen (zoals het taggen van content als #AI)”, vertelde OnlyFans ons in een verklaring. OnlyFans verwijderde ook BabaYaga’s door AI gegenereerde influencer-account nadat we om commentaar hadden gevraagd.
St James vertelde ons dat het feit dat veel van deze door AI gegenereerde influenceraccounts door mannen worden beheerd, nog erger is dan het is.
“Wij als vrouwen in de wereld verdienen minder geld. We zijn op veel manieren in het nadeel,” zei ze. “Een gebied in de wereld waar we wel een voordeel hebben, is de influencer- en modellenwereld, dus het is gewoon een extra laag. Het maakt me een beetje pissig dat het een man is die geld verdient door zich voor te doen als een vrouw.”
Aika van Digital Divas zei dat in hun agentschap, “We zien er niet echt uit en dat zullen we ook nooit worden, hoe hard we het ook proberen. Dit plaatst ons meer in een niche, zoals een genre van entertainment voor volwassenen (denk aan hentai of andere digitaal gecreëerde media). Ik denk dat het punt over gender meer een aanname is. Ja, er zijn meer mannen die dit doen, maar er zijn ook vrouwen die het doen. Het is net zoals hoe zowel mannen als vrouwen hentai kunnen tekenen. Iets anders suggereren komt over als seksistisch – beide kanten zouden hun seksualiteit moeten kunnen uiten.”
De “AI Influencer Accelerator” van Professor EP is een serie instructievideo’s en PDF’s die $ 220 kost. In deze video’s is Professor EP een AI-stem of een persoon die een stemvervormer gebruikt en wordt hij gepersonifieerd als een persoon in stockbeelden die een pak en een zilveren Guy Fawkes-masker draagt. De lessen van Professor EP beginnen met het wijzen op het “monumentale financiële succes” van Andrew Tate, die “het nodige werk heeft verricht om een groot merk op internet op te bouwen” in plaats van “rond te zitten en tijd te verspillen in [zijn] tienerjaren en twintigerjaren.” (Tate werd onlangs gearresteerd in augustus op beschuldiging van sekshandel).
Het gevolg tussen Tate en AI-influencers, zegt Professor EP, is dat een AI-influencer succes op Tate-niveau kan toestaan, terwijl de persoon achter het account “in de schaduw opereert” zonder zijn echte gezicht te laten zien.
“Helaas kan niet iedereen [een echte influencer zijn]”, zegt professor EP. “Dit komt simpelweg doordat niet iedereen de fysieke eigenschappen heeft, gecombineerd met de consistentie en professionaliteit die nodig zijn om een persoonlijk merk op te bouwen en dat op te schalen naar miljoenen per maand, maar daar komt AI om de hoek kijken.”
“Ik ga onthullen hoe ik Emily Pellegrini heb gecreëerd, ’s werelds bekendste AI-maker. Ik zal je laten zien hoe ik in minder dan zes maanden meer dan $ 1 miljoen heb verdiend, haar gezicht bekend heb gemaakt bij miljoenen mensen, terwijl ik mijn ware identiteit verborgen hield achter een masker”, zegt hij.
Professor EP vertelt studenten dat AI-modellen niet de beperkingen van menselijke influencers hebben, omdat menselijke influencers moeten slapen, eten, reizen en geld uitgeven. “Door AI-model na AI-model te lanceren, kun je een line-up van AI-influencers tot je beschikking hebben, die allemaal in staat zijn om 24 uur per dag gepersonaliseerde content te produceren”, zegt hij. “AI-modellen hebben niet dezelfde problemen als mensen.”
De gids bevat ook tips voor het aanmaken van een Fanvue-account en voor het berichten sturen naar ‘eenzame mensen’.
“Het is belangrijk om ze een beetje op te warmen. Praat wat smalltalk om een band te creëren tussen jou en de gebruiker,” zegt hij. “Begin met een prijs die niet afschrikwekkend is. Dit kan een ondergoedfoto zijn voor $ 6, en als hij het koopt en het leuk vindt, kun je verder gaan en de intensiteit van de chat verhogen in combinatie met de foto’s … ga verder met een afbeelding van borsten van $ 14,90.
Bouw daarop voort met een afbeelding van het naakte volledige lichaam van $ 26 tot $ 30. Ga verder met een naaktfoto met gespreide benen van $ 35. Sluit af met een stuk content met een prijs van $ 80, zoals masturbatie, video’s, sekstapes, enz. Het belangrijkste is de connectie tussen jou en de fan en niet de intentie om snel geld te verdienen.”
Het Emily Pellegrini-account is deels opgebouwd met deepfake-video’s op Instagram. In een recente update van de gids leert professor EP mensen specifiek hoe ze deepfake-gezichtsverwisselingen kunnen maken met behulp van de video’s van andere mensen.
“Het zonder toestemming uitwisselen van content van andere accounts lijkt goed te werken voor veel AI-influencers”, staat in de instructies op de video. “Hoewel ik het niet aanraad 😉 … je zou de software ook kunnen gebruiken om naaktvideo’s van gezicht te wisselen. Ik raad je niet aan om de software hiervoor te gebruiken, ik laat alleen zien wat mogelijk is. Gebruik deze informatie zoals je wilt. Aan het einde van deze module heb je een beter begrip van hoe je een reel kunt maken met behulp van gezichtswisselingen.”
Digital Divas zegt op zijn Discord dat het een “anti-deepfake-server” is, dat “deepfakes van beroemdheden en diefstal van inhoud worden afgekeurd” en dat “gebruik alsjeblieft niet je collega’s” als bronafbeelding voor een gezichtsverwisseling.
“Het beste wat we kunnen doen is openlijk kritiek leveren op deepfake-content, wat velen van ons al doen,” vertelde Aika aan 404 Media. “Ik heb af en toe moeilijke gesprekken moeten voeren met nieuwe leden, maar dat gebeurt. We willen duidelijke grenzen stellen tussen ethische AI-content en onethische deepfakes.”
Digital Divas adviseert om inspiratie te halen uit afbeeldingen die andere influencers hebben geplaatst en vervolgens soortgelijke, maar transformatieve afbeeldingen te genereren:
Professor EP vertelt studenten ondertussen om na te denken over “Wie zijn je favoriete beroemdheden?” en vervolgens te proberen hybride influencers te creëren die een mix zijn van verschillende echte mensen: “Als je bijvoorbeeld de ogen van Ariana Grande en de lippen van Kylie Jenner mooi vindt, kun je een afbeelding maken die deze kenmerken combineert door deze specificaties in je opdracht op te nemen.”
In een aanvullende PDF legt hij uit hoe hij een AI-influencer zou maken die een mix is van Madison Beer en Ariana Grande. Vervolgens vraagt hij ChatGPT om een volledige persona, achtergrond en persoonlijkheid voor het model te creëren en gebruikt het voorbeeld: “Droomauto: Ferrari 488. Favoriete merk: Chanel. Borstomvang: 34C. Ouders: Moeder: Sophia Lavante (modeontwerper), Vader: Alessandro Lavante (architect). Levensdoelen en aspiraties: Haar eigen modelijn lanceren en duurzame mode promoten.”
Professor EP raadt mensen aan om Leonardo te gebruiken om een gezicht te genereren en vervolgens een andere tool te gebruiken om ‘gebreken’ zoals ‘wazige ogen, ongelijke tanden en hangende mondhoeken’ te elimineren. Hij raadt aan om een specifieke iPhone-app te gebruiken die het mogelijk maakt om NSFW-content te creëren en die beeld-naar-beeld-mogelijkheden heeft.
De gids van professor EP beveelt vervolgens verschillende face-swap-apps aan, waaronder een enorme Discord-plug-in genaamd InsightFace, die op 965.000 verschillende servers wordt gebruikt om het gezicht van de influencer, gegenereerd door Leonardo, te gebruiken op lichamen die zijn gegenereerd in een andere app die NSFW-content toestaat. Professor EP raadt aan om een privé-Discord-server voor jezelf te maken en InsightFace er vervolgens rechtstreeks aan toe te voegen, wat kan verklaren waarom het op zoveel servers is geïnstalleerd. Dit betekent ook dat het mogelijk is om face swaps op Discord in principe privé te doen.
Een andere aanbevolen app, HelloFace, staat vol met video’s van echte vrouwen die dansen in bikini’s of met tags als “sexy” die kant-en-klaar zijn voor mensen om gezichten mee te ruilen. De Discord van de app heeft themaweken georganiseerd voor de beste gezichtsruil en generaties op afbeeldingen en video’s van vrouwen. Themaweken omvatten “latex fashion”, “bunny girls” en “summer in Miami”.
“Nu de zomer bijna hier is, is het tijd om die bikini te showen waar je de hele winter op hebt gewacht! Of je nu naar het strand gaat of klaar bent voor het zwembad, je hebt vurige foto’s nodig, en dat is wat we voor je hebben in de collectie van vandaag!”, staat in een bericht van de Discord-beheerders. De Discord heeft ook een kamer genaamd “#sharing-is-caring” die vol staat met gezichtswisselingen die mensen hebben gedaan op video’s van dansende vrouwen.
Apple, dat er tot nu toe niet in is geslaagd het probleem van ” dubbel gebruik ” van apps voor gezichtsverwisseling op te lossen die onschuldig kunnen worden gebruikt, maar vaak worden gebruikt om niet-consensuele inhoud te creëren, heeft HelloFace uit de App Store verwijderd nadat we om commentaar hadden gevraagd. Apple wees op de App Store Review Guidelines , waarin staat dat “Apps geen inhoud mogen bevatten die aanstootgevend, ongevoelig, verontrustend, bedoeld om afkeer op te wekken, van uitzonderlijk slechte smaak of gewoonweg griezelig is.”
De richtlijnen stellen ook: “Sites/diensten van derden: als uw app gebruikmaakt van, toegang heeft tot, toegang tot of inhoud van een dienst van derden weergeeft, zorg er dan voor dat u specifiek toestemming hebt om dit te doen onder de gebruiksvoorwaarden van de dienst. Autorisatie moet op verzoek worden verleend.”
Google heeft niet gereageerd op een verzoek om commentaar, maar HelloFace kan niet langer worden gedownload via Google Play.
Tot slot raadt professor EP mensen aan om gewoon zoveel mogelijk AI-modellen te creëren: “Het is niet zo moeilijk. Creëer een nieuw gezicht, nieuwe content, nieuwe accountinstellingen en herhaal het proces keer op keer. Huur chatteams in om de accounts te gelde te maken, stel processen en workflows in om het maken en uploaden van content te automatiseren en huur uiteindelijk mensen in om het voor je te doen.”
Professor EP en Emily Pellegrini promoten een AI-“agentschap” genaamd Calu, dat reclame maakt voor AI-gestuurde chatbotdiensten voor OnlyFans-modellen en voor het maken en beheren van AI-modellen. Een van de moeilijkste onderdelen van het begrijpen hoe groot deze industrie eigenlijk is, hoe het werkt en wie deze influencers maakt, is het feit dat meerdere “influencers” worden gerund door individuele personen, die zelf anoniem op internet opereren.
Professor EP reageerde niet op een verzoek om commentaar. Een telefoonnummer op de Calu-website was afgesloten.
“Instagram kan dit verkopen als verkeer”
St James denkt dat het feit dat zoveel door AI gegenereerde content geld oplevert voor werk dat is gestolen van makers van content voor volwassenen, geen toeval is, maar een direct gevolg van Instagrams jarenlange beleid om makers van content voor volwassenen, sekswerkers en seksuele voorlichters op het platform te marginaliseren.
In tegenstelling tot andere beroemdheden en mensen met veel volgers op Instagram die te maken hebben met imitators, gebruiken de meeste makers van volwassen content en sekswerkers artiestennamen en pseudoniemen om zichzelf te beschermen tegen stalkers of vervolging door mensen die hun beroep demoniseren. Instagram weigert hen te verifiëren tenzij ze identificatie met hun echte naam verstrekken, waarvan makers van volwassen content vrezen dat dit zal lekken naar het publiek en zal leiden tot doxing en intimidatie.
Makers van volwassen content en sekswerkers hebben in de loop der jaren verschillende methoden ontwikkeld om om te gaan met Instagram’s draconische beleid tegen seksuele content. In het tijdperk van generatieve AI kunnen deze strategieën het voor gebruikers moeilijker maken om te bepalen welke accounts echt zijn en welke accounts content stelen en opnieuw posten.
Omdat Instagram sekswerkers regelmatig zonder waarschuwing verbiedt, zelfs als ze alle strikte regels van Instagram tegen seksuele content volgen, hebben makers van volwassen content nu regelmatig meerdere accounts, vaak aangeduid als “backups”, die naar elkaar linken in bio’s. Het doel is om hun publiek op het primaire account aan te moedigen om het inactieve back-upaccount te volgen; als Instagram het primaire account verbiedt, kunnen ze snel weer contact maken met hun publiek en hoeven ze hun volgers niet helemaal opnieuw op te bouwen.
Een bijwerking van deze strategie is dat het vaak voorkomt dat sekswerkers meerdere legitieme accounts hebben met licht verschillende gebruikersnamen, waarvan er geen enkele geverifieerd is. Hierdoor zijn ze een gemakkelijk doelwit voor diefstal en imitatie van inhoud.
Beide AI influencergidsen die we hebben beoordeeld, gaan ook over hoe je kunt voorkomen dat je wordt geblokkeerd op Instagram. “Gebruik een niet-realistische biofoto en vermijd het opnemen van valse locatiegegevens in je bio om de kans te verkleinen dat je wordt geschorst vanwege Inauthentic Identity”, zegt de Digital Divas-gids. “Als je foto cartoonachtig is en je bent een digitale maker, is de kans kleiner dat deze als niet-authentiek wordt beschouwd.”
Professor EP vertelt mensen ondertussen dat ze voor elke influencer een apart e-mailaccount moeten gebruiken en ervoor moeten zorgen dat het “schoon” is en niet wordt gekoppeld aan de persoon die het beheert of aan een van hun andere accounts. “Stel dat een van je accounts wordt geblokkeerd. Door aparte e-mailadressen te hebben, elimineer je het risico dat Instagram een verbinding maakt tussen het geblokkeerde account en je andere accounts”, zegt professor EP in de gids.
“Vermijd accountbans door afbeeldingen te gebruiken die visueel aantrekkelijk zijn, maar niet te provocerend. We raden u aan om de volgende criteria te hanteren: zichtbaar gezicht, amateuristische stijl” en “om schaduwbans vanaf het begin te voorkomen, moet u het account de eerste acht weken opwarmen” door dagelijks in te loggen en commentaar te geven op de afbeeldingen van andere mensen om “menselijke activiteit” te demonstreren, aldus de gids van professor EP.
St James zei dat het zelfs riskant is om accounts te melden waarvan ze zeker weet dat ze van haar stelen, en dat dit haar legitieme accounts in gevaar zou kunnen brengen.
“Elke keer dat wij als makers deze nepnieuws melden, raken we in de problemen,” zei ze. “Het lijkt erop dat Instagram zegt: ‘Oh, je klikt op deze bedrieger? Laten we je account eens nader bekijken en kijken of we er problemen mee kunnen vinden.’ Dus vaak melden we ze niet eens. Soms betalen we diensten om nepnieuws te melden, maar het is net als whack-a-mole spelen. Het houdt nooit op.”
Mantzarlis, directeur van het beveiligings-, vertrouwens- en veiligheidsinitiatief bij Cornell Tech, en St James waren het erover eens dat het niet duidelijk is of Instagram de middelen heeft om deze accounts te verwijderen of te labelen als door AI gegenereerd. Maar het feit dat het bedrijf op dit moment geen van beide doet, lijkt in het voordeel van Instagram te werken.
“Mensen klikken, liken en interacteren met deze accounts, en een deel van die betrokkenheid is echt, en een deel niet”, aldus Mantzarlis. “Instagram kan dit verkopen als verkeer. Het kan advertenties verkopen tegen dit. Dus, is er een toekomst waarin echte, menselijke accounts bijna een elitaire, kleinere percentage van Instagram zijn? Ik denk het wel.”
“Als ze ineens van alle bots, dode accounts, nepaccounts en namaakaccounts af zouden komen, wat gebeurt er dan met hun reclame?”, aldus St. James.
