Civitai maakt bovendien content met gelijkenissen van echte mensen minder aantrekkelijk en zorgt ervoor dat deze moeilijker te vinden is.
Civitai, een enorm populaire site voor het delen van AI-modellen en een cruciaal onderdeel van de infrastructuur voor door AI gegenereerde pornografie op internet, heeft gisteren aangekondigd dat het content met incest, zelfbeschadiging en fetisjen met “lichamelijke uitwerpselen” zoals urine, braaksel, menstruatie en luiers zal verbieden, onder druk van betalingsverwerkers. De site demonetiseert ook content met de gelijkenis van echte mensen, waardoor deze moeilijker te vinden is.
“Zoals velen van jullie weten, staat de wereld van AI-content steeds meer onder druk – van toezichthouders, wetgevers en het grote publiek”, aldus Civitai in een bericht waarin het beleid en de ” aanpassingen ” van de content werden toegelicht .
“Platformen zoals het onze worden aan hogere normen gehouden op het gebied van veiligheid, legaliteit en verantwoording. We hebben er altijd naar gestreefd een plek te zijn voor innovatie, creativiteit en openheid, maar er moeten dingen veranderen om te kunnen blijven functioneren, groeien en onze gebruikers te beschermen.” Afbeeldingen van vuurwapens die op mensen gericht zijn en “geestverruimende toestanden” zoals hypnose zijn nu ook verboden op Civitai.
“Ons oorspronkelijke idee was om alles te hosten wat legaal en consensueel is”, vertelde Justin Maier, CEO en oprichter van Civitai, me in een e-mail. “Reality check: het financiële ecosysteem dat betalingen mogelijk maakt, is restrictiever dan de wet voorschrijft. De afgelopen maanden hebben verschillende partners ons botweg verteld: ‘Dit is wat je moet doen als je betalingen wilt blijven verwerken.’ In plaats van het risico te lopen op plotselinge afsluitingen die elke maker op het platform zouden schaden, hebben we ervoor gekozen om aan die eisen te voldoen, of in sommige gevallen zelfs te overtreffen.”
Ondanks de bewering dat Civitai aan een hogere standaard wordt gehouden, bevindt het type content dat Civitai heeft aangepast om te verbieden zich al lang op de rand van wat acceptabel is, zelfs op pornosites, en is het in feite op veel platforms verboden. Hoewel het een gevestigde fetisj is waar instemmende volwassenen zich regelmatig mee bezighouden, is content voor volwassenen met luiers extra gevoelig voor internetplatforms, omdat het kan worden geïnterpreteerd als content met minderjarigen. In 2023 meldde Sam bijvoorbeeld dat Patreon een heleboel accounts had geblokkeerd die content over “volwassen baby’s/luiers” of ABDL hadden gecreëerd, wat populair was in de furry community en een bron van inkomsten was die voor sommigen plotseling verdween.
Incest is voor de meeste pornosites doorgaans een stap te ver, omdat het in veel rechtsgebieden illegaal is. Daarom grijpen zoveel video’s voor volwassenen in op dit taboe via de inmiddels gebruikelijke pornotrope van stiefzus/broer/moeder/vader. Wapens, content die zelfbeschadiging of het toebrengen van schade aan anderen afbeeldt, en content met bepaalde lichaamsvloeistoffen zijn ook vaak verboden, zelfs op platforms voor volwassenen. Al deze content is bijvoorbeeld verboden op OnlyFans .
Civitai geeft gebruikers 30 dagen de tijd voordat het content verwijdert die in strijd is met deze nieuwe regels. Klik op een van deze links op eigen risico, maar een snelle zoekopdracht leert dat Civitai momenteel over veel AI-modellen voor beeldgeneratie beschikt, specifiek voor het genereren van afbeeldingen van mensen die wapens in vagina’s steken , ABDL’s , maandverbanden , enzovoort. Had ik al gezegd dat deze website wordt ondersteund door Andreessen Horowitz , een van de grootste durfkapitaalbedrijven in Silicon Valley? Hoe dan ook…
Ook wij hebben jou steun nodig in 2025, gun ons een extra bakkie koffie groot of klein.
Dank je en proost?
Wij van Indignatie AI zijn je eeuwig dankbaar
Aan de ene kant, ondanks de poging om de duidelijke populariteit van inhoud voor volwassenen op haar site en de cruciale rol ervan om het voor mensen gemakkelijker te maken om inhoud voor volwassenen te genereren zonder wederzijdse toestemming te bagatelliseren, laat de beleidsupdate in veel opzichten zien dat Civitai te maken heeft met dezelfde moderatie-uitdagingen als alle sites voor volwassenen, en dat het onderhevig is aan dezelfde druk.
Een van de belangrijkste redenen waarom sites voor volwassenen en andere internetplatforms hetzelfde type inhoud verbieden, is dat ze allemaal onder druk staan van betalingsverwerkers, zonder welke het voor hen veel moeilijker is om geld te verdienen. Dit is de beroemde reden waarom Pornhub in 2020 haar volledige aanpak van inhoudsmoderatie veranderde en miljoenen niet-geverifieerde inhoud van haar platform verbannen . Civitai, Visa en Mastercard reageerden niet op verzoeken om commentaar.
Aan de andere kant kan moderatie bij Civitai een grotere uitdaging zijn, omdat AI-afbeeldingsgeneratoren het ongelooflijk eenvoudig maken om een oneindige stroom afbeeldingen te produceren die min of meer alles creëren wat een gebruiker in een prompt beschrijft. Het is gewoon een enorme hoeveelheid wilde content.
Dat is waarschijnlijk ook de reden waarom Civitai heeft aangekondigd dat het gebruikers nu verplicht om generatiemetadata op te nemen in alle content voor volwassenen, en waarom het heeft aangekondigd dat het een partnerschap is aangegaan met AI-moderatieservice Clavata , “wiens systeem voor het opnemen en analyseren van afbeeldingen de meest geavanceerde en nauwkeurige oplossing is die we tot nu toe zijn tegengekomen”, aldus Civitai.
“Expliciete AI-afbeeldingen hebben een verifieerbare herkomst nodig voor leeftijdsverificatie en toestemmingscontroles”, zei Maier toen ik hem vroeg waarom Civitai nu metadata vereist voor content voor volwassenen. “De eenvoudigste manier is het insluiten van generatiedetails (modelhash, stappen). Prompts kunnen nog steeds verborgen worden als auteurs dat willen. Wij denken dat deze aanpak de norm zou moeten worden voor elk platform dat door AI gegenereerde content voor volwassenen host, omdat het aansluit bij de geest van de federale 2257-registratie.”
“Het enige voordeel van de veranderingen is dat we niet elke dag 20 nieuwe luier-lora’s [AI-modellen] zullen zien”, zei een gebruiker in de officiële Civitai Discord. “Maar de nieuwe censuur gaat een beetje over de schreef als het gaat om veelvoorkomende thema’s zoals dronken hanky panky en schietpartijen.”
“Hoewel ik poep, luiers, pis, enzovoort, nogal vies vind, ben ik altijd bang als ze gecensureerd worden. Dan is het meestal een kwestie van tijd voordat dingen die ik wél leuk vind, en andere dingen, ook gecensureerd worden”, zei een andere gebruiker. “De kanarie in de grot, zeg maar.”
Andere updates van Civitai’s beleid geven aan dat de site eindelijk actie onderneemt tegen modellen die zijn ontworpen om de gelijkenis van echte mensen te creëren. Content met de namen van echte beroemdheden of “echte personen” wordt verborgen in feeds, advertenties worden niet naast deze content weergegeven en gebruikers kunnen elkaar geen fooi geven met Buzz, de valuta van Civitai op het platform, voor deze content. Dit laatste is vooral opmerkelijk omdat Civitai eerder een ” bounties “-functie had geïntroduceerd waarmee gebruikers een bepaalde hoeveelheid Buzz konden aanbieden aan elke andere gebruiker die een AI-model creëerde om de gelijkenis van echte mensen te genereren.
Het is niet de eerste keer dat Civitai zijn contentmoderatiebeleid grondig heeft herzien. Na het onderzoek van 404 Media in 2023, waaruit bleek dat Civitai-gebruikers afbeeldingen genereerden die ” als kinderpornografie konden worden gecategoriseerd “, introduceerde het platform radicaal nieuwe maatregelen om misbruik op de site te stoppen.
Update: Dit artikel is bijgewerkt met commentaar van Justin Maier, CEO van Civitai. De kop is ook bijgewerkt van “Civitai verbiedt door AI gegenereerde incest en luiers” naar “Betalingsverwerkers dwingen AI-site Civitai om incest en luiers te verwijderen” om duidelijk te maken waarom Civitai deze wijzigingen heeft doorgevoerd.
