Spread the love en help Indignatie
Grok Te midden van berichten over het maken van nep-racistische afbeeldingen, waarschuwt Signify dat het probleem het komende jaar ‘nog veel erger’ zal worden
Een toename van online racisme, veroorzaakt door nepbeelden, is “slechts het begin van een aankomend probleem” na de nieuwste versie van X’s AI-software, waarschuwen experts op het gebied van online misbruik.
Er ontstonden zorgen nadat in december vorig jaar de socialemediasite werd overspoeld met computergegenereerde afbeeldingen die waren gemaakt met Grok, de generatieve chatbot met kunstmatige intelligentie van X.
Signify, een organisatie die samenwerkt met vooraanstaande groepen en clubs in de sportwereld om online haat op te sporen en te melden, zegt dat het aantal meldingen van misbruik is toegenomen sinds de laatste update van Grok. Signify is van mening dat de introductie van fotorealistische AI dit veel gangbaarder zal maken.
“Het is nu een probleem, maar het is eigenlijk nog maar het begin van een komend probleem. Het gaat nog veel erger worden en we staan nog maar aan het begin, ik verwacht dat het de komende 12 maanden ongelooflijk serieus zal worden.”
Grok werd in 2023 gelanceerd door Elon Musk en kreeg onlangs een nieuwe tekst-naar-afbeelding-functie genaamd Aurora, die fotorealistische AI-afbeeldingen creëerde op basis van eenvoudige, door de gebruiker geschreven prompts.
Een eerdere, minder geavanceerde versie, Flux genaamd, zorgde eerder dit jaar voor controverse omdat bleek dat het dingen kon die veel andere, vergelijkbare software niet kon, zoals het afbeelden van auteursrechtelijk beschermde personages en publieke figuren in compromitterende posities , het gebruiken van drugs of het plegen van gewelddadige handelingen.
Er zijn verschillende berichten dat de nieuwste Grok-update is gebruikt om fotorealistische racistische beelden te maken van verschillende voetballers en managers. Op één afbeelding is een speler te zien die zwart is en katoen plukt, terwijl op een andere afbeelding dezelfde speler een banaan eet, omringd door apen in een bos. Op een andere afbeelding zijn twee verschillende spelers te zien als piloten in de cockpit van een vliegtuig met de Twin Towers op de achtergrond. Op meer afbeeldingen zijn verschillende spelers en managers te zien die controversiële historische figuren ontmoeten en met hen in gesprek gaan, zoals Adolf Hitler, Saddam Hussein en Osama bin Laden.
Ook wij hebben jou steun nodig in 2025, gun ons een extra bakkie koffie groot of klein.
Dank je en proost?
Wij van Indignatie AI zijn je eeuwig dankbaar
Callum Hood, hoofd onderzoek bij het Center for Countering Digital Hate (CCDH), zei dat X een platform was geworden dat het verspreiden van haat aanmoedigde en beloonde door inkomsten te delen, en dat AI-beelden dat nog makkelijker maakten.
“Wat X heeft gedaan, in een mate die geen enkel ander regulier platform heeft gedaan, is het aanbieden van financiële prikkels aan accounts om dit te doen, dus accounts op X posten heel bewust de meest openlijke haat en desinformatie die mogelijk is.”
Een belangrijke zorg die door velen wordt geschetst, is niet alleen het relatieve gebrek aan beperkingen op wat gebruikers kunnen vragen, maar ook het gemak waarmee prompts die aan Grok worden gegeven de richtlijnen van de AI kunnen omzeilen door middel van ‘jailbreaking’, wat inhoudt dat de fysieke kenmerken van degene die de prompter op de afbeelding wil hebben, worden beschreven in plaats van ze alleen maar te benoemen.
Uit een zomerrapport van de CCDH blijkt dat Grok 80% van de haatdragende berichten zelf heeft gecreëerd, waarvan 30% zonder tegenreactie en 50% na een jailbreak.
De Premier League heeft gezegd dat ze op de hoogte zijn van de beelden en dat ze een speciaal team hebben dat is toegewezen om racistisch misbruik gericht op atleten te vinden en te melden, wat kan leiden tot juridische stappen. Er wordt aangenomen dat de Premier League vorig jaar meer dan 1.500 van dergelijke meldingen heeft ontvangen en dat ze filters hebben geïntroduceerd die spelers kunnen gebruiken op hun sociale media-accounts om grote hoeveelheden misbruik te blokkeren.
Een woordvoerder van de FA zei: “Discriminatie hoort niet thuis in onze sport of in de bredere maatschappij. We blijven socialemediabedrijven en de relevante autoriteiten aansporen om online misbruik aan te pakken en actie te ondernemen tegen overtreders van dit onacceptabele gedrag.”
X en Grok zijn gecontacteerd voor commentaar
