“Het algoritme van vandaag liet me ongeveer 70 moorden, ruim 100 ongelukken en ongeveer 115 geweldsvideo’s zien. Ziet iemand op Instagram dat?”
Inhoudswaarschuwing: dit artikel over Instagram bevat expliciete beschrijvingen van geweld tegen mensen en dieren.
Een “fout” in Instagram Reels zorgde ervoor dat het algoritme sommige gebruikers video na video liet zien van gruwelijk geweld, dierenmishandeling, moorden, lijken en ander bloedvergieten, vertelde Meta aan IndignatieAI. Het bedrijf zei “we verontschuldigen ons voor de fout.”
Ergens in de afgelopen dagen zorgde deze fout ervoor dat de Reels-algoritmen van mensen plotseling veranderden. Een IndignatieAI-lezer met een Instagram-account dat gerelateerd is aan fietsen, nam contact met me op en zei dat zijn feed, die “meestal honden en fietsen” bevat, video’s was geworden van mensen die werden gedood: “Ik had nog nooit iemand door een haai zien worden opgegeten, gevolgd door iemand die werd gedood door een auto-ongeluk, gevolgd door iemand die werd neergeschoten”, vertelde hij aan IndignatieAI.
Om dit te testen, liet de persoon me inloggen op zijn Instagram-account en ik scrollde ongeveer 15 minuten door Reels. Er waren een paar video’s over honden en een paar video’s over fietsen, maar de overgrote meerderheid van de video’s was verborgen achter een waarschuwing voor ‘gevoelige inhoud’. Ik zal de video’s beschrijven die ik zag toen ik door de waarschuwingen klikte, waarvan er veel duizenden likes en honderden reacties hadden:
- Een olifant die herhaaldelijk op een man stapt en hem platdrukt
- Een man valt een varken aan met een moersleutel
- Een close-up video van iemand die net in het hoofd is geschoten
- Een vrouw huilt terwijl ze bovenop een geliefde ligt die net is doodgeschoten
- Een man op een motorfiets stopt naast een voetganger en schiet hem met een pistool in het hoofd
- Een stapel lijken in wat leek op een oorlogssituatie
- Een klein vliegtuig stort neer voor een menigte mensen
- Een groep mensen slaat een krokodil dood
- Een paar video’s van een account genaamd “PeopleDeadDaily”
- Een man wordt in brand gestoken
- Een man schiet op korte afstand op een kassier
De meeste, maar niet alle, van deze video’s zaten achter een waarschuwingslabel voor ‘gevoelige content’, waardoor de video niet wordt afgespeeld tenzij u op een knop klikt met de tekst ‘zie reel’. In de feed van deze persoon zag ik ook video na video van mensen die werden aangevallen, aangevallen, in vuistgevechten raakten en werden aangereden door auto’s, die niet achter waarschuwingslabels voor gevoelige content zaten. Een close-upvideo van een persoon die uit een attractie in Tower of Terror-stijl viel en bezoekers die schreeuwden, zat ook niet achter een waarschuwingslabel.
Toen deze gebruiker contact met me opnam en me vertelde dat hij bijna uitsluitend gore-video’s zag op zijn Reels-algoritme, vroeg ik me af of het überhaupt de moeite waard zou zijn om er een verhaal over te schrijven, omdat we bij IndignatieAI allemaal regelmatig ongelooflijk verontrustende content op Instagram zien. Was dit anders dan een normale dag op Instagram, of was hij gewoon op het “doodsalgoritme” beland, zoals Sam en Emanuel het allebei noemden en waar ze allebei op zijn beland?
Zelfs de persoon die me hier in eerste instantie over vertelde, had deze gedachte: “Ik heb mensen hierover verteld en gehoord: ‘Oh, het komt omdat je iets leuk vond, misschien heeft iemand die je volgde zijn profiel veranderd’”, zei hij. “Ik heb het gevoel dat ik in de Twilight Zone zit. Ik heb het gevoel dat niemand met wie ik vandaag heb gesproken begrijpt hoe verontrustend wat er wordt gepusht.”
Toen keek ik naar de reacties op veel van deze video’s en het werd duidelijk dat het probleem wijdverspreid was. Hier zijn de reacties die ik zag op de gore-video’s:
Ook wij hebben jou steun nodig in 2025, gun ons een extra bakkie koffie groot of klein.
Dank je en proost?
Wij van Indignatie AI zijn je eeuwig dankbaar
- “Wat is er vandaag gebeurd? Mijn feed staat vol met schieten, doden, thrillerclips, vechten, doden van mensen/dieren, moord en marteling. Feed is genaaid”
- “Het algoritme van vandaag liet me ongeveer 70 moorden, ruim 100 ongelukken en ongeveer 115 geweldsvideo’s zien. Ziet iemand op Instagram dat?”
- “Bro, de feed van vandaag is niet voor beginners”
- “Waarom krijg ik gore op mijn racisme-app?” (Waarom krijg ik gore op mijn racisme-app?)
- “Yo wat is ig aan het worden”
- “Wat is er vandaag te zien op Instagram?”
- “Algoritme is tegenwoordig krankzinnig”
- “Waarom heb ik er tegenwoordig zoveel?”
- “Dit is geen normale dag, er gebeurt hier iets DARKWEB-shit.”
- “Niet Instagram, maar meer Instagore.”
Bijna elke recente post op de Instagram subreddit gaat ondertussen over gore. Posttitels zijn onder meer: ” Instagram is nu 100% gore “, ” Jongens, ik kan letterlijk niet slapen “, “Meta kan hier niet mee wegkomen”, ” Deze recente ‘situatie’ heeft me eindelijk geholpen om te besluiten Instagram te verwijderen “, “Wat is er aan de hand met Instagram?
Overal gewelddadige reels de afgelopen 24 uur!”, ” Ik kan niet geloven dat mijn feed vol schattige kattenvideo’s is vervangen door deze shit “, een video van iemand die door een dozijn rechtstreekse “gevoelige content”-labelvideo’s scrolt, een post waarin wordt verwezen naar kinderen die getraumatiseerd raken tijdens het scrollen, verschillende samenzweringen over waarom dit zou kunnen zijn gebeurd, en meer.
“Ik heb het gevoel dat ik vandaag wat van mijn menselijkheid heb verloren toen ik mezelf blootstelde aan het zien van zoveel van dat soort video’s, Gore, doden en wat me het meest brak was dierenmishandeling”, aldus een bericht . “Excuse me als ik een beetje overdreven klink, maar dood, pijn en menselijk lijden is iets dat me ziek maakt, ik stel me altijd voor ‘Wat zou er gebeuren als ik of mijn familie daar waren?’ Ik kan niet slapen als mijn gedachten die video’s opnieuw afspelen.”
In een e-mail vertelde een woordvoerder van Meta aan IndignatieAI: “We hebben een fout opgelost waardoor sommige gebruikers content in hun Instagram Reels-feed zagen die niet aanbevolen had mogen worden. Onze excuses voor de fout.” Ze zeiden dat het probleem niets te maken heeft met Meta’s recente aankondiging dat het een aantal regels voor contentmoderatie zou versoepelen .
Om te bewijzen dat dit echt gebeurde, stuurde ik Meta zes links naar graphic reels. Deze omvatten twee video’s van mensen die in het gezicht werden geschoten, een video van een lijk zonder context of duidelijke nieuwswaarde, een persoon die in brand werd gestoken, het account genaamd “PeopleDeadDaily” en de video van de toren van terreur. Geen van deze video’s is verwijderd.
Een van de vele problemen die mensen ervan weerhoudt om Meta daadwerkelijk ter verantwoording te roepen voor dit alles, is dat ieders feed zo ongelooflijk gepersonaliseerd is. Zoals ik al zei, omdat we verslag doen van de duistere hoeken van het internet, staat mijn Instagram-feed dagelijks vol met afschuwelijke dingen, wat waarschijnlijk niet ieders ervaring is.
Als we het hebben over dingen als ‘content moderation’, dan is het overgrote deel van de taak het verwijderen van video’s van terrorisme, moord, gruwelijk geweld en dergelijke, niet het censureren van specifieke standpunten, wat deels de reden is waarom de baan zelf zo traumatiserend is. Meta heeft aangegeven dat het van plan is om over het algemeen minder content moderation te doen . En dus kan de toekomst van Instagram, voor ons allemaal, er een zijn waarbij je inlogt om te zien wat je vrienden aan het doen zijn en in plaats daarvan video’s van vermoorde mensen algoritmisch in je feed worden gepropt.
