Terwijl het Hooggerechtshof en president Trump steeds dichter bij een directe confrontatie komen – of het nu gaat om illegale deportatie, geboorterecht of een van de tientallen andere kwesties – ontwikkelt zich in de digitale wereld een vergelijkbare, zij het minder ingrijpende, confrontatie.
Mark Zuckerberg, die zich onlangs heeft bekeerd tot Donald Trumps visie op vrijheid van meningsuiting, wokeness en wie weet wat nog meer, richtte in 2020 een onafhankelijke Oversight Board op als een soort hooggerechtshof voor de modererende beslissingen van Meta op al haar sociale netwerken.
De 21 leden tellende raad beslist over de lastigste moderatiebeslissingen, is onafhankelijk van Meta en haar uitspraken zouden bindend moeten zijn. Het besluit van de raad van bestuur woensdag om de eerste uitspraken te publiceren sinds Zuckerberg zijn beleid drastisch wijzigde en stelde dat deze hadden geleid tot “te veel gecensureerde content”, markeert een cruciaal moment en roept vragen op of de raad nog wel een rol te spelen heeft in de toekomst van Meta.
Samen met uitspraken over individuele zaken gebruikte de raad een verklaring waarin kritiek werd geleverd op Zuckerbergs besluit om af te stappen van factcheckers. De raad schreef dat zijn “beleids- en handhavingswijzigingen overhaast werden aangekondigd, in afwijking van de reguliere procedure”. Meta werd opgeroepen om te beoordelen “of het verminderen van de afhankelijkheid van geautomatiseerde detectie van beleidsinbreuken wereldwijd ongelijke gevolgen zou kunnen hebben, met name in landen die te maken hebben met huidige of recente crises, zoals gewapende conflicten.”
Het is een publieke afstraffing van Zuckerberg die de wenkbrauwen zal doen fronsen bij zijn vrienden in Trumpworld – en zij zullen ook zorgvuldig kijken naar drie van de uitspraken van de raad over controversiële inhoud, die zij waarschijnlijk een beperking van de vrijheid van meningsuiting zullen noemen.
In een poging de politieke spelletjes van echte rechtbanken te imiteren, heeft de raad zijn uitspraken in een bundel van elf zaken tegelijk gepubliceerd. In sommige gevallen eist de raad dat content online blijft (of wordt hersteld). In andere gevallen stelt de raad dat content offline had moeten worden gehaald.
De drie zaken die waarschijnlijk het meest omstreden zullen zijn, hebben betrekking op de rellen in het Verenigd Koninkrijk van afgelopen augustus. Op het hoogtepunt van het geweld, dat volgde op de verspreiding van misinformatie na een brute steekpartij in een dansles met jonge meisjes in Southport, gingen velen naar Facebook.
De raad overwoog drie functies. Volgens de samenvatting riep één functie op tot het in brand steken van moskeeën… en gebouwen en het te schande maken van ‘migranten’, ’terroristen’ en ‘uitschot’. De andere twee functies bestonden uit AI-beelden, één “van een reusachtige man in een Union Jack-shirt die op dreigende wijze kleinere moslimmannen achtervolgt”, vergezeld van een tijd en plaats om te verzamelen. De laatste afbeelding bestond uit “vier moslimmannen die voor het parlementsgebouw rennen achter een huilende blonde peuter aan. Een van de mannen zwaait met een mes terwijl een vliegtuig overvliegt richting de Big Ben.”
Alle drie de berichten werden destijds gemeld bij de moderatieteams van Facebook, en het geautomatiseerde systeem liet alle drie de berichten online blijven. De berichten werden later handmatig door Facebook beoordeeld en bleken nog steeds niet in strijd met de regels.
De raad van bestuur was echter unaniem van mening dat alle drie de berichten verwijderd hadden moeten worden, omdat ze alle drie aanzetten tot geweld. De raad bekritiseerde Facebook ook omdat het pas noodmaatregelen nam nadat de rellen in het Verenigd Koninkrijk zo goed als voorbij waren.
De reactie op het geweld in Britse steden is een twistpunt geworden in de betrekkingen tussen het Verenigd Koninkrijk en de VS. Elon Musk beschuldigde Keir Starmer en de Britse regering er herhaaldelijk van legitieme rechtse meningen te censureren, en vicepresident J.D. Vance omarmde de zaak en probeerde Starmer er zelfs voor te berispen in het Oval Office.
Als de Oversight Board van Meta – waarvan de leden, net als 95% van de Meta-gebruikers, overwegend van buiten de VS afkomstig zijn – de kant van de Britse regering kiest, bestaat het risico dat de ruzie weer oplaait en dat Mark Zuckerberg er weer bij betrokken raakt.
Sommige andere uitspraken van de raad hebben meer kans om in Trumpworld te worden goedgekeurd. Twee uitspraken, beide met betrekking tot anti-migrantenuitingen in Europa, zorgden ervoor dat Facebooks besluit om content te verwijderen werd teruggedraaid. En in twee gevallen over transdiscussies – één over wetsvoorstellen voor toiletten en één over transvrouwen die aan sportwedstrijden meedoen – stemde de raad met Meta in dat de content online moest blijven, ondanks de aanwezigheid van misgendering en andere “opzettelijk provocerende” content.
Ook werd geoordeeld dat pro-apartheidscontent uit Zuid-Afrika online had moeten blijven, en werd de verwijdering van een video bekritiseerd waarin een dragqueen zichzelf een “faggy martelaar” noemde. Volgens Meta zijn beledigingen toegestaan volgens het beleid van Meta, zolang ze naar zichzelf verwijzen en gebruikt worden om de woorden terug te vorderen.
Door zijn beslissingen op deze manier te verpakken, probeert de raad zich duidelijk te positioneren als meer dan alleen een zogenaamd censuurpanel. Ja, soms zegt de raad dat content verwijderd moet worden en publiceert ze aanbevelingen dat Facebook sneller en strenger moet handelen. Maar ze probeert duidelijk ook te laten zien dat ze Meta soms ook onder druk zet om content te herstellen of online te houden.
Aan de ene kant voelt dit allemaal misschien nogal zinloos, niet in de laatste plaats omdat de Oversight Board aanvoelt als een overblijfsel uit een ander tijdperk – het tijdperk waarin grote technologiebedrijven zich verantwoordelijk wilden voordoen tegenover toezichthouders, en het tijdperk waarin Nick Clegg het gezicht was van de public relations van Meta. Beide zijn nu voorbij, maar de Oversight Board bestaat nog steeds – met een contractuele garantie voor nog een jaar of twee. Het is de enige, op afstand onafhankelijke, niet-overheidsregulator voor sociale media.
Meta kan drie dingen doen met de beslissingen van de Oversight Board. De contractuele overeenkomst vereist dat Meta de instructies van de Board opvolgt voor individuele content. Als Meta bijvoorbeeld de drie berichten over de rellen in het Verenigd Koninkrijk niet zou verwijderen, zou het een duidelijke schending van de overeenkomst met de Board inhouden, wat de positie van de leden onhoudbaar zou maken.
Maar de impact van de Raad zou moeten zijn dat deze lastige zaken worden gebruikt om Meta’s bredere beleid vorm te geven, en de Raad heeft naast deze uitspraken talloze aanbevelingen gedaan. Op een gegeven moment zou Meta er een punt van hebben gemaakt om ten minste een aantal hiervan in haar toekomstige beleid te integreren.
Dat laat voor Meta een derde route over met deze beslissingen en alle beslissingen die nog resteren gedurende de ambtstermijn van het bestuur. Meta zou de regels voor individuele content tot op de letter kunnen volgen, zonder ophef, en absoluut niets anders doen, wat het hele proces extreem tijdrovend en voor iedereen volkomen ontmoedigend zou maken.
De Oversight Board werd nooit omarmd door de critici van Meta, die het zagen als een simpele knipoog naar respectabiliteit. Maar als die mensen vertrouwen stellen in overheidsregulering van sociale media, moeten ze ongetwijfeld teleurgesteld zijn over de resultaten tot nu toe: de VS zullen onder Trump geen enkele actie ondernemen om sociale media veiliger te maken.
De EU praat groots, maar levert weinig op, en de eerste boetes onder de geroemde Digital Services Act – €500 miljoen voor Apple en €200 miljoen voor Meta – kunnen nauwelijks als een tik op de vingers worden beschouwd. Ondertussen is Elon Musks X een vrijwel volledig ongemodereerde beerput die sinds 2022 grotendeels onaangeroerd is gebleven.
Meta’s Oversight Board was een poging om niet alleen grote technologiebedrijven hun gang te laten gaan, maar ook om de overheid te laten ingrijpen. Het was, op zijn eigen manier, een echt experiment om een nieuw model te vinden voor het besturen van het online publieke domein.
De uitspraken van de Toezichtraad vandaag en de reactie van Meta daarop kunnen wellicht de resultaten daarvan laten zien.
