“Dit zou onmiddellijke en onherstelbare schade toebrengen aan onze lezers en aan onze reputatie als een redelijk betrouwbare en serieuze bron”, aldus een Wikipedia-redacteur.
De Wikimedia Foundation, de non-profitorganisatie die Wikipedia host en ontwikkelt, heeft een experiment stopgezet waarbij gebruikers door AI gegenereerde samenvattingen boven artikelen te zien kregen. Dit gebeurde na overwegend negatieve reacties van de Wikipedia-redactiegemeenschap.
“Dat Google zijn AI-samenvattingen heeft uitgerold, betekent niet dat we ze moeten overtreffen. Ik verzoek u dringend dit niet te testen, op mobiele apparaten of waar dan ook”, zei een redacteur in reactie op de aankondiging van de Wikimedia Foundation dat ze een proefperiode van twee weken voor de samenvattingen op de mobiele versie van Wikipedia zullen starten. “Dit zou onze lezers en onze reputatie als een redelijk betrouwbare en serieuze bron onmiddellijk en onherstelbaar schaden.
Wikipedia is in zekere zin synoniem geworden met nuchtere saaiheid, en dat is uitstekend. Laten we de intelligentie van onze lezers niet beledigen en ons aansluiten bij de stormloop om flitsende AI-samenvattingen uit te rollen. Dat is wat dit zijn, hoewel hier het woord ‘machinegegenereerd’ wordt gebruikt.”
Twee andere redacteuren reageerden kort en krachtig: ‘Jakkes.’
Wikipedia is al jaren een van de meest waardevolle informatiebronnen ter wereld en een prijzenswaardig model voor gemeenschapsgericht, democratisch internetplatformbestuur. Het belang ervan is de afgelopen jaren alleen maar toegenomen tijdens de generatieve AI-hausse, omdat het een van de weinige internetplatforms is die niet aanzienlijk is aangetast door de stortvloed aan door AI gegenereerde rommel en desinformatie.
In tegenstelling tot Google, dat sinds de omarming van generatieve AI zijn gebruikers heeft geïnstrueerd om lijm te eten , heeft de Wikipedia-community de kwaliteit van haar artikelen relatief hoog gehouden. Zoals ik vorig jaar al meldde, werken redacteuren actief aan het filteren van slechte, door AI gegenereerde content van Wikipedia.
Op een pagina met details over het project voor door AI gegenereerde samenvattingen, genaamd “Simple Article Summaries”, wordt uitgelegd dat het werd voorgesteld na een discussie op Wikimedia’s Wikimania-conferentie in 2024, waar “Wikimedianen manieren bespraken waarop door AI/machines gegenereerde remixes van reeds gecreëerde content gebruikt kunnen worden om Wikipedia toegankelijker en leerzamer te maken.”
Redacteuren die aan de discussie deelnamen, waren van mening dat deze samenvattingen de leerervaring op Wikipedia zouden kunnen verbeteren, waar sommige artikelsamenvattingen nogal complex en vol vakjargon kunnen zijn. AI-functies moesten echter als zodanig worden gemarkeerd en gebruikers hadden een eenvoudige manier nodig om problemen met “door machines gegenereerde/geremixte content te melden zodra deze is gepubliceerd of automatisch is gegenereerd.”
In een experiment waarbij samenvattingen waren ingeschakeld voor gebruikers die de Wikipedia-browserextensie hadden geïnstalleerd, werd de gegenereerde samenvatting bovenaan het artikel weergegeven. Gebruikers moesten erop klikken om de samenvatting uit te vouwen en te lezen. Deze samenvatting werd ook gemarkeerd met een geel label ‘niet geverifieerd’.
Wikimedia kondigde op 2 juni aan dat het experiment met gegenereerde samenvattingen zou worden uitgevoerd. Daarop kreeg het meteen tientallen reacties van redacteuren, zoals “heel slecht idee”, “helemaal niet tegen”, “absoluut niet”, etc.
“Ja, menselijke redacteuren kunnen betrouwbaarheids- en NPOV-kwesties [neutraal standpunt] aankaarten. Maar als collectief vormt het een prachtig corpus,” zei een redacteur. “Met Simple Article Summaries stel je voor om één enkele redacteur met bekende betrouwbaarheids- en NPOV-kwesties een platform te geven bovenaan elk artikel, terwijl anderen geen enkele redactionele controle hebben.
Het versterkt het idee dat Wikipedia niet betrouwbaar is, en vernietigt daarmee een decennium aan beleidswerk. Het versterkt de overtuiging dat ongefundeerde, belaste content kan worden toegevoegd, omdat dit platform dat doet. Ik denk niet dat ik me op mijn gemak zou voelen bij het bijdragen aan een encyclopedie als deze. Geen enkele andere community heeft samenwerking zo’n wonderbaarlijke mate onder de knie, en dit zou dat tenietdoen.”
Een dag later maakte Wikimedia bekend dat de lancering van het experiment zou worden gepauzeerd, maar het gaf aan nog steeds geïnteresseerd te zijn in door AI gegenereerde samenvattingen.
“De Wikimedia Foundation onderzoekt manieren om Wikipedia en andere Wikimedia-projecten wereldwijd toegankelijker te maken “, vertelde een woordvoerder van de Wikimedia Foundation me in een e-mail. “Dit twee weken durende experiment, waarvoor je je moest aanmelden, was gericht op het toegankelijker maken van complexe Wikipedia-artikelen voor mensen met verschillende leesniveaus .
Voor dit experiment werden de samenvattingen gegenereerd met behulp van een open-gewicht Aya-model van Cohere. Het was bedoeld om de interesse in een functie als deze te peilen en ons te helpen nadenken over het juiste soort community-moderatiesysteem om ervoor te zorgen dat mensen centraal blijven staan bij de bepaling van welke informatie op Wikipedia wordt weergegeven.”
“Het is gebruikelijk om uiteenlopende feedback van vrijwilligers te ontvangen, en we nemen die mee in onze beslissingen en veranderen soms van koers”, voegde de woordvoerder van de Wikimedia Foundation eraan toe. “We stellen zulke doordachte feedback op prijs – dit is wat Wikipedia tot een echt platform voor samenwerking en menselijke kennis maakt.”
“Als ik de reacties lees, is het duidelijk dat we dit idee beter hadden kunnen introduceren en de discussie hier op VPT in maart hadden kunnen openen “, aldus een projectmanager van de Wikimedia Foundation. VPT, oftewel “village pump technical”, is de plek waar de Wikimedia Foundation en de gemeenschap de technische aspecten van het platform bespreken. “Naarmate het internetgebruik in de loop der tijd verandert, proberen we nieuwe manieren te ontdekken om nieuwe generaties te helpen van Wikipedia te leren en onze beweging in de toekomst te ondersteunen.
Daarom moeten we uitzoeken hoe we op veilige manieren kunnen experimenteren die geschikt zijn voor lezers en de Wikimedia-gemeenschap. Terugkijkend realiseren we ons dat de volgende stap met deze boodschap had moeten zijn om jullie allemaal meer context te bieden en ruimte te creëren voor verdere interactie.”
De projectmanager zei ook: “Het integreren van generatieve AI in de Wikipedia-leeservaring is een serieuze reeks beslissingen met belangrijke implicaties, en we zijn van plan dit ook als zodanig te behandelen. We hebben geen plannen om een samenvattingsfunctie naar de wiki’s te brengen zonder tussenkomst van de redactie. Een workflow voor moderatie door de redactie is onder alle omstandigheden vereist, zowel voor dit idee als voor elk toekomstig idee rond samengevatte of aangepaste AI-inhoud.”
