Een voorbeeld van AI die probeerde een genuanceerde samenvatting te geven van Hitlers nazimanifest, leidde tot een voorbeeld van algoritmes die zichzelf opvreten.
Het uitgelichte fragment van Google haalt een Amazon AI-samenvatting van Adolf Hitlers nazimanifest Mein Kampf op, die het een ‘echt kunstwerk’ noemt in de nieuwste AI-gerelateerde mislukking die de topzoekresultaten beïnvloedt.
Op het moment van schrijven leverde het zoeken naar “mein kampf positive reviews” een resultaat op dat was gehaald uit een door AI gegenereerde samenvatting van de klantrecensies van een Amazon-vermelding . Het is dus een zoekalgoritme dat probeert een AI-samenvatting samen te vatten. De volledige AI-samenvatting op Amazon zegt: “Klanten vinden het boek gemakkelijk te lezen en interessant. Ze waarderen de inzichtelijke en intelligente tirades.
De druk ziet er mooi uit en is eenvoudig. Lezers beschrijven het boek als een waar kunstwerk. Sommigen vinden de inhoud echter saai en somber. De meningen verschillen over de spannende inhoud, historische nauwkeurigheid en waar voor je geld.”
Terwijl ik dit schrijf, zegt Google “Er is geen AI-overzicht beschikbaar voor deze zoekopdracht”, maar de samenvatting van Amazon AI stond er in grote tekst direct onder, in de ruimte waar normaal gesproken een overzicht zou staan, boven andere webresultaten.
Dit is wat Google een featured snippet noemt: “De geautomatiseerde systemen van Google selecteren featured snippets op basis van hoe goed ze de specifieke zoekopdracht beantwoorden en hoe nuttig ze zijn voor de gebruiker”, zegt het bedrijf. Er verscheen een highlight, toegevoegd door Google, boven de zin “gemakkelijk te lezen en interessant”. Opvallend is dat het resultaat van de featured snippet hiervoor niet alles van Amazon’s AI citeert, dus het is zelf een samenvatting.
Alexios Mantzarlis, directeur van het beveiligings-, vertrouwens- en veiligheidsinitiatief bij Cornell Tech en voormalig directeur van Trust & Safety Intelligence bij Google, zag het resultaat als eerste .
Uh… Amazon’s AI summary of Mein Kampf is even worse, and pollutes Google results for [Mein Kampf positive reviews]
— Alexios Mantzarlis (@mantzarlis.com) 2025-03-06T13:45:31.788Z
Nadat ik Google om commentaar had gevraagd (het bedrijf heeft op het moment van schrijven nog niet gereageerd), verscheen er een AI-overzicht. Daarin werd opgemerkt dat het boek ‘breed wordt veroordeeld vanwege zijn haatdragende en racistische ideologie’, maar dat historische analyses ‘mogelijk wijzen op aspecten van het boek die vanuit een puur literair of retorisch perspectief als ‘positief’ kunnen worden beschouwd.’
Ook wij hebben jou steun nodig in 2025, gun ons een extra bakkie koffie groot of klein.
Dank je en proost?
Wij van Indignatie AI zijn je eeuwig dankbaar
Dit is in ieder geval een betere samenvatting van het gesprek rond Hitlers boek dan de AI-samenvatting van Amazon. De door AI gegenereerde samenvatting van de recensie op de Amazon-lijst toont ook links om recensies te zien die specifieke woorden vermelden, zoals ‘leesbaarheid’, ‘leestempo’ en ‘spannende inhoud’. Genoeg mensen noemden Mein Kampf saai, dus er is ook een link naar ‘verveling’.
Amazon heeft niet direct gereageerd op een verzoek om commentaar.
De 2.067 recensies voor dit specifieke exemplaar van Hitlers fascistische manifest zijn overwegend positief en als je het extreem letterlijk neemt, is de blauwdruk voor het nazisme makkelijk te lezen en, in zekere zin, “interessant”. Maar de recensies zijn veel genuanceerder dan dat. Het beoordelen van de routekaart voor de Holocaust van ’s werelds meest beruchte genocidale dictator met “vijf sterren” lijkt verdraaid, maar de recensies zijn genuanceerd op een manier die AI duidelijk niet begrijpt, maar een mens wel.
“Mein Kampf, van Adolf Hitler, zou door iedereen ter wereld gelezen moeten worden die geïnteresseerd is in een wereld van vrede, sociale verantwoordelijkheid en wereldwijde samenwerking,” schreef een recensent, in een eerlijk gezegd behoorlijk verontrustend begin van een zeer lange recensie.
Maar ze schrijven verder meer dat hun standpunt verduidelijkt: “Dit kwaadaardige boek presenteert een duistere visie op hoe je tirannie in een democratische samenleving kunt creëren, zodat er een, vergelijkbaar met Rusland, wordt gecreëerd. […] Hitler is ook een uitstekende schrijver; hij is geen warrige gek die losse ideeën schrijft en een verwarrende methodologie uitdrukt. Zijn tekst is gemakkelijk te lezen en het is een wereldklassieker die je gelezen moet hebben.”
Een andere vijfsterrenrecensie zegt: “Het is huiveringwekkend om dit boek te beginnen lezen en je te realiseren dat dit de woorden zijn die Adolf Hitler heeft geschreven. Lees het en absorbeer wat hij in zijn eigen woorden zegt en je begrijpt al snel wat hij bedoelt. […] We zullen de geschiedenis herhalen als we de fouten die in het verleden zijn gemaakt niet begrijpen.”
Dit zijn geen ‘positieve’ recensies; de meeste vijfsterrenrecensies hebben betrekking op de kwaliteit van de druk of de verzending, en zijn geen aanbeveling voor de inhoud van het boek.
Mein Kampf is in de VS nooit verboden geweest (in tegenstelling tot veel andere boeken over ras, gender en sekse), maar Amazon heeft het boek in 2020 wel kortstondig van zijn platform verwijderd, voordat het daarna weer werd verboden.
Google’s AI Overview schiet zichzelf vaak in de algoritmische voet, dus het is opmerkelijk dat het dit resultaat overslaat. Toen het in mei 2024 werd gelanceerd als standaardfunctie bij zoekopdrachten, was het een onmiddellijke en vaak hysterische puinhoop, waarbij mensen werd verteld dat het oké is om lijm te eten en dat ze één kleine steen per dag moeten eten. In januari vertelde de functie gebruikers om het beroemdste seksspeeltje ter wereld te gebruiken met kinderen voor gedragsproblemen.
Deze vreemde resultaten zijn naast het grotere punt: Google’s perversie van zijn eigen zoekfunctie – zijn populairste en belangrijkste product – is een diep probleem dat het nog steeds niet heeft opgelost, en dat echte gevolgen heeft voor de gezondheid van het internet . In het begin was AI Overview zo slecht dat Google een optie toevoegde om het volledig uit te schakelen, maar het bedrijf houdt de functie ondanks dit alles nog steeds vast.
De Mein Kampf AI-samenvattingen zijn ook een voorbeeld van hoe AI zichzelf online begint op te eten, en de scheuren beginnen zichtbaar te worden. Studies in de afgelopen jaren laten zien dat AI-modellen door AI gegenereerde content consumeren als trainingsdata op een manier die de modellen zelf vervuilt en vernietigt.
