Google’s AI-overzicht Vertelt Volwassenen Om ‘Magic Wand’ Te Gebruiken Bij Kinderen INDIGNATIE AI & Politiek

Magic Wand – De AI-zoekfunctie van Google vertelt mensen die op zoek zijn naar antwoorden op vragen over het gebruik van vibrerende seksspeeltjes tijdens de zwangerschap, dat ze deze functie beter kunnen gebruiken voor het adviseren van kinderen.

Toen de zoekfunctie AI Overview van Google in mei werd gelanceerd , werd het over het algemeen als een puinhoop beschouwd. Het vertelde mensen om lijm en stenen te eten , belasterde nieuwswaardige figuren, plagieerde het werk van journalisten en was zo slecht dat Google een functie toevoegde om het helemaal uit te schakelen. In de bijna 10 maanden sinds de lancering van AI Overview, doet het nog steeds dingen verkeerd, zoals mensen vertellen dat vibrators kunnen worden gebruikt voor gedragstherapie bij kinderen. 

Zoals ontdekt door Reddit-gebruiker clist186, levert het zoeken naar “magic wand pregnancy” een bizar antwoord op over creativiteit met kinderen als een “leuke en boeiende” activiteit, naast een afbeelding van een Magic Wand-vibrator, een van de populairste en universeel erkende seksspeeltjes ter wereld: 

“De Magic Wand-tool is een creatieve manier voor ouders om gedragsveranderingen te identificeren die ze willen doorvoeren, inclusief veranderingen die verband houden met zwangerschap. Het kan worden gebruikt om de beoordeling leuk en boeiend te maken, vooral voor langdurige WIC-cliënten. Zo werkt de Magic Wand-tool:

ouders beschrijven welke opvoedingsuitdagingen ze zouden veranderen door ‘met een toverstaf te zwaaien’. De reacties van zowel ouders als oudere kinderen kunnen worden gebruikt om discussies te starten. De Magic Wand-tool kan online of in een plaatselijke winkel worden gekocht.”

Wat het nog vreemder maakt, is dat ik niet het resultaat van het opvoedgerelateerde AI-overzicht krijg als ik op die term zoek, maar Emanuel Maiberg van 404 (zelf ook een ouder) wel. 

AI Overview, dat wordt aangestuurd door het Gemini-model van Google, biedt links naar waar de informatie vandaan komt als onderdeel van de resultaten; in dit geval is het een samenvatting van een document van het New Hampshire Department of Health and Human Services over een gedachtenoefening waarbij een therapeut cliënten een “toverstaf” geeft die hen helpt zich een ideaal scenario voor te stellen. Dit verwijst niet naar het doorgeven van een Hitachi aan een kind, maar de AI weet dat niet.

In een ander resultaat voor de zoekterm ‘wat is een toverstaf’ combineert AI Overview een foto van een Magic Wand-seksspeeltje met een beschrijving van een goocheltruc:

“Een toverstaf is een klein stokje dat door goochelaars wordt gebruikt om trucs uit te voeren en magie te laten gebeuren. Het is vaak kort, zwart en heeft een witte punt. Magiërs gebruiken toverstaven als onderdeel van hun misleiding en om dingen te laten gebeuren zoals groeien, verdwijnen, bewegen of een eigen wil tonen. Een klassieke goocheltruc is bijvoorbeeld het laten verschijnen van een boeket bloemen uit de punt van de toverstaf.”

Dit overzichtresultaat komt uiteindelijk wel rond met een beschrijving van de betreffende Magic Wand: “Magic Wand kan ook verwijzen naar een merk massage-apparaat: Hitachi Magic Wand. Een massage-apparaat dat voor het eerst werd vermeld voor zakelijk gebruik in 1968 en in de jaren 70 beschikbaar werd voor het publiek. Het is ontworpen om pijn en spanning te verlichten, pijnlijke spieren en zenuwen te verzachten en te helpen bij revalidatie na sportblessures.”

In een bedrijfsblog over AI Overview zei Google dat de functie gebruikmaakt van “meerstaps redeneermogelijkheden” om “te helpen met steeds complexere vragen”. De zoekterm “magic wand pregnancy” is niet bijzonder complex; de meeste mensen met basisvaardigheden in leesbegrip zouden waarschijnlijk zeggen dat de term zoekt naar antwoorden over het gebruik van een van ’s werelds populairste seksspeeltjes tijdens de zwangerschap. Maar Gemini nam in plaats daarvan de vreemdste mogelijke route en haalde het uit een obscuur document over een gesprekstherapietechniek die toevallig de zinnen “magic wand” en “pregnancy” bevatte. 

Als u zoekt met een volledige, natuurlijke taalquery – “kun je een toverstaf gebruiken tijdens de zwangerschap” – krijgt u een genuanceerder door AI gegenereerd antwoord dat rekening houdt met het feit dat de zoeker mogelijk verschillende soorten toverstokken in gedachten heeft: 

Vorig jaar tekende Reddit een contract van $ 60 miljoen per jaar met Google in ruil voor het licenseren van gebruikerscontent om de AI-modellen van Google te trainen. Content voor volwassenen, waaronder seksuele voorlichting en gesprekken over seksspeeltjes, zijn nog steeds toegestaan ​​op Reddit als een van de weinige platforms die seks niet volledig heeft verboden, en vragen over zwangerschap zijn daar enorm populair. (Er zijn tientallen vragen specifiek over het gebruik van vibrators tijdens de zwangerschap .)

Het is logisch dat het formuleren van de zoekterm als een vraag in plaats van een set trefwoorden een betere respons van de AI zou opleveren: het is waar de AI op is getraind. 

Gelukkig kunnen de meeste mensen die zoeken naar ‘magic wand pregnancy’ waarschijnlijk hun menselijke brein gebruiken om af te leiden dat ze een vibrator niet als praatstok moeten gebruiken in groepstherapie met kinderen. Maar het is weer een voorbeeld van AI die in elk product en elke tool wordt gestopt die meer werk, frictie en verwarring toevoegt aan de ervaring van online zijn, in plaats van minder — zoals technologiebedrijven voortdurend beloven. 

Google heeft niet direct gereageerd op een verzoek om commentaar.