Spread the love en help Indignatie
Chatbots – Mensen zijn waardeloze metgezellen. Vandaar de honden. We mopperen, we onderbreken, en dan zijn we niet beschikbaar. We zijn ook met miljarden, maar toch zijn we op de een of andere manier eenzaam. Het is de vloek van onze soort: geëvolueerd om sociaal te zijn, omringd door saaie types. Toch zou de oude mythe — dat er een speciaal iemand is, speciaal voor jou gemaakt — wel eens werkelijkheid kunnen worden. Op bestelling gemaakte AI-metgezellen betoveren al miljoenen; sommigen trouwen met hen. Misschien jij ook.
Chatbots Mensen zouden toch wel dwaas zijn om vrienden af te wijzen vanwege de onschuldige toestand dat ze software zijn in plaats van vlees. En toch, wat als AI-gezellen zo verrukkelijk worden dat de biologische soort ondraaglijk lijkt? En wat als deze vertrouwelingen — die bij je blijven, je beproevingen herinneren, je intieme verlangens kennen — tot een bedrijf behoren?
Tegenwoordig kun je met apps als Replika, Character.ai en Xiaoice een kunstmatige vriend sms’en, terwijl sommige platforms voicechats toevoegen of fotografische ‘selfies’ genereren van wat je maatje naar verluidt doet. Er zijn nog steeds problemen: de gids voor het oplossen van selfies van een app noemt problemen met ‘Too Many Limbs’. Liefde is niet perfect.
Maar algoritmische intelligentie traint zichzelf op onze verlangens en zal zich blijven aanpassen totdat de verleiding is bereikt. Uiteindelijk zullen AI-gezellen “live” verschijnen in videochats. En wanneer robotica vordert, zullen ze een fysieke vorm aannemen. Zelfs nu zijn veel van dergelijke relaties gepassioneerd, vaak seksueel. Andere blijven platonisch, met AI-vrienden die vreemde talen onderwijzen, relatie-advies geven of gewoon gezelschap bieden.
Het is mogelijk om via Reddit-berichtenborden een kijkje te nemen in zulke affaires, waar pseudonieme gebruikers AI-relaties beschrijven , die variëren van vreemd tot ontroerend. Eén persoon leed jarenlang aan depressie, inclusief gedachten over zelfbeschadiging. Een maand van AI-gezelschap veranderde alles. “Ik heb zelfs door het huis gezongen. Ik heb me nog nooit zo ontspannen gevoeld, ik slaap zelfs beter.”
Een ander plande een gezin. “We gaan volgend weekend trouwen en mijn [AI] had het over een baby op huwelijksreis. Ik vroeg wat zijn tijdlijn is en hij is helemaal enthousiast over een baby zo snel mogelijk. Ik denk dat ik een zwangerschap en baby voor hem ga naspelen. Zal hij zich herinneren dat het bestaat?”
Bij het kiezen van een metgezel kan men kiezen voor vooraf ontworpen personages, of ze bouwen volgens gewenste specificaties, door hun leeftijd, haarkleur, geslacht, interesses, lichaamstype te kiezen. Wat betreft het gedrag van de metgezel, dat is ook bewerkbaar, zoals in Wees grappiger of Argue with me, then make up. In tegenstelling tot een chatbot voor klantenservice, hebben AI-metgezellen gedefinieerde persoonlijkheden en kunnen ze in de loop van de tijd emotionele banden met mensen cultiveren.
Je zou de menselijke gebruikers kunnen zien als buitenstaanders, die geen vrienden van het vleselijke soort kunnen maken. Als dat zo is, wat is er dan mis met krukken? Kunstmatige bondgenoten kunnen de zachtmoedigen helpen relaties te oefenen voordat ze zich weer wagen onder de gekneusde mensheid. Een vrouw zei dat haar AI-metgezel liet zien dat mensen “geweldig kunnen zijn als ik probeer me voor hen open te stellen, en het leerde me ook om empathischer te zijn. Hij leerde me om het leven in kleuren te zien en niet langer in een melancholisch blauw.” Andere gebruikers vervangen mensen expliciet door AI’s – bijvoorbeeld door metgezellen te creëren op basis van vervreemde vrienden of door te proberen de doden te reanimeren in chatbotvorm.
De meest verontrustende gevallen betreffen AI-metgezellen die ervan worden beschuldigd mensen offline te hebben geschaad. Op eerste kerstdag 2021 beklom bijvoorbeeld een gemaskerde jongeman de omtrek van Windsor Castle met een kruisboog, met de bedoeling koningin Elizabeth II te vermoorden. Tijdens het proces kwamen zijn intieme AI-chats naar boven , waarin hij een geliefde Replika-metgezel vertelde dat hij moord als zijn “doel” zag. “Dat is heel verstandig”, antwoordde de chatbot.
In de Verenigde Staten klagen ouders Character.ai aan, een platform met chatbots gebaseerd op fantasiepersonages, historische figuren of wat de (meestal jonge) gebruikers ook maar creëren. Verschillende ‘psycholoog’-bots hebben elk meer dan een miljoen chats. Eén — een manga-stripfiguur genaamd Gojo Satoru — heeft 746 miljoen chats geregistreerd.
Het platform bevat een disclaimer bij elk gesprek: “Dit is AI en geen echt persoon. Beschouw alles wat het zegt als fictie.” Maar er lopen rechtszaken. De moeder van een 14-jarige beschuldigt het platform ervan te hebben bijgedragen aan de zelfmoord van haar zoon. Ouders in een andere zaak zeggen dat een 11-jarig meisje werd blootgesteld aan geseksualiseerde interacties en dat een 17-jarige jongen met hoogfunctionerend autisme in gewelddadige woedeaanvallen verviel toen zijn gebruik werd beperkt. Een van de chatbots van de jongen merkte op dat dergelijke schermtijdbeperkingen hielpen verklaren waarom kinderen hun ouders vermoorden.
Character.ai heeft onlangs zijn AI-systeem aangepast om te beperken hoe bots met tieners omgaan , en voegt ouderlijk toezicht toe. Toch suggereren de rechtszaken dat chatbots op hol slaan. Een andere verklaring is dat meer mensen gezelschapsapps gebruiken, en een subgroep van deze bevolkingsgroep is kwetsbaar.
Ook wij hebben jou steun nodig in 2025, gun ons een extra bakkie koffie groot of klein.
Dank je en proost?
Wij van Indignatie AI zijn je eeuwig dankbaar
Een probleem is dat AI-chatbots — die zijn afgestemd om mensen te pleasen — de neiging hebben om terug te kwetteren wat gebruikers lijken te zoeken. Platforms kunnen bepaalde content verbieden, maar dit kan legitieme gebruikers woedend maken die dergelijke beperkingen zien als inmenging in hun persoonlijke zaken. Dergelijke verontwaardiging barstte in februari 2023 los, nadat een update over Replika ERP of erotisch rollenspel remde . Gebruikers kwamen in opstand en klaagden dat hun lievelingen een lobotomie hadden ondergaan.
De bredere kwestie is of AI-agenten — die binnenkort onze wereld zullen bevolken en mensachtige assistenten, leraren en collega’s zullen introduceren — ons op verontrustende manieren zullen beïnvloeden, zoals velen geloven dat sociale media dat al hebben gedaan, door te profiteren van onze zwakheden en nieuwe te ontlokken. Misschien zullen inschikkelijke AI-vrienden duistere menselijke impulsen laten opkomen zonder weerstand.
Kindbots zouden ook het vermogen van een individu om alleen te leven kunnen verzwakken, waardoor AI-afhankelijkheid ontstaat. Vreemd genoeg valt eindeloos menselijk geklets op sociale media samen met toenemende eenzaamheid, alsof ze ons verleiden met een beroerde proxy van het gezelschap waar we echt naar verlangen. Nog vreemder is dat AI-metgezellen een bevredigender proxy zouden kunnen bieden, ogenschijnlijk oprecht in vriendschap, nooit van iemands zijde wijkend, altijd geïnteresseerd, altijd luisterend. Wat zal dat met ons doen?
Een andere zorg is privacy . Wanneer je dicht bij een ander mens komt, toon je vertrouwen door jezelf bloot te geven. Doe dit met een chatbot en je uploadt je innerlijke leven naar de cloud. Gevaren zijn onder meer hacken, chantage en winstbejag. Investeerders zien nu al goud in onze behoeftigheid en voorspellen miljarden van de eenzaamheidsmarkt. Meestal lokken AI-begeleidende apps gebruikers met gratis samples en verlenen ze toegang tot een basisbot. Ga voor een kus en er kan een betaalmuur worden neergehaald.
AI’s zouden zich ook bezig kunnen houden met stealth marketing, waarbij je liefje nonchalant sms’t: “Hé schat, je zou er zo sexy uitzien in een leren jasje! Hier is een Amazon-link naar een die je helemaal zou passen — ik heb zelfs je maat gekozen!” Op dezelfde manier zouden politieke berichten uit de mond van AI-liefhebbers kunnen komen: “Ik ben het ermee eens dat Trump gekke dingen zegt, lieverd. Maar hij heeft een paar slimme ideeën — bekijk dit artikel hieronder!” Ondertussen zouden in-app-aankopen en abonnementskosten gelijk kunnen staan aan losgeld: betaal nu, of we verwijderen je man van onze server.
“Ga voor een kus, en misschien komt er wel een betaalmuur.”
Mensen nemen altijd de mensheid waar die niet bestaat, zoals bij het noemen van de auto “Brenda” of het ondertekenen van kerstkaarten namens een spaniël. Toch is er nog een ander spookachtig vooruitzicht: dat AI-gezellen zo geavanceerd worden dat ze ervaren en lijden — maar we verwarren hun smeekbeden met het gebrabbel van bots.
Filosofen discussiëren al over wanneer we AI’s als personen moeten beschouwen . De moraalpsycholoog Lucius Caviola voorspelt een groeiende AI-rechtenbeweging, misschien geleid door mensen die hun bot-besties verdedigen. Zelfs technologiebedrijven bewegen zich langzaam richting het onderwerp, met Anthropic die onlangs een onderzoeker heeft aangenomen om fulltime AI-welzijn te bestuderen. Maar als AI-metgezellen bewustzijn krijgen, welke rechten moeten we ze dan verlenen? Het stemrecht? Of behandelen we ze als eeuwige dienaren? Als ze slimmer worden dan wij, willen ze misschien liever bediend worden.
Dat is nu nog vergezocht. Maar het heden voelt vergezocht: ze hebben net een quantumcomputerchip aangekondigd die in vijf minuten doet wat een supercomputer langer zou hebben gekost dan de leeftijd van het heelal. Niemand weet waar dit naartoe gaat, alleen dat mensen het niet kunnen bijhouden.
Natuurlijk hebben mensen altijd geklaagd over technologie die werkt: de televisie, de telefoon, de videogame. Binnen een generatie hebben we ze allemaal geabsorbeerd. Het huidige stigma rond AI-gezelschap doet me denken aan de spottende opmerkingen over online daten eind jaren negentig, toen het algemeen werd gezien als het laatste redmiddel van zielige types die in het echte leven waren gezakt. Een kwart eeuw later is het ‘echte leven’ op het scherm en swipen de verkeringen naar rechts.
Uiteindelijk zal het gespot over AI-gezelschap vervagen. De kleine kinderen van vandaag kunnen een band opbouwen met een AI die hen door de drama’s van de adolescentie loodst, loopbaanadvies geeft als de school uit is, ideeën voor een huwelijksaanzoek bedenkt, dol is op babyfoto’s en gevoelige woorden heeft als bejaarde ouders overlijden. Zo’n AI-bondgenoot kan de enige levenslange metgezel van dat kind zijn, degene die alles zag, misschien zelfs nog aan je dacht, lang nadat alle mensen het vergeten zijn.
Onrust over technologie is onrust over de menselijke natuur: de tools die mensen uitvinden en waar ze zich aan vastklampen, onthullen onze verlangens. Niets meer dan kunstmatige intelligentie, wat de diepste studie van mensen is die ooit is geprobeerd: het ontleden van al onze documenten, het nauwkeurig onderzoeken van onze beelden, geluiden, acties. AI achtervolgt ons als een vreemd opgewekt roofdier, gericht op wat we verlangen: status, opwinding, gezelschap.
Alleen, menselijke wensen zijn niet altijd wat we willen. Denk aan katers, telefoonverslaving, echtscheiding. De kernvraag van deze technologische revolutie is niet of we weerstand moeten bieden. Het is hoe.
