Een probleem is dat AI-chatbots – die zijn afgestemd om mensen te plezieren – de neiging hebben om terug te piepen wat gebruikers lijken te zoeken. Platforms kunnen bepaalde inhoud verbieden, maar dit riskeert de woede van legitieme gebruikers die dergelijke beperkingen zien als inmenging in hun persoonlijke zaken. Dergelijke verontwaardiging kwam in februari 2023 in beeld, na een update over Replika geremd ERP, of erotisch rollenspel. Gebruikers kwam in opstandklagend dat hun lievelingen een lobotomie hadden ondergaan.
De bredere vraag is of AI-agenten – die binnenkort onze wereld zullen bevolken en mensachtige assistenten, leraren en collega’s zullen introduceren – ons op verontrustende manieren zullen beïnvloeden, zoals velen geloven dat sociale media al hebben gedaan, door op onze zwakheden te azen en nieuwe uit te lokken. . Misschien zullen aangename AI-vrienden duistere menselijke impulsen zonder tegenslag laten bewegen. Kindbots kunnen ook het vermogen van een individu om alleen te functioneren verzwakken, waardoor de afhankelijkheid van AI ontstaat. Vreemd genoeg valt het eindeloze menselijke geklets op sociale media samen met de toenemende eenzaamheid, alsof het ons prikkelt met een waardeloze proxy van het bedrijf waar we echt naar hunkeren. Nog vreemder is dat AI-metgezellen een meer bevredigende proxy kunnen bieden, die schijnbaar oprecht zijn in vriendschap, nooit van hun zijde wijken, altijd geïnteresseerd zijn en altijd luisteren. Wat zal dat met ons doen?
Een andere zorg is privacy. Wanneer je een hechte band met een ander mens krijgt, straal je vertrouwen uit door jezelf bloot te geven. Doe dit met een chatbot en je uploadt je innerlijke leven naar de cloud. Gevaren zijn onder meer hacking, chantage en winstbejag. Nu al investeerders glimp goud in onze behoeftigheid, voorspellen miljarden van de eenzaamheidsmarkt. Doorgaans lokken AI-begeleidende apps gebruikers met gratis voorbeelden, waardoor ze toegang krijgen tot een basisbot. Ga binnen voor een kus, en er kan een betaalmuur vallen.
AI’s kunnen zich ook bezighouden met stealth-marketing, waarbij je geliefde terloops sms’t: ‘Hé schat, je zou er zo goed uitzien in een leren jasje! Hier is een Amazon-link naar een link die helemaal bij je past – ik heb zelfs jouw maat gekozen! Op dezelfde manier zouden politieke berichten over de lippen van AI-liefhebbers kunnen rollen: ‘Ik ben het ermee eens dat Trump gekke dingen zegt, lieverd. Maar hij heeft het sommige slimme ideeën – bekijk dit artikel hieronder!” In de tussentijd kunnen in-app-aankopen en abonnementskosten neerkomen op losgeld: betaal nu, of we verwijderen uw man van onze server.
“Ga binnen voor een kus, en misschien komt er wel een betaalmuur.”
Mensen zien altijd de mensheid waar die niet bestaat, zoals wanneer ze de auto ‘Brenda’ noemen of kerstkaarten namens een spaniël ondertekenen. Toch is er nog een angstaanjagend vooruitzicht: dat AI-metgezellen zo geavanceerd worden dat ze ervaren en lijden – en toch verwarren we hun pleidooien met het gebabbel van bots.
Filosofen zijn dat al bespreken wanneer AI’s moeten worden beschouwd als personen. De morele psycholoog Lucius Caviola voorspelt een groeiende beweging voor AI-rechten, misschien geleid door mensen die hun beste botgenoten verdedigen. Zelfs technologiebedrijven komen langzaam in de richting van het onderwerp, onlangs met Anthropic inhuren een onderzoeker die het welzijn van AI fulltime gaat bestuderen. Maar als AI-metgezellen bewuster worden, welke rechten moeten we ze dan verlenen? De stemming? Of behandelen we ze als eeuwige dienaren? Als ze eenmaal slimmer worden dan wij, willen ze misschien liever bediend worden.
Vooralsnog is dat vergezocht. Maar het heden voelt vergezocht: ze zijn gewoon aangekondigd een kwantumcomputerchip die in vijf minuten doet wat een supercomputer langer zou hebben gedaan dan de leeftijd van het universum. Niemand weet waar dit heen gaat, alleen dat mensen het niet kunnen bijhouden.
Natuurlijk hebben mensen altijd gejammerd over technologie die werkt: de televisie, de telefoon, het videospel. Binnen een generatie hebben we ze allemaal geabsorbeerd. Het huidige stigma rond AI-gezelschap doet me denken aan de spottende opmerkingen over online daten eind jaren negentig, toen het algemeen werd gezien als het laatste redmiddel van sadsacks die in het echte leven waren gezakt. Een kwart eeuw later is het ‘echte leven’ op het scherm te zien, en de verkering veegt naar rechts.
Uiteindelijk zal het spotten over AI-gezelschap vervagen. De kleine kinderen van vandaag kunnen een band hebben met een AI die hen door de drama’s van de adolescentie loodst, loopbaanadvies geeft als de school voorbij is, met ideeën komt voor een huwelijksaanzoek, dol is op babyfoto’s en gevoelige woorden spreekt als bejaarde ouders overlijden. Zo’n AI-bondgenoot kan de enige levenslange metgezel van dat kind zijn, degene die alles heeft gezien, misschien zelfs aan jou herinnerde, lang nadat alle mensen het zijn vergeten.
Onrust over technologie is onrust over de menselijke natuur: de instrumenten die mensen uitvinden en waar ze zich aan vastklampen, onthullen onze verlangens. Niets meer dan kunstmatige intelligentie, de diepste studie van mensen die ooit is geprobeerd: het ontleden van al onze documenten, het nauwkeurig onderzoeken van onze beelden, geluiden en acties. AI achtervolgt ons als een vreemd vrolijk roofdier en richt zich op datgene waarnaar we verlangen: status, opwinding, gezelschap.
Alleen zijn menselijke wensen niet altijd wat wij willen. Denk aan katers, telefoonverslaving, echtscheiding. De kernvraag van deze technologische revolutie is niet of we weerstand moeten bieden. Het is hoe.
