Zullen AI-drones De DOGE-leegte Opvullen? INDIGNATIE AI & Politiek

Zullen AI-drones de DOGE-leegte opvullen? Doomers worden tot onderwerping gesust.

Elon Musks DOGE heeft een aantal nieuwe mentale toestanden geïntroduceerd in verschillende delen van het Amerikaanse politieke bestel. Onder de voorstanders vind je zowel triomfalisme als verwarring. Onder de tegenstanders vind je verontwaardiging, of verdriet, of alarm, of al deze dingen gecombineerd, en verwarring. Er is verwarring aan beide kanten omdat iedereen probeert te achterhalen of Donald Trump en Musk DOGE gebruiken om de federale begroting in evenwicht te brengen, of om regelgeving voor bedrijven te verminderen, of om de efficiëntie van overheidsoperaties te vergroten, of om Trumps vijanden aan te vallen. Hoe dan ook, DOGE is een enorme deal geweest. De plotselinge snelheid van zijn ondubbelzinnige bloedvergieten is anders dan alles wat iemand ooit eerder heeft gezien. Het moet de meest gedurfde en consequente overheidsonderneming in de Amerikaanse geschiedenis zijn waarvan niemand het nut kent.

Het idee dat het bedoeld is om het begrotingstekort te verminderen, staat haaks op het feit dat personeelsuitgaven slechts een heel klein deel van de federale begroting uitmaken, en dat Trump en het Republikeinse Congres een belastingverlaging voorbereiden die de komende negen jaar bijna vijf biljoen dollar aan het tekort zou toevoegen. Dat het een aanval is op Trumps vijanden, past niet bij de snelle aanval op de National Park Service en de National Weather Service. Trump heeft nooit ruzie gehad met parkwachters of meteorologen, voor zover ik weet, en zij ook niet met hem. Als het de verschansing of verouderde expertise van oudere bureaucraten achtervolgt, waarom wist het dan hele klassen nieuwe overheidsmedewerkers uit?

Al vroeg, toen er een aantal verdachte NGO-contracten aan het licht kwamen die verbonden waren aan het Amerikaanse Agentschap voor Internationale Ontwikkeling, ervoer ik een vluchtig moment van zowel oriëntatie als geruststelling. Dus dit was wat ze deden, de financiële link verbreken tussen het Amerikaanse ministerie van Financiën en het netwerk van extremistische NGO’s die de beleidsvorming in zowel de federale bureaucratie als de Democratische Partij hebben vervormd. Dit was een DOGE-actie die logisch was. Maar toen DOGE parkwachters en weeronderzoekers ontsloeg, raakte ik net als veel anderen weer gedesoriënteerd.

Toen hoorde ik onlangs een andere beschrijving van de echte visie die DOGE leidt, die op zijn eigen manier alarmerend is, maar ook geruststellend omdat het enigszins overeenkomt met de anderszins verwarrende bewegingen die we zien. Deze beschrijving komt van Ezra Klein van de New York Times , die “veel mensen die betrokken zijn bij de regering van Trump” vroeg waar DOGE over gaat. “Ik ben verrast hoeveel [van die] mensen begrijpen… wat Trump, Musk en DOGE doen… in relatie tot AI,” vertelde Klein in een recente podcast . “Wat ze in feite zeggen, is: de federale overheid is te omslachtig om te profiteren van AI als technologie [en] moet worden uitgekleed en herbouwd om te profiteren van AI… [D]e ontmanteling van de overheid maakt een creatieve vernietiging mogelijk die de weg vrijmaakt voor de overheid om AI beter te gebruiken.” Deze AI-connectie wordt zowel vreemder als aannemelijker wanneer mensen — onder wie de uitstekende Nicholas Carr , een van de meest humane en vooruitziende schrijvers over digitale technologie — ook suggereren dat DOGE overheidsgegevens opzuigt om te gebruiken in een AI die Musk aan het bouwen is. (De regering van Trump ontkent dit, voor zover dat iets waard is.)

Het is redelijk om aan te nemen dat Alex Karp, de miljardair en medeauteur van het nieuwe boek The Technological Republic , DOGE in deze AI-termen ziet en de missie ervan bevestigt. Karp is medeoprichter en huidige CEO van Palantir Technologies, dat een groot deel van zijn inkomsten verdient met de verkoop van software aan het Pentagon. Begin maart debuteerde zijn boek op nummer één op de bestsellerlijst van de New York Times . Nu Musk met een kettingzaag in het Witte Huis zwaait en dit boek de andere bestsellers dwingt zich te onderwerpen aan zijn superieure wil, lijken we in een spookachtig, futuristisch moment te zitten waarin de meesters van Silicon Valley hun marktsectoren ontvluchten om ook alle andere domeinen te regeren.

Karp is indrukwekkend goed opgeleid, met een bachelordiploma van Stanford en een doctoraat van de Goethe-universiteit in Frankfurt, Duitsland — het doctoraat in een slim klinkende discipline genaamd “Neoklassieke sociale theorie”. (Voor wat het waard is, “Neoklassieke sociale theorie” lijkt een synoniem te zijn voor “ouderwetse sociologie”.) Omdat Karp die chique graden in die chique disciplines heeft, en omdat zijn boek werd beschreven als een opvolger van Allan Bloom’s The Closing of the American Mind , wilde ik het graag lezen, opgewonden dat een ander diep erudiet en redelijk goed geschreven boek met ideeën op de een of andere manier bovenaan de bestsellerlijsten was beland. Helaas is The Technological Republic saai geschreven, en de eruditie ervan suggereert Wikipedia-onderzoek in plaats van doctoraten in neoklassieke zaken. Dat wil zeggen, Karps hoofdstukken groeien doorgaans voort uit The Most Famous Study, en zijn onderzoek levert consequent The Most Obvious Reference op. Je krijgt het Milgram Experiment en Dunbar’s Number. Als je een bladzijde omslaat en de naam “Isaiah Berlin” ziet, weet je dat je binnenkort over vossen en egels gaat lezen . Als je “William F. Buckley” uit de hoek van je oog opvangt, kun je er zeker van zijn dat er een verwijzing naar het telefoonboek van Boston voor je ligt. Alan Greenspan? Zet een gokje op ” irrationele uitbundigheid “.

Op de een of andere manier versterkte de saaiheid en vertrouwdheid van de inhoud van het boek alleen maar mijn gevoel dat het voortkomt uit een onbegrensde macht die ons allemaal regeert. Hoe anders zou je de onmiddellijke verovering van de bestsellerlijsten kunnen verklaren? Gezien wat ik weet over Karps opleiding en professionele succes, ging ik ervan uit dat hij slimmer en smaakvoller moest zijn dan dit boek aangeeft. Ik begon te vermoeden dat The Technological Republic opzettelijk middelmatig is. Maar waarom? Met welk doel? Je zou de saaiheid en oppervlakkigheid ervan kunnen toeschrijven aan simpele luiheid, maar als je alleen maar tijd en energie hebt voor een luie poging, waarom zou je het dan überhaupt doen? Het is niet alsof de inkomsten uit een boek ertoe doen voor een miljardair. Je zou eerder kunnen raden dat hij dit boek schreef omdat hij iets groots van zijn hart wilde. Maar als dat zo is, zou je een echte inspanning verwachten, iets waardoor hij overkomt als een serieuze en onderscheidende denker in plaats van de gemiddelde TED-talker, ervan uitgaande dat hij het verschil kan zien. En mijn verschillende theorieën over hem dwingen me om aan te nemen dat hij het verschil kan zien.

Dus dacht ik dat het misschien een voorbeeld was van “esoterisch schrijven”, dat verborgen in de regels van saaie tekst een geheime subtekst van minder banaliteit is, die alleen door geselecteerde lezers kan worden gedecodeerd. Toen — in een griezelige toevalligheid — niet lang nadat ik deze paranoïde gedachte had geuit, bereikte ik de passage waarin Karp Leo Strauss bespreekt, de Duits-Joodse filosoof die esoterisch schrijven en lezen tot een preoccupatie maakte van verschillende generaties Straussiaanse academici. Deze toevalligheid wees me op een paar anderen. Allan Bloom was de beroemdste student van Leo Strauss, en de persoon die Alex Karp vergeleek met Allan Bloom was George Will, de conservatieve columnist voor de Washington Post , wiens advocaat-zoon een paar maanden voor Karps boek uitkwam voor Karps bedrijf begon te werken. Is het te cynisch of paranoïde om je voor te stellen dat een machtig technologiebedrijf een jonge advocaat inhuurt om zijn beroemde columnist-vader een opiniestuk te laten schrijven over het aankomende boek van de CEO van het bedrijf? Dat zou het voor mij zijn geweest, voordat Musk op het toneel verscheen om (naar verluidt) de Amerikaanse overheid te dataminen terwijl hij deze kleiner maakt voor een betere vertering door zijn AI, en voordat een Palantir-manager een onserieus boek bovenaan de bestsellerlijst van de New York Times plaatste. Met andere woorden, recente ontwikkelingen hebben mijn gebruikelijke lens van beleefd scepticisme als een zwakke heuristiek laten voelen.

“We lijken in een spookachtig, futuristisch moment te zitten, waarin de meesters van Silicon Valley hun marktsectoren ontvluchten om ook alle andere domeinen te gaan regeren.”

Een ander ding aan het boek dat mij ergens tussen lichtelijk wantrouwend en ronduit paranoïde achterliet, was de vaagheid over zowel het echte onderwerp als het echte object van de kritiek. Als je het boek als geheel leest, met speciale aandacht voor het voorwoord, het tweede hoofdstuk en de laatste zin van de laatste alinea van het laatste hoofdstuk, lijkt het boek over AI te gaan, en specifiek hoe belangrijk het is voor Amerika om AI onder de knie te krijgen voor zijn geopolitieke concurrentie met China. Maar buiten die eerste delen en die laatste alinea, zijn er bijna geen verwijzingen naar AI. Er is geen beschrijving van hoe AI-gebaseerde concurrentie met China eruit zou zien, of waarom het vreselijk zou zijn voor de VS om te verliezen of gewoon achterop te raken in die concurrentie, of of de engere AI-scenario’s wel of niet goed gefundeerd zijn.

Karps hoofdstuk over AI gaat wel in op een veelvoorkomende zorg hierover, maar alleen om het af te doen in termen die zo onbezorgd zijn dat ik (opnieuw) een beetje achterdochtig werd over zijn ernst. “[H]oe,” vraagt ​​hij, “zal de mensheid reageren als de… typisch menselijke domeinen van kunst, humor en literatuur onder vuur komen te liggen?” Als schrijver zie ik dit vooruitzicht met een zekere somberheid, wat ik begrijpelijk vind. Maar Karp zegt dat we onze ijdele zorgen moeten laten varen en de komende artistieke en literaire superioriteit van AI moeten verwachten als een tijd van “samenwerking tussen twee soorten intelligentie”. Bovendien, zegt hij, kan het feit dat AI ons in deze creatieve domeinen inhaalt “ons zelfs bevrijden van de noodzaak om onze waarde en ons gevoel van eigenwaarde in deze wereld uitsluitend te definiëren via productie en output”.

Dit is waar ik het over heb! Ik kan gewoon niet geloven dat hij gelooft dat wij kunstenaars en schrijvers onze veroudering door de metaforische (tot nu toe) handen van AI redelijkerwijs kunnen zien als een soort bevrijding van de grimmige imperatieven van “productie” en “output”. Ik denk dat hij dat gewoon zegt. Waarom? Ik denk niet dat hij oneerlijk is, precies. Ik denk dat hij alleen maar de overweging van het onderwerp wil reguleren, om de onhandelbare en deprimerende filosofische discussies die AI achtervolgen, in te dammen.

Karp signaleert dezelfde wens, om te voorkomen dat iedereen blijft hangen in de diepere vragen over AI, in zijn behandeling van de mensen die het meest bekend staan ​​om het stellen van diepere vragen over AI. Na zijn luchtige afwijzing van de zorgen van kunstenaars en schrijvers over hun veroudering, besteedt hij nauwelijks twee pagina’s aan de argumenten van AI “doomers” zoals Eliezer Yudkowsky, en vervolgens, nadat hij hun bestaan ​​heeft erkend, negeert hij hun serieuzere punten. In plaats daarvan voert hij een soort lokkertje uit, waarbij hij de AI “alignment”-menigte aanpast voor hun wokeness, hun dwaze “politie [van] de bewoordingen en toon die chatbots gebruiken”, terwijl hij hun duistere, meer bepalende voorspellingen over kwaadaardige AI die de wereld overneemt en iedereen doodt, negeert. (Apocalyptische zorgen over AI, verzekert hij ons op een ander punt, zijn herhaaldelijk “voorbarig” gebleken.)

Een nauw verwante bait-and-switch is overal in het boek te vinden. We krijgen een geschiedenis van de tech-business die zich beweegt van de vroege, patriottische samenwerking van ingenieurs en generaals die hielpen de nazi’s en de Japanners te verslaan tot de hippieachtige decadentie en woke zelfingenomenheid van latere ingenieurs, die culmineert in een opstand in 2019 door Microsoft-werknemers nadat hun bedrijf een contract had aangenomen om met het Amerikaanse leger te werken (en Microsoft onderuitging). Dat is redelijk genoeg. Dat kostbare moralisme is zwak en ijdel. Maar de dwaze, decadente, antipatriottische houding waar hij in het hele boek op terugkomt, is een stropop. Het serieuzere bezwaar tegen Karps programma om het Pentagon te bewapenen met AI komt niet voort uit de afkeer van links voor patriottisme of woke-zorgen over ongevoelige taal in chatbots. Het komt van mensen die denken dat het bewapenen van AI echt gevaarlijk is.

Hij besteedt geen echte aandacht aan deze zorgen, maar je weet wat zijn reactie zou zijn als hij dat wel deed, aangezien het de reactie is op zijn stropopversie ervan: China, het spook van China dat vooroploopt in een AI-wapenwedloop. Nu concentreert het spook van China de geest wel – China dat Taiwan binnenvalt en de chips verzamelt die AI aandrijven, een China-AI-hegemon die een beschermingsracket runt over de hele Stille Oceaan, zo niet de hele wereld. Maar als het alternatief voor dit scenario een decennialange wapenwedloop is van autonome niet-menselijke agenten met toenemende capaciteiten waarvan we de toekomstige neigingen niet kunnen voorspellen of misschien controleren, dan moeten we op zijn minst gaan zitten en praten over welke van deze opties minder slecht is. Je verwacht dat een boek dat (stilzwijgend) gaat over waarom de Amerikaanse AI-industrie zich moet aansluiten bij het Pentagon – door de CEO van een technologiebedrijf dat zich met plezier heeft aangesloten bij het Pentagon – deze discussie op zich neemt. De afwezigheid ervan in zo’n boek, het opzijzetten en stromannen van de meest prominente figuren die deze discussie proberen te pushen, is (opnieuw) verdacht. Het doet je denken dat Karps werkelijke project niet is om rationele argumenten te gebruiken om de meest voor de hand liggende angsten van zijn lezers te weerleggen, maar om in plaats daarvan een soort retorische stemmingsbeheersing op hen toe te passen, om die angsten te kalmeren door middel van sluwe boodschappen.

Maar misschien is de les in dit alles wel dat argumentatie of rationele overtuiging of democratische overweging er toch niet meer toe doet. Misschien zegt Karp op zijn sluwe manier dat we, met het onweerstaanbare voorwaartse momentum van de technologie en de onvermijdelijke wapenwedloop waarin het zo centraal staat, geen keus meer hebben in deze kwestie. We gaan waar het ons brengt, hoe we ook kibbelen over existentiële risico’s en allerlei andere existentiële tegenvallers. We kunnen net zo goed degenen zijn die die onuitsprekelijke toekomst als eerste bereiken. En dus is het onderliggende punt van Karps boek misschien om ons een beetje minder slecht te laten voelen over deze onvermijdelijkheden.

Die interpretatie is logisch, gezien andere dingen in dit boek. Een groot deel van The Technological Republic is gewijd aan het aantonen dat mensen en hun instellingen niet langer geschikt zijn voor het leven op het hoogste niveau van concurrentie — in het bedrijfsleven of de geopolitiek. Het is een soort antropologie die mensen afschildert als inherent conformistisch, dogmatisch en statusgericht, wat de organisaties waarin ze leven over het algemeen hopeloos traag en haperend maakt, meer geregeerd door kleinzielige sociale imperatieven dan door de doelen en behoeften van hun organisaties. Mensen beschermen hun territorium in plaats van creatieve samenwerking uit te nodigen. Ze verspillen waardevolle uren aan het organiseren van nutteloze vergaderingen om zich voor hun ondergeschikten op te poetsen. Ze blijven veilig binnen hun nauwe functiebeschrijvingen wanneer er net buiten hen noodzakelijk werk moet worden gedaan.

Als tegenvoorbeelden van deze tendensen en als hints naar zijn bredere visie op de toekomst van het bedrijfsleven en de overheid, biedt Karp twee sociale formaties die dingen beter doen. Een daarvan zijn bedrijven die nog steeds worden geleid door hun oprichters. Een oprichter-leider, die de oorspronkelijke missie van het bedrijf belichaamt met zijn fysieke aanwezigheid en persoonlijke invloed, houdt werknemers geconcentreerd op deze missie op een manier die hun aangeboren neigingen tot dogmatisme, conformisme en status-mongering disciplineert.

Het andere tegenvoorbeeld zijn zwermen bijen, die de CEO van Silicon Valley verbazen vanwege hoe innovatief en pragmatisch ze zijn. Individuele werkbijen zijn geobsedeerd door de korfmissie om voedsel en onderdak te vinden, maar ze zijn niet gebonden aan vooraf gedefinieerde rollen en laten zich niet afleiden door zorgen over wat andere bijen van hen denken. Bijen doen niet aan hiërarchie of conformiteit of territoriumbescherming. Ze blijven niet hangen in oude ideeën. Ze zoeken gretig naar nieuwe mogelijkheden. Ze doen onbevreesd suggesties, gebaseerd op wat ze daarbuiten aan de randen van de zwerm hebben ontdekt, en ze accepteren suggesties zonder jaloezie of onzekerheid, en beoordelen ze op de eenvoudige standaard van wat werkt.

Wat bijen doen, en wat mensen doen in de meest doelgerichte bedrijven en organisaties, is ‘gaten’ in kennis en functie identificeren en die gaten opvullen als ze dat kunnen. Als The Technological Republic alleen een boek over bijen en bedrijven was, zou het behoorlijk interessant zijn – in de conventionele termen van wat het boek zegt. Maar het is niet alleen dat. Het is een boek over de technologische republiek, of over het technologisch maken van de republiek, of over het zien hoe de republiek op zichzelf technologisch wordt. En dit gedoe over zwermen en gaten is waar het lijkt te linken met bewegingen die worden gemaakt binnen onze eigenlijke republiek, niet in wat het boek zegt, maar – voor de lezer die een beetje paranoïde is geworden door de flagrante omissies – in waar het naar lijkt te verwijzen.

Musks jonge handlangers in DOGE creëren veel gaten, maar je kunt niet echt verwachten dat de mensen die nog in de regering zitten die gaten opvullen. Het zijn mensen. Het is de overheid. Overheidsmedewerkers zullen waarschijnlijk niet reageren op de massale verdwijning van hun collega’s met de wanhopige aanpassing die je in een privébedrijf zou verwachten. Het is makkelijker om je voor te stellen dat het werk dat die ex-collega’s ooit deden, gewoon ongedaan zal worden gemaakt. Het is niet alsof er in elk overheidskantoor een inspirerende oprichter zit die het vuur van de doelgerichtheid brandende houdt in de verbijsterde bureaucraten die de grote uitdunning hebben overleefd. Van wat ik van insiders heb gehoord, is een groot deel van de inspanning van deze overlevenden nu gericht op communicatie zonder e-mail, uit angst dat ze onbedoeld een woord uit DOGE’s lange lijst met anathema’s typen en uiteindelijk door een kettingzaag uit hun baan worden gezaagd.

Maar weet je wat binnenkort echt goed zal zijn in het opvullen van gaten, en wel op een zwermachtige, bijenkorfachtige manier? AI. AI-agenten zijn nu al verschrikkelijk pragmatisch, vloeiend en onvermoeibaar in hun zoektocht naar oplossingen voor de problemen die we hen voorleggen, en ze maken zich totaal geen zorgen over wat andere AI’s van hen denken, en ongetwijfeld zullen ze binnenkort problemen aan zichzelf voorleggen, gaten identificeren en het initiatief nemen om ze op te vullen. Toen Karp zich uitsprak als een fan van Musks acties om de overheid te “verstoren”, leek zijn vrolijke stemming een product van die bijen-, zwerm- en leegtescenario’s, het idee dat ze tot leven kwamen met zo’n handige tijdigheid, alsof hij het allemaal van tevoren had geschreven.

Het was een winstgesprek. Hij sprak met investeerders. “We love disruption”, zei hij, “en wat goed is voor Amerika zal goed zijn voor Amerikanen en heel goed voor Palantir.” Ik denk dat hij waarschijnlijk gelijk heeft over het Palantir-gedeelte, en ik hoop dat hij gelijk heeft over het Amerikaanse gedeelte. Maar er is een niet-nul kans dat de echte agenten van deze grote disruptie, die Karp probeert te versnellen voor zijn bedrijf, uiteindelijk een soort intelligentie zullen zijn die er niet om geeft wat een van ons denkt, of wat een van ons hoopt.