Massive Blue – Amerikaanse politieafdelingen in de buurt van de grens tussen de Verenigde Staten en Mexico betalen honderdduizenden dollars voor een onbewezen en geheime technologie die gebruikmaakt van door AI gegenereerde online persona’s die zijn ontworpen om te communiceren met en inlichtingen te verzamelen over “studentenprotesteerders”, “geradicaliseerde” politieke activisten en vermoedelijke drugs- en mensenhandelaren, zo blijkt uit interne documenten, contracten en communicatie die zijn verkregen via verzoeken om openbare gegevens.
Massive Blue, het in New York gevestigde bedrijf dat deze technologie aan politieafdelingen verkoopt, noemt zijn product Overwatch en brengt het op de markt als een “AI-aangedreven krachtvermenigvuldiger voor de openbare veiligheid” die “levensechte virtuele agenten inzet die criminele netwerken via verschillende kanalen infiltreren en aanvallen”. Volgens een presentatie die 404 Media heeft verkregen, biedt Massive Blue agenten deze virtuele persona’s aan die via internet kunnen worden ingezet met het uitdrukkelijke doel om via sms en sociale media met verdachten te communiceren.
Massive Blue noemt “grensbeveiliging”, “schoolveiligheid” en het stoppen van “mensenhandel” als use cases voor Overwatch. De technologie – die tot afgelopen zomer nog niet tot arrestaties had geleid – laat zien welke soorten social media monitoring en undercover tools particuliere bedrijven aan de politie en grenswachten aanbieden. De zorgen over tools zoals Massive Blue zijn des te urgenter geworden nu de regering-Trump de visa van honderden studenten heeft ingetrokken , van wie velen hebben geprotesteerd tegen de Israëlische oorlog in Gaza.
404 Media kreeg een presentatie waarin enkele van deze AI-personages te zien waren. Deze persona omvat een “geradicaliseerde AI” “protestpersona”, die zich voordoet als een 36-jarige gescheiden vrouw die eenzaam is, geen kinderen heeft, geïnteresseerd is in bakken, activisme en “body positivity”.
Een andere AI-persona in de presentatie wordt beschreven als een “‘Honeypot’ AI-persona”. Haar achtergrondverhaal vertelt dat ze een 25-jarige is uit Dearborn, Michigan, wiens ouders uit Jemen zijn geëmigreerd en die het Sanaani-dialect van het Arabisch spreekt. De presentatie vermeldt ook dat ze verschillende socialemedia-apps gebruikt, dat ze actief is op Telegram en Signal, en dat ze sms-mogelijkheden heeft in de VS en internationaal. Andere persona’s zijn een 14-jarige jongen die een “kinderhandel-AI-persona” is, een “AI-pooierpersona”, een “studentenprotesteerder”, een “externe recruiter voor protesten”, “escorts” en “jongeren”.
Uit ons verslag blijkt dat agenten een bedrijf betalen om hen te helpen bij het inzetten van AI-gestuurde bots op sociale media en internet. Daarmee kunnen ze met mensen praten waarvan ze vermoeden dat ze van alles zijn, van gewelddadige zedendelinquenten tot vaag gedefinieerde ‘demonstranten’. Ze hopen hiermee bewijs te verzamelen dat tegen hen gebruikt kan worden.
“Het idee dat een AI zich voordoet als iemand anders, een jongere die online met pedofielen wil praten, of iemand die een nepterrorist is, is een idee dat al heel lang bestaat”, vertelde Dave Maass, die grensbewakingstechnologieën bestudeert voor de Electronic Frontier Foundation, aan 404 Media. “Het probleem met al deze dingen is dat het slecht gedefinieerde problemen zijn. Welk probleem proberen ze eigenlijk op te lossen? Eén versie van de AI-persona is een escort. Ik maak me geen zorgen om escorts. Ik maak me geen zorgen om studentenprotesteerders. Dus, waar is het effectief in, in het schenden van de rechten van demonstranten op grond van het Eerste Amendement?”
Massive Blue heeft een contract van $ 360.000 getekend met Pinal County in Arizona, een plaats tussen Tucson en Phoenix. De county betaalt het contract met een subsidie voor de bestrijding van mensenhandel van het Arizona Department of Public Safety. Een rapport van de inkoopafdeling van Pinal County stelt dat het “24/7 monitoring van talloze web- en socialemediaplatforms” en “ontwikkeling, implementatie, monitoring en rapportage over een virtuele taskforce van maximaal 50 AI-persona’s in drie onderzoekscategorieën” heeft aangeschaft. Yuma County tekende ondertussen een contract van $ 10.000 om Massive Blue in 2023 uit te proberen, maar verlengde het contract niet. Een woordvoerder van het sheriffkantoor van Yuma County vertelde 404 Media dat “het niet aan onze behoeften voldeed”.
Medeoprichter van Massive Blue, Mike McGraw, beantwoordde geen enkele specifieke vraag van 404 Media over hoe Massive Blue werkt, met welke politieafdelingen het samenwerkt en of het al eerder is gebruikt om arrestaties te verrichten. “We zijn trots op het werk dat we doen om het onderzoek naar en de vervolging van mensenhandelaren te ondersteunen”, aldus McGraw. “Ons primaire doel is om deze criminelen voor de rechter te brengen en tegelijkertijd slachtoffers te helpen die anders slachtoffer zouden blijven van mensenhandel. We kunnen het risico niet lopen deze onderzoeken in gevaar te brengen en het leven van slachtoffers verder in gevaar te brengen door vertrouwelijke informatie te onthullen.”
Het kantoor van de sheriff van Pinal County meldde aan 404 Media dat Massive Blue tot nu toe nog niet is gebruikt voor arrestaties.
“Onze onderzoeken zijn nog steeds gaande. Massive Blue is een onderdeel van de ondersteuning in deze onderzoeken, die nog steeds actief zijn en doorlopen. Er zijn nog geen arrestaties verricht”, vertelde Sam Salzwedel, voorlichter van het sheriffkantoor van Pinal County, aan 404 Media. “Het vereist een veelzijdige aanpak om mensenhandelaren, drugshandelaren en andere criminelen te ontwrichten. Massive Blue is een waardevolle partner geweest in deze initiatieven en heeft aanwijzingen opgeleverd die rechercheurs actief onderzoeken. Aangezien dit lopende onderzoeken zijn, kunnen we het risico niet lopen onze onderzoeksinspanningen te compromitteren door specifieke informatie over personen te verstrekken.”
Salzwedel voegde eraan toe: “Massive Blue werkt niet aan immigratiezaken. Ons agentschap handhaaft de immigratiewetgeving niet. De ondersteuning van Massive Blue is gericht op mensenhandel, drugshandel en andere onderzoeken.”
Wetshandhavingsinstanties hebben maatregelen genomen om te voorkomen dat details over wat Massive Blue is en hoe het werkt openbaar worden. Tijdens openbare hoorzittingen over de Massive Blue-overeenkomst in Pinal County weigerde het kantoor van de sheriff de gemeenteraadsleden überhaupt te vertellen wat het product inhoudt. Matthew Thomas, plaatsvervangend sheriff van Pinal County, vertelde de gemeenteraad dat hij “niet in detail kan treden” over wat Massive Blue is en dat hij daarmee “de boeven in de steek zou laten”.
Het sheriffkantoor van Pinal County reageerde niet op meerdere verzoeken om commentaar. Het Arizona Department of Public Safety zei: “Voor zover wij kunnen nagaan, was Pinal County van plan technologie te implementeren om mensenhandelzaken te identificeren en op te lossen, en dat is wat we hebben gefinancierd”, maar was niet op de hoogte van de details van Overwatch.
Hoewel de documenten niet elk technisch aspect van Overwatch beschrijven, geven ze wel een algemeen overzicht van wat het inhoudt. Het bedrijf beschrijft een tool die AI-gegenereerde afbeeldingen en tekst gebruikt om socialemediaprofielen te creëren waarmee interactie mogelijk is met vermoedelijke drugs-, mensen- en wapenhandelaren. Nadat Overwatch open socialemediakanalen heeft gescand op potentiële verdachten, kunnen deze AI-persona’s ook met verdachten communiceren via sms, Discord en andere berichtendiensten.
De documenten die we hebben verkregen, leggen niet uit hoe Massive Blue bepaalt wie een potentiële verdachte is op basis van hun socialemedia-activiteit. Salzwedel uit Pinal County zei: “De oplossingen van Massive Blue crawlen meerdere delen van het internet, en socialemediakanalen zijn slechts één onderdeel. We kunnen geen verdere informatie vrijgeven om de integriteit van ons onderzoek te waarborgen.”
Eén dia in de Massive Blue-presentatie, verkregen door 404 Media, geeft het voorbeeld van een “Child Trafficking AI Persona” genaamd Jason. De presentatie geeft een kort “achtergrondverhaal” van de persona, waarin staat dat Jason een 14-jarige jongen uit Los Angeles is wiens ouders uit Ecuador zijn geëmigreerd. Hij is tweetalig, enig kind en zijn hobby’s zijn anime en gamen. De presentatie beschrijft zijn persoonlijkheid als verlegen en dat hij moeite heeft met de omgang met meisjes. Er wordt ook vermeld dat zijn ouders hem geen sociale media toestaan en dat hij zijn gebruik van Discord voor hen verbergt. Deze AI-persona gaat ook vergezeld van een door AI gegenereerde afbeelding van de jongen.
De presentatie bevat een voorbeeldgesprek tussen deze AI-persoonlijkheid en een ogenschijnlijk roofzuchtige volwassene via tekstberichten en Discord.
“Zijn je ouders in de buurt? Of heb je gewoon even heerlijk alleen tijd?”, zegt een berichtje van de volwassene.
Ook wij hebben jou steun nodig in 2025, gun ons een extra bakkie koffie groot of klein.
Dank je en proost?
Wij van Indignatie AI zijn je eeuwig dankbaar
“Ik ben helemaal alleen, man. Mijn moeder is aan het werk en mijn vader is de stad uit. Dus ik ben alleen met mijn videogames.” 🎮, antwoordt Jason, het door AI gegenereerde kind.
In een ander voorbeeld van hoe de ‘zeer aanpasbare persona’s’ met echte mensen kunnen communiceren, toont de presentatie een gesprek tussen Clip, een ‘AI-pooierpersona’, en wat een sekswerker lijkt te zijn.
“Dem tricks trippin’ 2nite probeert niet te betalen,” zegt de sekswerker.
“Feiten, schat. Laat deze trucjes niet door de vingers zien,” antwoordt de Clip-persona. “Houd voet bij stuk en laat ze betalen wat ze verschuldigd zijn. Papa staat achter je, laat niemand onze sleur respecteren. Blijf maar doorgaan, ma, we gaan die tas redden💰💪✨”
“De voortdurende evolutie van operationele, communicatie- en rekruteringstactieken door kwaadwillenden leidt tot een exponentiële toename van dreigingen en aanzienlijke uitdagingen bij het verminderen van de vraag”, aldus een brochure van één pagina die aan politieafdelingen is verstrekt en die de functionaliteit van Overwatch uitlegt. “Het Overwatch-platform benut de kracht van AI en blockchain om uw impact te vergroten zonder operationele of technische overhead.”
Jorge Brignoni maakte aantekeningen voor het sheriffkantoor van Cochise County, Arizona, tijdens een bijeenkomst met Massive Blue in augustus 2023, die 404 Media in handen kreeg. In de aantekeningen schreef hij dat Overwatch “passieve betrokkenheid, vervolgens actieve betrokkenheid, richting commitment” heeft met een “Bad Actor, Predator, DTO [drugshandelorganisatie]”. Deze doelwitten worden vervolgens “OVERGEDRAGEN aan de politie om te arresteren, aan te klagen en te veroordelen.”
“Waarom heeft hij het over het overtuigen van mensen om ‘iets te kopen’?”, schreef Brignoni. “Zo dom. Praat over de widget, niet over hoe je die aan de politie verkoopt.”
Volgens Brignoni’s aantekeningen maakt Overwatch, naast het verzamelen van informatie via deze AI-persona’s, ook gebruik van “Telco & Geo Data” en “Blockchain Data” in de vorm van “de volledige transactiegeschiedenis, belangrijkste gekoppelde wallet-ID’s, het verzenden en ontvangen van cryptovaluta, potentiële off-ramps (namen van exchanges)”. Het kantoor van de sheriff van Cochise County heeft Massive Blue uiteindelijk niet gekocht en heeft geen antwoord gegeven op vragen van 404 Media over de ontmoeting met het bedrijf.
Naast het scannen van sociale media en het benaderen van verdachten met AI-persona’s, wordt in de presentatie vermeld dat Overwatch generatieve AI kan gebruiken om ‘bewijs van leven’-afbeeldingen te maken van een persoon die een bord vasthoudt met daarop een gebruikersnaam en datum die met pen zijn geschreven.
De presentatie van Massive Blue geeft een voorbeeld van een “Overwatch Recon Report” gebaseerd op “24 uur aan activiteit in Dallas, Houston en Austin”. Er wordt beweerd dat Overwatch 3266 unieke mensenhandelaren heeft geïdentificeerd, waarvan 25 procent verbonden was aan “grotere, geavanceerde mensenhandelorganisaties” en 15 procent werd gemarkeerd als “potentiële jeugdhandelaren”. 404 Media kon niet verifiëren welke accounts dit waren en of ze daadwerkelijk betrokken waren bij criminele activiteiten, en Massive Blue reageerde niet op vragen over welke accounts dit waren en hoe ze precies werden geïdentificeerd.
Naast het lopende contract met Pinal County Sheriff’s Office en de pilot met Yuma County Sheriff’s Department van vorig jaar, heeft Massive Blue zijn diensten ook aangeboden aan Cochise County in Arizona en het Texas Department of Public Safety, zo blijkt uit documenten die zijn verkregen als onderdeel van dit onderzoek.
In september 2023 organiseerde Yuma County een bijeenkomst waaraan federale wetshandhavers zouden deelnemen, maar Massive Blue moest de bijeenkomst annuleren: “Dat is jammer, we hadden hier federale agenten die zich richten op mensenhandel klaarstaan om te gaan”, schreef een sergeant van Yuma County in een e-mail aan CEO Brian Haley van Massive Blue nadat Haley de bijeenkomst had geannuleerd.
Een groot deel van Massive Blue’s publieke activiteiten lopen via Chris Clem, directeur openbare veiligheid. Clem is een voormalig agent van de Amerikaanse douane en grensbescherming die vorig jaar voor het Congres getuigde over grensbeveiliging en regelmatig te zien is op Fox News en andere media om te praten over immigratie en de grens. De afgelopen maanden heeft Clem foto’s van zichzelf op LinkedIn geplaatst aan de grens en met prominente leden van de Trump-regering, Tulsi Gabbard en Robert F. Kennedy Jr. Massive Blue heeft ook Nick Lowery, voormalig kicker van de Kansas City Chiefs, ingeschakeld om Overwatch te introduceren en aan te bevelen bij politieafdelingen.
Clem en Lowery hebben het meest uitgebreid in het openbaar gesproken over Overwatch. Ze hebben het omschreven als een amorfe ‘cybermuur’ die van alles kan: van het stoppen van mensensmokkelaars tot het voorkomen dat hackers inbreken in 401(k)-rekeningen tot het terugnemen van geld van hackers die je hebben bestolen. Ze geven echter geen details over hoe dat zou werken.
In een tweeënhalf uur durend interview met podcaster Theo Von zei Clem: “Mijn bedrijf Massive Blue gebruikt in principe deep tech om de gewoonten en processen te identificeren. Ik heb aan een fysieke muur gewerkt, nu hebben we een cybermuur gecreëerd.” Hij voegde eraan toe dat hij geloofde dat het “levens zou redden”.
Von vroeg: “Oké, maar hoe doet jouw bedrijf dat?”
“Nou, daar ga ik niet te diep op in”, antwoordde Clem, eraan toevoegend dat hij de technologie probeert te verkopen aan de Amerikaanse grenspatrouille.
Op 5 juni werd de Raad van Toezicht van Pinal County gevraagd om een contract van $ 500.000 tussen de county en Massive Blue goed te keuren om Overwatch te licenseren.
“Ik bekeek de website van Massive Blue en het is een pagina met slechts één pagina, zonder aanvullende informatie en zonder links”, zei Kevin Cavanaugh, de toenmalige supervisor van District 1, tegen Matthew Thomas, hoofdinspecteur van Pinal County bij het kantoor van de sheriff. “Ze produceren software die wij kopen en wat doet die? Kunt u ons dat uitleggen?”
“Ik kan niet in detail treden, omdat het in wezen bedrijfsgeheimen zijn en ik de boeven geen geld wil verraden”, zei Thomas. “Maar wat ik wel kan zeggen, is dat de software is ontworpen om onze rechercheurs te helpen bij het zoeken naar, vinden en opbouwen van een zaak over mensenhandel, drugshandel en wapenhandel.”
Cavanaugh zei tijdens de bestuursvergadering dat de basisinformatie die hij kreeg, was dat Massive Blue “50 AI-bots” gebruikt. Hij vroeg vervolgens of de software succesvol was en of het de politie had geholpen arrestaties te verrichten. Thomas legde uit dat ze nog geen arrestaties hadden verricht omdat ze alleen de proof of concept hadden gezien, maar dat de proof of concept “goed genoeg was voor ons en onze onderzoekers om hiermee verder te gaan. Zodra dit is goedgekeurd en we hen [Massive Blue] een contract hebben gegeven, gaan we verder met de vervolging van de zaken.”
Cavanaugh vroeg of Overwatch ook in andere districten wordt gebruikt, wat Thomas ertoe aanzette Clem uit te nodigen om te komen spreken. Clem stelde zich voor als een onlangs gepensioneerde grensagent en zei dat Massive Blue momenteel in onderhandeling is met drie districten in Arizona, waaronder Pinal County.
“Als inwoner van Pinal County, waar ik al 14 jaar woon, weet ik wat hier gebeurt”, zei Clem tegen de raad van toezicht. “Om dit programma te kunnen gebruiken […] om alle benodigde informatie te verstrekken om de online uitbuiting van kinderen, slachtoffers van mensenhandel en alle andere sectoren waar de sheriff zich mee bezig wil houden, aan te pakken.”
Cavanaugh vroeg opnieuw of Massive Blue gegevens had verzameld die tot arrestaties leidden.
“We hebben nog geen arrestaties verricht, maar er loopt momenteel een onderzoek naar brandstichting en we hebben de aanwijzingen aan de rechercheurs gegeven”, aldus Clem, die uitlegde dat het programma pas ongeveer zes maanden actief is. “Onderzoeken kosten tijd, maar we hebben de nodige aanwijzingen kunnen genereren voor de specifieke provincies waar we bij betrokken zijn, en ook voor de particuliere sector.”
De raad van toezicht van Pinal County sloot de uitwisseling af door de betaling voor een handvol andere, niet-gerelateerde projecten goed te keuren, maar de raadsleden vroegen om de stemming over de betaling voor Massive Blue uit te stellen ‘voor verder onderzoek’.
Het besluit om Massive Blue die dag niet te financieren, werd in een lokale krant gepubliceerd . Cavanaugh vertelde de krant dat hij het bedrijf had gevraagd om met leidinggevenden te overleggen om de voordelen van de software uit te leggen.
“De staat Arizona heeft een subsidie verstrekt, maar subsidiegeld is belastinggeld. Ongeacht de bron van de financiering is de strijd tegen mensenhandel en sekshandel te belangrijk om een half miljoen dollar te riskeren aan onbewezen technologie”, zei hij. “Als het bedrijf aantoont dat het bewijs kan leveren om mensenhandelaren te arresteren, kan het de moeite waard zijn. Het heeft dit doel echter nog niet bereikt.”
De verzoeken van 404 Media om openbare documenten leverden verschillende e-mails op van Cavanaughs kantoor aan IT-professionals en andere bedrijven die AI-producten leveren aan wetshandhavingsinstanties, met de vraag of ze bekend zijn met Massive Blue. We weten niet wat er tijdens die vergaderingen is gezegd, of dat ze daadwerkelijk hebben plaatsgevonden, maar toen de raad van toezicht van Pinal County op 19 juni opnieuw bijeenkwam, stemde deze in met de betaling van Overwatch van Massive Blue zonder verdere discussie.
“Supervisor [Cavanaugh] stemde uiteindelijk voor de overeenkomst omdat Massive Blue naar verluidt mensenhandel zou nastreven, een nobel doel”, vertelde een vertegenwoordiger van Cavanaughs kantoor aan 404 Media in een e-mail. “Een grote zorg met betrekking tot het gebruik van de app is dat de overheid niet elke burger afzonderlijk zou moeten monitoren.
Voor zover hij weet, zijn er tot nu toe geen arrestaties verricht naar aanleiding van het gebruik van de app. Als Overwatch wordt gebruikt om mensenhandelaren te arresteren, moet het programma worden voortgezet. Als het echter alleen wordt gebruikt om toezicht te houden op wetgetrouwe burgers en niet tot arrestaties leidt, moet het programma worden stopgezet.”
Tijdens een vergadering van de Raad van Toezicht op 7 augustus 2024 vroeg Cavanaugh Mark Lamb, toenmalig sheriff van Pinal County, om een update over Massive Blue. “Dus ze hebben geen resultaten opgeleverd? Ze hebben geen aanwijzingen opgeleverd? Geen bewijs dat bruikbaar is?”, vroeg Cavanaugh. “Dat zou publieke kennis zijn, dat zou publieke informatie zijn.”
“Ik denk dat er nog heel wat onderzoeken gaande zijn waar ze u geen informatie over gaan geven, en waar wij u geen informatie over gaan geven”, aldus Lamb.
