Kunstmatige intelligentie – De wetshandhavers kunnen een behoorlijk duistere groep zijn. Betaald worden om achterdochtig te denken laat sporen na en stimuleert de instinctieve drang om misdaden en overtredingen te identificeren. Historisch gezien zag dit de opkomst van kwakzalverij en valse pogingen om criminele neigingen te identificeren. Craniometrie en schedelgrootte waren een tijdlang een aantrekkelijke bezigheid voor de ambitieuze misdaadjager en krankzinnige rechercheur. De misdaad paste bij de schedel.
Kunstmatige intelligentie – Met de opkomst van gezichtsherkenningstechnologieën zien we dezelfde oude gewoontes weer opduiken, waarbij de menselijke makers worstelen met het vinden van de beste manier om compromitterende vooroordelen te elimineren. Een artikel gepubliceerd door IBM-onderzoekers in april 2019, getiteld “Diversity in Faces”, laat zien dat dit uiteindelijk neerkomt op een terugkeer naar oude gronden van kwakzalverij, waaronder het gebruik van “craniofaciale afstanden, oppervlakten en verhoudingen, gezichtssymmetrie en contrast, huidskleur, leeftijds- en geslachtsvoorspellingen, subjectieve annotaties, en houding en resolutie.”
De opkomst van kunstmatige intelligentie (AI)-tools voor het identificeren van een vorm van voorspellende criminaliteit houdt soortgelijke zonden in stand. De politie heeft consequent laten zien niet in staat te zijn weerstand te bieden aan de aantrekkingskracht die dataprogramma’s en algoritmische ordening zogenaamd bieden, hoe geavanceerd ook. Deze kunnen zulke primitieve vormen aannemen als die van sheriff Chris Nocco van Pasco County, een aanhanger van die oxymoronische zoektocht naar “inlichtingengestuurde politiezorg”, vol met kwakzalverij. Een artikel in de Tampa Bay Times uit 2020 over de avonturen van het sheriffkantoor van die county in Florida maakte duidelijk dat Nocco erop gebrand was “een geavanceerd inlichtingenprogramma te creëren dat criminaliteit kon voorkomen voordat die plaatsvond”.
Het tegenwicht hiertegen was indrukwekkend in zijn wreedheid. Dergelijke vormen van rechtshandhaving waren, volgens criminoloog David Kennedy van het John Jay College of Criminal Justice, “een van de ergste manifestaties van de kruising van waardeloze wetenschap en slecht politiewerk”, naast het volslagen gebrek aan “gezond verstand en menselijkheid”.
De trend naar datagedreven systemen die zogenaamd inzicht bieden in inherente, potentiële criminaliteit, heeft politiediensten in talloze landen in zijn greep. Een aanbevelingsdocument van het European Crime Prevention Network wijst op het gebruik van “AI-tools in de hoop de rechtshandhaving effectiever en kostenefficiënter te maken” in de hele Europese Unie. Predictive policing wordt als bijzonder aantrekkelijk aangemerkt, met name als reactie op kleinere budgetten en minder personeel.
In het Verenigd Koninkrijk heeft het ministerie van Justitie AI enthousiast omarmd via het Homicide Prediction Project, een pilotprogramma dat data uit politie- en overheidsdatasets verzamelt om profielen te genereren en het risico op moord in te schatten. Het programma, dat in 2023 in opdracht van het kabinet van de premier werd uitgevoerd en waaraan het Ministerie van Justitie, het Ministerie van Binnenlandse Zaken, de politie van Greater Manchester (GMP) en de Metropolitan Police in Londen deelnamen, kwam pas aan het licht dankzij een verzoek op grond van de Wet openbaarheid van bestuur van de liefdadigheidsinstelling Statewatch.
Ook wij hebben jou steun nodig in 2025, gun ons een extra bakkie koffie groot of klein.
Dank je en proost?
Wij van Indignatie AI zijn je eeuwig dankbaar
Volgens de Data and Analysis-eenheid van het Ministerie van Justitie onderzoekt het programma datawetenschap “de kracht van datasets van het Ministerie van Justitie met betrekking tot de beoordeling van het risico op moord”, de “extra kracht van de Police National Computer-dataset” bij het uitvoeren daarvan, en “de extra kracht van lokale politiegegevens”. Het programma beoogt ook de kenmerken van daders die een dergelijk risico verhogen te onderzoeken, door “alternatieve en innovatieve datawetenschappelijke technieken voor risicobeoordeling en moord” te onderzoeken.
Wat opvalt in het programma is het type gegevens dat de instanties delen. Denk hierbij aan strafrechtelijke veroordelingen, de leeftijd waarop iemand voor het eerst slachtoffer werd (inclusief huiselijk geweld) en de leeftijd waarop iemand voor het eerst met de politie in aanraking kwam. Maar ook zaken als “gezondheidsindicatoren waarvan verwacht wordt dat ze voorspellende waarde hebben”, zoals geestelijke gezondheid, verslaving, zelfmoord, zelfbeschadiging en beperkingen, komen aan bod.
Het gebruik van voorspellende modellen is verre van nieuw voor de experts bij het Ministerie van Justitie. Eerder is al gebleken dat de modellen die in het Offender Assessment System (OASys) worden gebruikt , mensen verschillend profileren op basis van hun etniciteit. De National Offender Management Service merkte in een compendium uit 2015 , met onderzoek en analyses van het systeem tussen 2009 en 2013, op: “De relatieve voorspellende validiteit was groter voor vrouwelijke dan voor mannelijke delinquenten, voor blanke delinquenten dan voor delinquenten van Aziatische, zwarte en gemengde etniciteit, en voor oudere dan voor jongere delinquenten.”
Statewatch-onderzoeker Sofia Lyall heeft weinig te zeggen over het programma, dat blijkbaar omgedoopt is tot het Sharing Data to Improve Risk Assessment-programma, dat blijkbaar aantrekkelijker is geworden. “Onderzoek toont keer op keer aan dat algoritmische systemen voor het ‘voorspellen’ van criminaliteit inherent gebrekkig zijn.” Het Homicide Prediction Project was “huiveringwekkend en dystopisch”, omdat het individuen “als criminelen profileerde voordat ze ook maar iets hadden gedaan”. Ze is er ook van overtuigd dat het systeem, net als andere, “een vooringenomenheid jegens geracialiseerde en arme gemeenschappen zal ontwikkelen” en tegelijkertijd een ernstige bedreiging voor de privacy vormt.
De eenheid beweert dat het werk slechts bedoeld is voor droge onderzoeksdoeleinden, zonder dat er “directe operationele of beleidswijzigingen” uit voortvloeien, of enige individuele toepassing op “de reis van een persoon door het rechtssysteem”. Dit is een onzinnige bewering, gezien de enorme verleiding voor ambtenaren om een programma te implementeren dat gebruikmaakt van omvangrijke datasets om de taak van rigoureus politiewerk te verlichten. De vertegenwoordigers van de rechtshandhaving hunkeren naar resultaten, zelfs die welke slecht zijn bereikt, en algoritmische doelmatigheid en actuariële fantasie staan hen daarbij terzijde. De “precrime”-dystopie die Philip K. Dick in zijn boek The Minority Report (1956) schetst, is goed op weg om werkelijkheid te worden.
