Frankrijk Maakt De Weg Vrij Voor Massale Surveillance In Europa INDIGNATIE AI & Politiek

Kunstmatige intelligentie – Realtime gezichtsherkenning, interpretatie van emoties, categorisering van religieuze, seksuele en politieke gedachten… Deze praktijken zouden in Europa gemeengoed kunnen worden, zoals blijkt uit het onderzoek van Investigate Europe en Disclose, gebaseerd op vertrouwelijke rapporten van onderhandelingen over “de AI ​​Act”, de Europese verordening inzake kunstmatigeintelligentie

Kunstmatige intelligentie Stel je voor dat je deelneemt aan een klimaatprotest, een badge draagt ​​of een bord omhoog houdt. Een ‘slimme’ camera detecteert deze signalen, neemt uw gezicht op en stuurt de beelden door naar de politie om ze te vergelijken met het bestand van mensen die gezocht worden wegens milieumisdrijven. U bent er niet bij, maar de gegevens blijven opgeslagen.

Stel je een schipbreukeling voor die zojuist op het eiland Lampedusa is geland. Gearresteerd wordt hij ondervraagd met behulp van een camera die emoties kan detecteren. Het systeem registreert tekenen van nervositeit, angst en besluiteloosheid: het concludeert dat de ballingschap liegt over zijn leeftijd of zijn afkomst. Zijn asielaanvraag wordt afgewezen.

Deze scènes die uit een sciencefictionfilm lijken te komen, kunnen de komende weken werkelijkheid worden. Op 2 februari zullen de meest controversiële artikelen – de zogenaamde ‘onaanvaardbare risico’s’ – van de Europese regelgeving inzake kunstmatige intelligentie (AI) in werking treden, met in hun kielzog talloze deuren open voor ‘intelligent’ toezicht op het publiek. ruimte. Deze tekst wordt echter verondersteld het gebruik van kunstmatige intelligentie te reguleren tegen bedreigingen van de fundamentele rechten en openbare vrijheden in Europa.

Maar na twee jaar van geheime onderhandelingen tussen Europese staten overleefde dit raamwerk de aanvallen van Frankrijk niet, dat grote vrijstellingen kreeg door het thema ‘nationale veiligheid’ op te leggen. Dat blijkt uit de analyse van zo’n honderd vertrouwelijke Europese documenten over de Kunstmatige intelligentie AI-wet, verkregen door IE en Disclose. Onderhandelingsrapporten die onthullen hoe Parijs erin slaagde een bres te openen om massale surveillance in de openbare ruimte mogelijk te maken.

Demonstraties kunnen nu worden onderworpen aan ‘Kunstmatige intelligentie’ toezicht als de nationale veiligheid in het geding is.Shutterstock

De ‘rode lijn’ van de nationale veiligheid

De Franse lobby begint eind 2022. Destijds waren de debatten over dit project die de Europese Commissie sinds april 2021 voerde gespannen. Centraal in de discussies tussen de 27 EU-landen: de classificatie van risico’s verbonden aan het gebruik van Kunstmatige intelligentie. Al snel verzette Parijs zich tegen de toekomstige Europese wetgeving die bepaalde bijzonder indringende technologieën zou verbieden. In dit geval die welke zogenaamde  “onaanvaardbare” risico’s  voor de publieke vrijheden met zich meebrengen.

Op 18 november 2022 waarschuwde de Franse vertegenwoordiger tijdens een achter gesloten deuren georganiseerde bijeenkomst met zijn Europese tegenhangers, volgens de documenten die we verkregen: “  De uitsluiting van veiligheids- en defensiekwesties  [uit het kader van de verordening] … moet worden gehandhaafd koste wat het kost  ”. Met dit verzoek wil Frankrijk de mogelijkheid behouden om gezichtsherkenning in realtime in de openbare ruimte te gebruiken, in geval van een risico voor de veiligheid van het land. Dit geldt ook voor het handhaven van de orde. Dit wordt bevestigd door een bron in de frontlinie van de onderhandelingen: “  

Frankrijk is van mening dat de openbare orde deel uitmaakt van de nationale veiligheid en daarom eiste het dat alle aspecten van het handhaven van de orde van de verordening zouden worden uitgesloten. Het is het enige land dat om deze totale uitsluiting heeft verzocht  .” Demonstranten die beschuldigd worden van het verstoren van de openbare orde zouden zo het wettelijke doelwit van gezichtsherkenning kunnen worden. Bij meerdere malen contact hebben de Franse regering en haar vertegenwoordigers in Brussel niet gereageerd op vragen van Disclose and Investigate Europe. 

Een selectie van vertrouwelijke Kunstmatige intelligentie documenten van de EU-Raad verkregen door Investigate Europe.Spoovio/Georgië Choleva

Aanvankelijk geïsoleerd, spaarde Parijs kosten noch moeite om zijn Europese tegenhangers van de verdiensten van zijn verzoek te overtuigen. In september 2022 spreekt de Franse vice-ambassadeur met een van de rapporteurs van de tekst in het Europees Parlement. Doel: hem overtuigen van de noodzaak om gezichtsherkenning toe te staan ​​om de orde te handhaven.  “De Franse diplomaat was zenuwachtig, er heerste spanning in de zaal”, zegt onze bron.

De toon steeg… De Franse vertegenwoordiger bleef standvastig bij zijn standpunt, onder het voorwendsel dat Frankrijk een paar maanden later de Olympische Spelen zou organiseren.’  In Frankrijk was vóór de Olympische Spelen het gebruik van algoritmische videobewaking door de politie slechts in zeer zeldzame gevallen toegestaan. Het sportevenement gaf de regering de kans een wet aan te nemen die haar experiment tot maart 2025 bekrachtigde. Zonder er echter in te slagen parlementariërs ervan te overtuigen gezichtsherkenning op te nemen.

De Constitutionele Raad keurde het gebruik van Kunstmatige intelligentie videobewaking tijdens de Olympische Spelen in Parijs goed.Shutterstock

Matignon aan het werk

Het Parijse activisme ten gunste van ultra-intrusieve technologieën wordt ondersteund door een brief die eind november 2023 is verzonden naar het secretariaat van de Raad van de EU. Dit document dat Disclose and Investigate Europe heeft verkregen, is ondertekend door het Secretariaat-Generaal voor Europese Zaken (SGAE), een dienst die onder het gezag van Matignon staat en verantwoordelijk is voor de interministeriële coördinatie van het Europese beleid. De dienst herinnert eerst aan  de “ rode lijn”  van Frankrijk  “over de uitsluiting van de nationale veiligheid”.  Hij dringt er vervolgens op aan om AI in de openbare ruimte te kunnen gebruiken “  in het geval van een gerechtvaardigde noodsituatie  ”.

De inspanningen van Frankrijk zijn beloond. Zoals vermeld in artikel 2.3 van de Kunstmatige intelligentie-wet. Dit bepaalt feitelijk dat “  deze verordening  (…)  geen invloed heeft op de bevoegdheden van de lidstaten op het gebied van de nationale veiligheid.  » Volgens Aljosa Ajanovic, lid van EDRI, een organisatie die de rechten van Europese burgers verdedigt, maakt dit principe “  de introductie mogelijk van massale biometrische surveillancesystemen die het risico lopen onze vrijheid van verkeer, van vergadering, van meningsuiting en ons privéleven ernstig aan te tasten ”.

Wat betreft artikel 46, paragraaf 2 van de Europese verordening, specificeert het dat “  in een noodsituatie die naar behoren gerechtvaardigd is om uitzonderlijke redenen van openbare veiligheid  (…)  de wetshandhavingsautoriteiten  ” zonder toestemming gebruik kunnen maken van “  een specifieke AI-dienst met een hoog risico  ”. .

Religieuze en politieke overtuiging

Als een staat van mening is dat zijn veiligheid op het spel staat, kan hij zo ver gaan dat hij een persoon fouilleert op basis van ‘  ras, politieke opvattingen, aansluiting bij een vakbondsorganisatie, religieuze of filosofische overtuigingen, seksleven of seksuele geaardheid  ’. , dankzij algoritmische wetenschap. Een regelrechte aanval op de publieke vrijheden en burgerrechten die ook door de Franse autoriteiten lijkt te worden verdedigd, zoals blijkt uit een passage uit de brief van het Secretariaat-Generaal voor Europese Zaken.

Dit onderstreept dat Frankrijk het  “erg belangrijk vindt om de mogelijkheid te behouden om naar een persoon te zoeken op basis van objectieve criteria die een religieuze overtuiging of een politieke mening uitdrukken”.  Toezicht dat mogelijk zou worden gemaakt dankzij de detectie van  “het dragen van een badge of een accessoire ,  wanneer deze persoon betrokken is bij gewelddadig extremisme of een terroristisch risico vormt” . Een badge van een milieubeweging die als  ‘extremistisch en gewelddadig’ wordt geclassificeerd  , zou daarom het inschakelen van door AI aangedreven camera’s kunnen motiveren.

“  Het is huiveringwekkend om te zien dat de EU haar politie deze systemen laat gebruiken om seksuele geaardheid op te sporen ”, zegt Félix Tréguer, auteur van  Technopolice, politietoezicht in het tijdperk van Kunstmatige intelligentie en woordvoerder van Quadrature du Net, een Franse vereniging voor defensie van digitale vrijheden.  “Dit is ook kunstmatige intelligentie”,  vervolgt hij, “  de terugkeer van naturaliserende theorieën, pseudowetenschappen en willekeurige categorieën, nu opgenomen in krachtige geautomatiseerde systemen om staatsgeweld te implementeren . ”

NGO’s beweren dat het gebruik van deze technologieën, gestimuleerd door kunstmatige intelligentie, het “einde van de anonimiteit in de openbare ruimte” betekentShutterstock

Tijdens discussies over de AI-wet benadrukte Frankrijk nog twee andere ‘rode lijnen’. Parijs heeft in feite gevraagd om gevangenissen en grenscontrolezones  “uit te sluiten van de definitie van openbare ruimte” , zoals blijkt uit de notulen van een bijeenkomst in november 2023. Ook hier won zij, samen met andere landen als Griekenland, haar zaak.

Over een paar weken zullen de lidstaten daarom systemen voor emotionele herkenning bij hen thuis kunnen inzetten. Software die, eenmaal aangesloten op een camera, gebruikt kan worden tijdens ondervragingen van verbannen mensen. Het doel is bijvoorbeeld om met meer of minder betrouwbaarheid de mate van nervositeit of angst te beoordelen om te weten of ze liegen over hun land van herkomst, hun leeftijd of de reden van hun vertrek.  

“Het verraderlijke aan het gebruik van AI door de politie en de migratiecontrole is dat mensen meestal niet zullen weten dat ze door deze systemen in de gaten worden gehouden ”, klaagt Sarah Chander, medeoprichter van Equinox, een NGO die strijdt tegen rassendiscriminatie in Europa.

“ Meestal weten mensen niet dat ze in de gaten zijn gehouden. ”

— Sarah Chander, medeoprichter van de NGO Equinox

Achter het Franse activisme vinden we eindelijk de wens om de Europese fabrikanten van kunstmatige intelligentie de vrije loop te laten. Dit is tenminste wat de vertegenwoordiger van Parijs impliceert in een bijeenkomst georganiseerd op 15 november 2023. Hij  “ waarschuwt dringend voor de negatieve impact  [die de regelgeving zou kunnen hebben]  op het innovatievermogen van de ‘EU ’ .

Hij benadrukt het risico dat  “bedrijven hun activiteiten zullen verplaatsen naar regio’s waar fundamentele rechten geen rol spelen” . Een argument dat Emmanuel Macron een maand later oppakte. Volgens het staatshoofd zullen we, door  ‘veel sneller en veel sterker dan onze belangrijkste concurrenten te reguleren, dingen reguleren die we niet langer zullen produceren of uitvinden’ . In Brussel interpreteren velen deze standpunten als nauwelijks verhulde steun voor een vlaggenschip van de ‘start-up-natie’: Mistral AI.

Het Franse bedrijf heeft onder zijn aandeelhouders Cédric O, een goede vriend van de president van de republiek en voormalig staatssecretaris van Digitale Zaken. Hij is ook verantwoordelijk voor de public relations van het bedrijf, waarvan een van de oprichters nog maar een jaar geleden toevertrouwde:  “In zijn definitieve vorm is de AI Act voor ons volledig beheersbaar . ”