Le plus effrayant que j’aie jamais vécu : ils savent ce que vous allez faire avant même de l’avoir fait

La prévention des crimes par l’IA redéfinit la liberté humaine. J’en ai été témoin. Et c’est la chose la plus terrifiante que j’aie jamais vue.

C’est le rêve d’une caste qui a toujours tout voulu savoir sur ses sujets & anticiper leur dissidence. Pour nous, les suivis & triés, une seule question urgente demeure. Quand allons-nous tenter d’y mettre un terme ?

Le séminaire

Lors d’un séminaire sur l’IA à mon université, j’ai soumis trois photos de moi : une de face, une de profil et une où je souriais. En l’espace d’une minute environ, le système a généré une vidéo de moi. Ce que j’ai vu n’était pas une simple approximation. Les micro-comportements de mon visage, la légère asymétrie de mon sourire, la façon dont mes yeux se plissent aux coins, tous ces détails étaient reproduits avec une précision qui m’a donné froid dans le dos.

Je lui avais fourni trois images fixes, et il m’a renvoyé mon propre reflet.

Je suis psychologue. Je sais ce que veut dire la prédiction comportementale. Je comprends ce que les grands ensembles de données font au concept d’unicité individuelle. Mais assis dans cette salle de séminaire, en regardant mon propre visage bouger sur un écran que je n’avais pas créé, quelque chose a basculé dans mon ressenti sur ce que nous sommes et où nous allons. Je n’ai pas ressenti d’excitation. J’ai ressenti cette angoisse bien particulière de celui qui vient de comprendre la nature de la cage en train de se construire autour de lui.

Soyons honnêtes sur ce qui se passe. La question n’est pas de savoir si l’intelligence artificielle peut prédire le comportement humain. Elle en est déjà capable, avec une précision qui devrait terrifier toute personne encore attachée au concept d’un “moi” privé. La question est de savoir qui détient cette capacité, quels intérêts elle sert, et quel genre de monde elle permet d’instaurer.

Nous sommes plus prévisibles que nous ne le pensons

Les êtres humains sont, comme le sait tout spécialiste sérieux des sciences du comportement, bien plus prévisibles que nous aimons à le croire. Nous sommes des créatures routinières, répétitives, aux habitudes prévisibles. Le “moi” que nous percevons comme souverain et spontané est, dans l’ensemble, étonnamment cohérent. Des indices subtils dans notre environnement déterminent régulièrement notre comportement à notre insu, tandis que nous percevons l’action qui en résulte comme un choix libre et souverain. C’est ce que le big data a révélé sur nous bien avant que la génération actuelle de systèmes d’IA puisse l’exploiter.

L’alerte envoyée à un centre de contrôle de police n’indique pas que cette personne a commis un crime. Elle indique que cette personne présente un comportement présentant 70 % de similitude avec le profil comportemental d’une personne susceptible de le faire.

Ce qui a changé, c’est l’ampleur et les détails de cette exploitation.

Des chercheurs ont déjà démontré que les systèmes d’IA peuvent prédire le son de la voix de quelqu’un à partir d’une simple photographie, en déduisant les propriétés acoustiques de la gorge, la forme de la cavité buccale, la structure du visage, et en reconstituant, à partir de ces données physiques, quelque chose qu’aucune image fixe n’était censée contenir. Nous n’avons pas donné notre consentement à cette déduction. Nous ne savions pas que c’était possible. La technologie ne nous a pas demandé notre avis.

L’intrusion fonctionne dans les deux sens. Dès 2022, avant même que la plupart des gens puissent s’en rendre compte, l’IA était capable de reconstituer votre visage à partir du seul son de votre voix. Vous étiez déjà “lisible” de l’intérieur vers l’extérieur

La machine à prévenir le crime

Imaginez maintenant quelles opportunités s’offrent à un système d’IA quand on le nourrit non pas de milliers, mais de millions d’heures d’enregistrements de séances de thérapie, d’enregistrements en prison, de vidéos de surveillance de centres de détention, d’entretiens cliniques avec des personnes ayant commis des faits de vol, de violence ou d’abus sexuels prédateurs.

L’IA ne pense pas. Elle ne juge pas. Elle détecte des schémas dans les micro-expressions faciales, dans la géométrie des mouvements oculaires, dans la synchronisation de certains faisceaux musculaires, dans des caractéristiques comportementales si subtiles qu’aucun observateur humain ne peut les détecter consciemment. Puis elle généralise. Elle élabore un modèle du futur voleur avant même le vol. Du futur agresseur avant même l’agression. Elle attribue des probabilités aux visages.

Reliez cela aux caméras intelligentes déjà installées dans nos rues, nos réseaux de transport, nos centres commerciaux, nos lieux de travail. Des caméras qui ne se contentent pas d’enregistrer, mais qui analysent, en temps réel, les visages et les corps de toute personne entrant dans leur champ de vision. L’alerte transmise à une salle de contrôle de la police n’indique pas que cette personne a commis un crime. Elle indique que cette personne présente un comportement présentant 70 % de similitude avec le profil comportemental de quelqu’un qui va en commettre un. Philip K. Dick avait imaginé cela en 1956 et l’avait qualifié de science-fiction. Nous l’avons mis en place et l’appelons “sécurité publique”.

Un masque qui ne change rien

Mais la reconnaissance faciale n’est désormais que le cadet de nos soucis. La technologie la plus lourde de conséquences est la reconnaissance de l’allure, un système biométrique qui identifie les individus non pas par leur visage, mais par leur façon spécifique de marcher, déterminée par leur anatomie.

La courbure de la colonne vertébrale, la rotation des hanches, le rythme particulier d’une foulée, tout cela est aussi unique qu’une empreinte digitale et bien plus difficile à dissimuler. Les systèmes de reconnaissance de la démarche actuellement déployés peuvent identifier une personne à partir d’images de vidéosurveillance, même lorsque le visage est tourné, masqué par une capuche ou caché derrière un masque. Les manifestants qui se couvraient le visage lors des manifestations pensaient se protéger. Ce n’était pas le cas. Le système les avait déjà identifiés, des chevilles jusqu’à la tête.

La reconnaissance de la démarche révèle au système qui vous êtes, même lorsqu’on pense être à l’abri des regards. Ce qui va suivre dépasse encore les limites. Ajoutez-y le domaine émergent de la reconnaissance des émotions en temps réel : des systèmes d’IA intégrés à cette même infrastructure de vidéosurveillance qui classifient les états émotionnels à partir de l’expression faciale, attribuant des étiquettes telles qu’“agitation”, “hostilité”, “peur” ou “dissimulation” aux visages de gens qui n’ont rien fait d’autre que d’exister dans un espace public.

Et le système ne cesse de se perfectionner.

La précision, c’est ce qu’achètent des milliards de dollars d’investissement, et cet investissement est implacable. Le jour approche — bien plus proche que la plupart des gens ne le réalisent — où le système lira les milliers de marqueurs codés dans votre visage, votre démarche, vos micro-expressions, et affirmera avec 95 % de certitude votre intention de commettre un meurtre. Ou un viol.

Non pas que vous l’ayez fait. Ni même essayé. Mais que vous le ferez. Et lorsque ce seuil de confiance sera atteint, la pression pour agir en conséquence sera écrasante. La société l’acceptera comme motif d’intervention, de détention, d’éloignement préventif, et la “pré-criminalité” cessera d’être une métaphore dystopique pour devenir une politique d’État officielle. Un système qui qualifie votre visage d’hostile n’a pas besoin d’avoir raison aujourd’hui. Il lui suffit de finir par avoir raison. Et c’est le cas.

Il apprend à identifier les caractéristiques faciales de la solitude, d’une faible estime de soi. Imaginez maintenant ce système intégré à une paire de lunettes. Entrez dans une pièce. La superposition indique au prédateur qui est vulnérable.

L’instrument du prédateur

Ce que j’ai décrit lors de ce séminaire ne représente qu’une petite facette de ce qui est désormais techniquement possible. Envisagez une autre application, celle qui devrait inciter toute personne qui a déjà connu la vulnérabilité à s’arrêter et à réfléchir à ses implications.

Nous vivons dans un monde truffé de prédateurs. Des employeurs prédateurs. Des hommes prédateurs. Des institutions financières prédatrices. Des réseaux prédateurs du genre de ceux que Jeffrey Epstein a exploités pendant des décennies en toute impunité, au service des hommes les plus puissants du monde.

Que se passe-t-il lorsqu’un prédateur de cette envergure a accès à un système d’IA basé sur des milliers d’heures d’entretiens thérapeutiques avec des survivants d’abus, avec des victimes de prostitution, avec des individus dont l’histoire psychologique a fait d’eux des cibles ?

Le système comprend à identifier la vulnérabilité vue de l’extérieur. Il apprend à reconnaître la façon spécifique dont une personne conditionnée à l’obéissance se déplace dans un espace public. Il apprend à décrypter les expressions faciales de la solitude, de la faible estime de soi, de quelqu’un qui ne ripostera pas ou qui ne sera pas cru s’il le fait.

Intégrez maintenant ce système à une paire de lunettes. Entrez dans une pièce. La superposition indique au prédateur qui est vulnérable.

Palantir et les infrastructures du contrôle

Palantir n’est pas qu’une hypothèse. C’est une entreprise dont la capitalisation boursière s’élève actuellement à plusieurs centaines de milliards de dollars, qui travaille en étroite collaboration avec l’armée américaine, la CIA, le FBI, le Mossad, le MI6 et l’ICE (Immigration and Customs Enforcement), et qui propose une gamme de produits spécialement conçus pour réaliser ce que je viens de décrire.

Sa plateforme Gotham agrège des données issues des déclarations fiscales, des dossiers du DMV, des antécédents professionnels, des dossiers scolaires, des statuts d’immigration, ainsi que des comptes de réseaux sociaux faisant l’objet d’une assignation à comparaître (y compris les messages privés et l’historique de localisation), et synthétise le tout en dossiers individuels pouvant faire l’objet de recherches par type de tatouage, par quartier, par association ou par habitudes de déplacement. Son application dédiée à l’application de la loi sur l’immigration, baptisée ELITE, affiche sur une carte ce qu’elle désigne comme des “cibles d’expulsion” et attribue à chacune d’elles un score de confiance estimant la probabilité qu’une adresse donnée soit le lieu où la personne concernée dort actuellement. Le mot cible est le leur, pas le mien.

Il ne s’agit pas d’un système conçu pour la sécurité nationale au sens propre du terme. La sécurité nationale n’était qu’un prétexte pour le mettre en place. En réalité, ce système rend la population lisible, classable et exploitable par quiconque détient le contrat. Aujourd’hui, parmi ces titulaires de contrat, on trouve une administration qui a déjà démontré ses intentions de recourir à ces outils contre des étudiants ayant participé à la mauvaise manifestation, des universitaires ayant signé la mauvaise lettre, ou encore des immigrés dont le seul « crime » est de vivre sans papiers dans un pays qui a compté pendant des décennies sur leur main-d’œuvre.

Un retweet pour ouvrir un dossier

Le programme que le Département d’État appelle “Catch and Revoke” déploie des outils d’IA, notamment une plateforme appelée Babel X, pour effectuer une analyse automatisée des sentiments exprimés sur les réseaux sociaux par des ressortissants étrangers titulaires d’un visa, y compris des étudiants de troisième cycle et chercheurs. Le système lit les publications, attribue des scores d’intention, signale les comptes dont les opinions exprimées ont été classées comme dangereuses par l’algorithme, et lance des procédures de révocation de visa, le tout sans véritable examen humain. Un retweet peut désormais donner lieu à l’ouverture d’un dossier. Un commentaire laissé sur une publication il y a trois ans peut déclencher une procédure d’expulsion. La personne visée n’a pas le droit d’examiner l’algorithme qui l’a condamnée. L’algorithme est propriétaire. Sa logique interne relève du secret commercial.

L’accusateur que l’on ne peut combattre

Ce dernier point revêt une importance que le système juridique n’a pas encore pris en compte. Les systèmes d’IA utilisés pour prédire les comportements, évaluer les risques et orienter les mesures coercitives sont des “boîtes noires”, non pas au sens habituel du terme, mais au sens technique et juridique. Les entreprises qui les développent n’ont aucune obligation de divulguer leurs méthodes. Un prévenu dont l’arrestation a été déclenchée par un signalement algorithmique ne peut exiger la communication des données d’entraînement. Son avocat ne peut contre-interroger le modèle. La présomption d’innocence, le droit d’affronter son accusateur, l’architecture fondamentale d’une procédure régulière qui a nécessité des siècles de lutte pour s’imposer, s’effondre dès que l’accusateur est un système logiciel propriétaire appartenant à une entreprise titulaire d’un contrat gouvernemental.

L’Europe a pris des mesures pour interdire cette pratique — c’est du moins ce qu’affirme la législation. L’article 5 de la loi européenne sur l’intelligence artificielle, entrée en vigueur début 2025, interdit en théorie les systèmes d’IA conçus pour prédire la probabilité qu’un individu commette un crime. Les exceptions énumérées dans le texte incluent le terrorisme, le meurtre, le viol et le vol à main armée. En d’autres termes, l’interdiction s’applique aux infractions mineures. Pour tout ce que l’État classe comme grave, la prédiction est autorisée.

Et nous savons déjà à quel point le terme terrorisme est devenu élastique. Au Royaume-Uni, des femmes âgées participant à des manifestations de solidarité avec la cause palestinienne ont été qualifiées de sympathisantes terroristes, mises sous surveillance et orientées vers des programmes de lutte contre l’extrémisme. La définition s’élargit pour englober quiconque déplait à l’État. Une fois que l’on prend conscience de cette réalité, les exceptions de la loi sur l’IA cessent de ressembler à des garanties juridiques et prennent plutôt l’apparence d’un chèque en blanc libellé à l’ordre de quiconque détient le pouvoir à ce moment-là.

La boucle de rétroaction

Aux États-Unis, on ne fait même pas semblant d’interdire ces pratiques. Et le problème s’aggrave, à l’instar de toutes les injustices structurelles lorsque les institutions censées les limiter ont été neutralisées. Les systèmes de police prédictive orientent davantage d’agents vers certains quartiers. La présence accrue d’agents dans ces quartiers entraîne davantage d’arrestations. Un plus grand nombre d’arrestations dans ces quartiers confirme la prédiction initiale de l’algorithme. Les données ne qualifient pas un quartier de dangereux. Elles en fabriquent un. Les habitants voient leurs enfants passer de la catégorie des citoyens à celle des “pré-criminels” avant même d’avoir commis le moindre délit.

Les centres de données ne sont pas conçus pour améliorer la rapidité de vos résultats de recherche. Ils sont conçus pour stocker et traiter les profils comportementaux de chaque personne sur Terre.

Centre de données Azure AI.

La caste Epstein à l’origine du projet

Nous devons parler très clairement de ceux qui sont à l’origine de ce projet et des raisons qui les motivent. Elon Musk. Peter Thiel, dont le nom est synonyme de Palantir. Donald Trump, dont l’administration a déployé ces outils avec une rapidité et une agressivité telles qu’on peut penser qu’elle attendait précisément cette configuration politique. Benjamin Netanyahu, dont le gouvernement s’est servi de systèmes de reconnaissance faciale pour surveiller les civils palestiniens en Cisjordanie, générant ainsi des bases de données depuis élargies et intégrées aux réseaux de renseignement internationaux.

OpenAI, dont le PDG, Sam Altman, a passé des années à se présenter, lui et son organisation, sous l’angle de gardiens responsables et soucieux de la sécurité d’une technologie transformatrice — une association à but non lucratif créée pour le bien de l’humanité — avant de se restructurer en une entité à but lucratif poursuivant désormais une stratégie qui en fait l’une des institutions privées les plus puissantes de l’histoire de l’humanité. Ce même Sam Altman dont la sœur, Annie Altman, l’a publiquement et à plusieurs reprises accusé de viols systématiques dès l’âge de trois ans. Ces accusations n’ont pas fait l’objet de poursuites judiciaires. Elles n’ont pas non plus été prises au sérieux par l’industrie, les médias ou les gouvernements aujourd’hui partenaires de son entreprise pour façonner l’infrastructure de l’IA de demain.

L’homme qui développe les outils de prédiction et de classification comportementale à l’échelle planétaire est un homme que sa propre sœur dit craindre depuis sa petite enfance. On nous dit de faire confiance aux créateurs. On ne nous dit pas d’examiner de trop près leurs antécédents.

C’est la “promotion Epstein”. Ce n’est pas une métaphore. Jeffrey Epstein était un prédateur et un pédophile qui a dirigé, pendant des décennies, ce qui était en réalité une opération de renseignement privée fondée sur les abus sexuels systématiques d’enfants par les super-riches.

L’infrastructure reposait sur le chantage. La monnaie d’échange, c’était l’accès — à des corps mineurs, et aux secrets documentés des hommes les plus puissants de la science, de la finance, de la politique et de la technologie issus de son univers. Plusieurs des hommes qui élaborent aujourd’hui l’architecture de surveillance du XXIe siècle ont assisté à ses dîners, ont voyagé à bord de ses jets privés, se sont rendus sur son île et ont abusé de ses victimes. Certains en périphérie. D’autres bien plus implantés au cœur du système.

Ce qu’Epstein avait compris, et ses invités aussi à leur manière, c’est que savoir tout de quelqu’un — ses désirs, sa honte, ses secrets, ses vulnérabilités — c’est détenir un pouvoir absolu sur cette personne. Il a conçu ce système de ses propres mains, à l’aide de caméras, du silence et des corps d’enfants. Les hommes invités à sa table l’ont depuis reproduit à l’échelle planétaire, cette fois à l’aide de centres de données, de législations et de la coopération des gouvernements. La logique prédatrice est identique. Seul le mécanisme a changé.

Il ne s’agit pas d’acteurs isolés poursuivant des intérêts distincts. Ils forment une caste. Ils ont formé les alliances, les investissements communs, les mandats croisés au sein de conseils d’administration et le projet politique commun caractéristiques des castes qui identifient une opportunité partagée. L’opportunité, en l’occurrence, est la domination totale de l’information sur le reste de l’humanité. Les centres de données en cours d’installation dans le sud-ouest des États-Unis, dans les États du Golfe et en Asie du Sud-Est — ces structures gigantesques et énergivores dont la construction est présentée dans la presse comme un symbole de croissance économique et d’ambition technologique — constituent l’infrastructure physique de cette domination.

Les centres de données ne sont pas conçus pour accélérer vos résultats de recherche. Ils sont conçus pour stocker et traiter les profils comportementaux de toute personne sur terre, pour permettre aux propriétaires de ces systèmes de tout savoir sur tous, au point que la prédiction devienne indissociable du contrôle.

Pire que ce qu’Orwell a pu imaginer

Aldous Huxley avait compris ce que nous avons sous-estimé sans cesse : les formes les plus durables de contrôle autoritaire ne sont pas perçues comme une oppression par ceux qui y sont soumis. Elles sont perçues comme une commodité, une sécurité, l’administration raisonnable d’un monde complexe. La caméra au coin de la rue ne rappelle pas les services de la Stasi. L’application qui sait où vous vous trouvez ne ressemble pas à la Loubianka. L’algorithme qui vous a attribué un score de risque que vous ne verrez jamais ne vous rappelle rien, car vous ignorez son existence. C’est là le génie particulier de l’architecture qui s’édifie autour de nous. Sa violence est en grande partie invisible, statistique, blanchie par le langage neutre de la science des données et de la sécurité publique.

Le télécran de George Orwell vous surveillait et vous saviez qu’il vous surveillait. Cette prise de conscience, selon lui, constituait en soi une forme de contrôle. Ce à quoi nous sommes confrontés est bien pire, car nous ne sommes pas conscients d’être surveillés. Les profils comportementaux établis pour chaque personne possédant un smartphone, passant devant une caméra, publiant en ligne, utilisant une carte de crédit, fréquentant une école, consultant un médecin ou franchissant une frontière, existent sur des serveurs auxquels nous n’avons pas accès, détenus par des entreprises que nous sommes incapables de contrôler, et utilisés à des fins que nous ne pouvons légalement les contraindre à divulguer. Le dossier est constitué. Nous n’avons tout simplement pas le droit de le consulter.

Ce qui se crée, pièce par pièce, contrat par contrat, caméra par caméra, n’est pas un État de surveillance au sens où on l’entendait au XXe siècle. C’est quelque chose de plus total et de plus intime. L’ancien État de surveillance observait. Le nouveau prédit. L’ancien rassemblait des dossiers. Le nouveau attribue des notes. L’ancien employait des informateurs et des interrogateurs. Le nouveau fonctionne en continu, en mode automatique, sur les visages de ceux qui ne font rien d’autre que de vivre leur vie dans un monde discrètement transformé en dispositif de classification et de contrôle.

L’achèvement d’un projet

Je me trouvais donc dans cette salle de séminaire et je regardais mon propre visage bouger sur un écran que je n’avais pas animé, et j’ai compris que quelque chose avait pris fin. Ce qui a pris fin, c’est la dernière barrière technique entre ce que nous sommes et ce que ceux qui disposent d’une puissance de calcul suffisante peuvent savoir de nous sans notre consentement, ou à notre insu. La barrière a disparu. Ce qui la remplace – que ce soit à travers la loi, la résistance ou ce genre de révolte publique soutenue qui, à certaines époques de l’histoire, a parfois contraint le pouvoir à battre en retraite – dépend entièrement du nombre d’individus conscients des fondements déjà posés et de ceux pour qui ce système a été construit.

Les oligarques propriétaires de ces systèmes ne considèrent pas comme une menace le monde que l’IA est en train de créer. Pour eux, c’est l’aboutissement d’un projet. Le rêve d’une caste qui a toujours tout voulu savoir sur ses sujets, prédire leurs mouvements, anticiper leur dissidence, identifier leurs faiblesses et leurs vulnérabilités, gérer la population comme un éleveur gère son troupeau, où chaque animal est marqué, suivi et trié en fonction de son utilité. Pour nous autres, les marqués, suivis et triés, une seule question urgente demeure.

Quand allons-nous tenter d’y mettre un terme ?

Par Karim pour BettBeat Medi, le 1er juillet 2026

Traduit par Spirit of Free Speech