Le président américain préfère laisser les géants de la tech contrôler eux-mêmes les technologies qu’ils maîtrisent de moins en moins. Qu'est-ce qui pourrait mal se passer ?
L’affaire était sérieuse : l’IA prend en ce moment des directions hasardeuses, voire dangereuses, et échappe au contrôle de ceux-là mêmes qui la développent et la commercialisent. Ses récents dérapages ont provoqué un tel mouvement de panique que les ténors du secteur ont admis qu’il devenait urgent de prendre des mesures pour éviter le pire, appelant même les autorités à réguler leur activité.
Qu’à cela ne tienne. Le président Trump a décidé de prendre les choses en main. Il a réuni à Washington l’élite de la Silicon Valley, d’Elon Musk à Mark Zuckerberg, en passant par Jensen Huang (Nvidia), Dario Amodei (Anthropic), Sundar Pichai (Google) ou encore Greg Brockman (OpenAI).
Une « constitution »… d’une page
Cette réunion a débouché sur un « accord » qualifié de « moralement contraignant » par Donald Trump, qui l’a comparé à une constitution. Une constitution qui loge majestueusement… sur une seule et unique page. Plutôt modeste pour un texte aussi attendu qui doit permettre de surveiller de près les risques de dérive de l’IA et d’écarter toute menace existentielle.
C’est que ce texte ne fournit aucune réponse concrète et ne résout rien du tout. Y trouve-t-on des mécanismes de sanction en cas de transgression ou de dissimulation ? Non. Prévoit-il le recours à des inspecteurs indépendants ? Non plus. L’adoption de lois d'encadrement ? Pas davantage. À la place, Washington brandit le principe magique de l'« autorégulation ». En gros, chacun fait, fait, fait ce qu’il lui plaît, plaît, plaît. C’est un véritable chèque en blanc offert aux géants de la tech qui peuvent ainsi continuer leur course folle vers le profit, libérés de tout contrôle externe et balayant d’un revers de la main les avertissements de plus en plus nombreux des chercheurs et de personnalités politiques.
Autorégulation ou autodisculpation ?
Le texte en question (pardon, la « constitution ») a été publié par Donald Trump sur son réseau Truth Social. Il y est question de mettre en place quatre niveaux de contrôle : des audits internes qui seront menés lors de l'entraînement des IA, l’intervention d’équipes de sécurité dédiées, le recours à des évaluations « externes » et la création de comités de surveillance au sein des conseils d'administration.
De bonnes intentions, donc. Mais qui ne résistent pas à un minimum d’analyse. Aucun régulateur public ne participe à l’aventure. Aucune obligation légale ne contraint ces entreprises à rendre publics les résultats de leurs évaluations. Et, nous l’avons dit, aucune sanction n’est prévue. Mieux encore : le texte laisse aux entreprises une totale liberté pour choisir leurs propres évaluateurs « indépendants », pour nommer leurs comités et pour décider, selon leur bon vouloir, si elles jugent opportun de divulguer leurs infortunes.
Mark Zuckerberg ne s’y est pas trompé, qui s’est réjoui, à la sortie de la réunion, de voir les grandes entreprises du secteur « se donner des notes les unes aux autres, ce qui est bien mieux que de se noter soi-même ». Vive l’autorégulation. Appliquons-la aux devoirs surveillés et aux concours : les trois élèves du fond de la classe choisissent le sujet, se décernent mutuellement un 20/20 avec félicitations du jury et remercient le professeur resté dans le couloir, parce que se noter entre copains est « tellement mieux que de se noter tout seul ».
Garde-fous virtuels et dérapages réels
Qui pourrait croire, dans un secteur comme l’IA où la moindre minute de retard dans le lancement d'un nouveau modèle se chiffre en dizaines de milliards de dollars, que la morale tiendra lieu de garde-fou ?
Comme le souligne CBS News, les mécanismes de surveillance interne lors de l’entraînement des modèles existent déjà dans la majorité des laboratoires d’IA. Et leur efficacité est pour le moins discutable : ils ont tout bonnement échoué à empêcher les affaires d’intrusion, de piratage et de contournement des règles qui ont fait la une ces derniers mois. En bref : des agents d'intelligence artificielle qui franchissent leurs barrières de confinement, qui s'introduisent de manière non autorisée dans des réseaux protégés et qui orchestrent des vols de données. Ah, mais l’accord en question est « moralement contraignant ». Ça change tout !
Le diable chinois l’emporte
Il ne faut pas être un devin pour comprendre les tenants et les aboutissements de cette mascarade. Ce n’est pas au nom du progrès et de la liberté d’entreprendre que Trump refuse vigoureusement toute tentative de régulation, mais par sa volonté farouche de ne pas céder un pouce de terrain à la Chine en pleine période de guerre technologique et commerciale.
D’ailleurs, plusieurs patrons de la Silicon Valley partagent son point de vue (ou l’inverse) : imposer des règles de sécurité obligatoires reviendrait à « brider » l'innovation américaine et à offrir un avantage concurrentiel décisif à Pékin.
Les enjeux humains, éthiques et environnementaux passent au second plan. De simples dommages collatéraux. Au diable le principe de précaution, les protestations massives contre l'implantation massive de data centers énergivores, les craintes des citoyens à l’égard de cette course aveugle qui transforme la société en laboratoire d'expérimentation…
En optant pour l’autorégulation, sans aucun organisme de surveillance indépendant, l'accord du 29 septembre scelle une alliance perverse entre le pouvoir d'État et les monopoles de la tech.
Et ce malgré les appels répétés des spécialistes à ralentir le rythme de développement des IA, à mieux étudier leur comportement et à mettre au point des stratégies de surveillance sérieuses.
Anthropic a carrément inscrit noir sur blanc dans son document d'introduction en Bourse que ses technologies d'IA présentaient des « risques existentiels pour l'humanité ».
« Super-intelligence » ou super-aveuglement ?
Le brouillon fièrement exhibé par Trump n’empêchera en aucune manière les modèles d'IA à gagner toujours plus en autonomie et en opacité. Il ne remet pas en cause la responsabilité d’entreprises qui ont techniquement du mal à maîtriser les créatures numériques qu'elles ont libérées.
Le mot d’ordre est donc « circulez, il n’y a rien à voir »… À quoi fallait-il s’attendre de la part d’un président qui décide de renommer par décret l’intelligence artificielle « super-intelligence » ? C’est sûr qu’en changeant le nom d’une technologie, la magie va opérer et qu’aucun agent autonome n’ira pirater un réseau sensible ou menacer la sécurité d’une administration. On parle de super-intelligence, après tout !