Plusieurs employés et dirigeants d'entreprises majeures du secteur, dont Anthropic, OpenAI, Meta et Google DeepMind, ont signé une pétition le 28 juillet dernier pour demander au gouvernement américain de temporiser la sortie des modèles d'IA les plus avancés. Plus que leurs créatures, ils craignent surtout que leur business leur échappe…
Que se passe-t-il donc dans la tête des grands manitous de l’IA ? Pour la deuxième fois en trois ans, ils déplorent leur propre naïveté. Les IA peuvent représenter un danger pour l’humanité, nous disent-ils, et il vaudrait mieux que les autorités politiques se penchent sur le sujet pour éviter les débordements.
C’est l’évidence : tout n’est pas toujours sous contrôle dans le monde de l’IA, comme l’ont prouvé des exemples récents. Ainsi, le fameux Mythos d’Anthropic a démontré son incroyable capacité à détecter n’importe quelle faille dans un programme informatique, ouvrant grand la porte aux cybercriminels qui n’en attendaient pas tant. Il a fallu les mises en garde de son éditeur et l’intervention de l’administration américaine pour limiter sa distribution.
Et que dire du dernier modèle signé OpenAI qui s’est débrouillé, fin juillet, pour s’échapper de son environnement confiné afin d’aller pirater Hugging Face et de récupérer les logiciels lui permettant de briller à des tests d’évaluation ?
On pourrait aussi évoquer la découverte récente d’Anthropic : la présence d’une zone de réflexion « intime », invisible aux développeurs, que gérait l’une de ses IA.
L’IA améliore l’IA, sans l’aide de l’humain
Résultat : les big boss de l’IA, menés par le PDG d'Anthropic Dario Amodei, alertent sur les risques d'une accélération incontrôlée des capacités des modèles qui dépasserait « les capacités humaines de compréhension et de contrôle ». D’autant plus que la plupart des améliorations sont l’œuvre de cette même IA : elle cherche sans relâche les stratégies et les astuces techniques visant à renforcer son efficacité. L’IA améliore l’IA, sans l’aide de l’humain. Il serait donc temps de réfléchir aux progrès croissants d’une technologie dont, de l’aveu même de ceux qui la développent, on ignore le fonctionnement profond.
La pétition du 28 juillet fait écho au communiqué publié en 2023, quand plusieurs patrons d’entreprises travaillant sur l’IA, dont Elon Musk (qui peinait alors à développer Grok), réclamaient un moratoire dans le développement des intelligences artificielles génératives suite aux incroyables progrès incarnés à l’époque par GPT-4.
Aujourd’hui comme hier, le message des géants de l’IA est clair : ses responsables sont des irresponsables. Dépassés par leur créature, il en appellent à une instance internationale pour les surveiller, les empêcher d’aller trop loin et de faire des bêtises. Leur idée : créer des outils techniques qui permettraient de ralentir délibérément le développement des modèles les plus avancés.
« Nous prenons ces questions très au sérieux »
Un noble combat, penseront les plus optimistes. Un aveu d’impuissance, diront les mauvaises langues. Une manœuvre stratégique, analyseront les plus observateurs. Car plusieurs motivations expliquent cette nouvelle prise de conscience. D’abord, comme on l’a vu, les mésaventures récentes des IA : devenues autonomes, elles représentent une véritable menace pour les réseaux informatiques et les infrastructures industrielles. Mais au-delà du risque réel, il y a surtout une inquiétude économique pour les acteurs du secteur : ces péripéties donnent une mauvaise image du business de l’AI en général. Mieux vaut alerter sur ces problèmes et chercher une solution que de subir le retour de bâton des clients et du grand public, dont la méfiance à l’égard de l’AI pourrait augmenter spectaculairement. Ensuite, il est indispensable que les patrons de l’IA montrent qu’ils se sentent concernés. On connaît tous la petite phrase : « Nous prenons ces questions très au sérieux ». Montrer qu’ils s’inquiètent pour l’humanité vise d’abord à calmer une partie de la critique morale et politique.
Maintenant, arrêtons-nous un instant sur le paradoxe qu’illustre la démarche des grands noms de l’IA : imagine-t-on vraiment qu’ils renonceront à leur leadership technologique au nom d’une régulation qui freinerait leur activité et qui, pour la plupart, serait considérée comme liberticide ?
Invoquer la sécurité pour garder le contrôle
En fait, derrière ce discours d’expiation, on perçoit l’inquiétude suscitée par la concurrence des entreprises chinoises, qui ne cessent de progresser et qui se présentent comme une alternative moins coûteuse aux modèles fermés américains. Les mesures de contrôle devraient les concerner elles aussi. C’est ce qu’espèrent les patrons américains. Seulement, rien n’indique que les Chinois accepteraient de réduire la voilure au moment même où ils enregistrent des succès dans différents domaines de l’innovation technologique.
En vérité, cette pétition révèle moins une prise de conscience qu'un calcul stratégique : si les patrons de l'IA craignent effectivement que leurs créations leur échappent, c'est avant tout parce qu'elles risquent de leur échapper commercialement. L'appel à la régulation internationale cache peut-être moins la peur du monstre qu'ils ont déchaîné que celle de le voir rattrapé par la compétition asiatique. La question n'est pas de savoir si l'IA est dangereuse (on commence à s’en douter) mais de comprendre qui, exactement, devrait la contrôler. Et c'est là que la réponse devient inconfortable : les vrais dangers ne résident pas uniquement dans la technologie, mais dans les objectifs de ceux qui prétendent vouloir l'encadrer pour mieux conserver leur monopole.