Les patrons d'Anthropic, OpenAI et SpaceX AI appellent à ralentir le développement de l'IA
Fait suffisamment rare pour être souligné : plusieurs dirigeants de premier plan de l'intelligence artificielle ont appelé, le même week-end de la mi-septembre, à ralentir délibérément le rythme de développement des modèles les plus avancés. Tout est parti d'un essai publié le 12 septembre par Dario Amodei, patron d'Anthropic, dans lequel il met en garde contre le risque que des essaims d'agents IA autonomes échappent à tout contrôle — un scénario qu'il juge possible « dans un horizon aussi court que six mois ».
En quelques heures, plusieurs autres grandes voix du secteur ont publiquement rejoint sa position. Elon Musk, à la tête de SpaceX AI, a soutenu l'appel d'Amodei en écrivant simplement : « Dario a raison. » Sam Altman, patron d'OpenAI, a lui aussi affirmé partager l'analyse de son homologue d'Anthropic, déclarant qu'il fallait « rythmer » le développement des modèles de pointe — et annonçant, dans la foulée, que son entreprise donnerait elle aussi accès à des évaluateurs externes indépendants.
Parmi les pistes concrètes évoquées : donner à des évaluateurs indépendants un accès permanent, quasiment équivalent à celui d'un salarié — bureaux, badges d'accès, ordinateurs professionnels — afin qu'ils puissent surveiller en continu les pratiques de sécurité des entreprises d'IA de l'intérieur.
Dario Amodei appelle également les entreprises d'IA des pays démocratiques à se coordonner pour établir des standards de sécurité communs, et à fixer des limites explicites au rythme de progression non contrôlée de l'IA.
Cet appel intervient dans un contexte particulier : la même semaine, OpenAI publiait son propre cadre de signalement des comportements anormaux de ses modèles, tandis qu'Anthropic et OpenAI se livraient une course parallèle vers une entrée en Bourse valorisée respectivement à près de 965 et 852 milliards de dollars — deux annonces qui illustrent la tension entre appels à la prudence et course effrénée aux capitaux et à la puissance de calcul.