Anthropic veut confier à la justice le pouvoir de bloquer les IA jugées trop dangereuses
🎬 Les vidéos
Fondée en 2021 par d'anciens membres d'OpenAI et dirigée par Dario Amodei, l'entreprise américaine Anthropic s'impose aujourd'hui dans le débat sur l'encadrement des technologies. Basée à San Francisco, la firme à l'origine de l'assistant Claude cherche à peser directement sur la régulation de son propre secteur en l'absence de législation fédérale globale aux États-Unis.
Face aux risques potentiels liés au développement des intelligences artificielles avancées, l'entreprise a soumis un projet de loi destiné au Congrès américain. Ce texte propose d'accorder à Washington la possibilité d'interdire le déploiement d'un modèle si celui-ci représente un danger imminent pour la sécurité publique.
Le dispositif envisagé fixe toutefois des seuils stricts avant toute intervention gouvernementale. Le blocage d'une IA ne pourrait être déclenché qu'en cas de risque avéré de plus d'un milliard de dollars de dégâts matériels ou économiques, ou bien si une menace directe pèse sur des vies humaines, évaluée à un minimum de cinquante morts ou blessés graves.
Au-delà de l'intervention de l'exécutif, le texte porté par le laboratoire d'intelligence artificielle introduit un garde-fou institutionnel majeur. Contrairement à une décision unilatérale de l'administration fédérale, Anthropic demande que ce soit la justice qui obtienne le dernier mot pour valider ou non l'interdiction d'un système.
Cette proposition intervient dans un contexte politique particulier, marqué par des discussions entre les acteurs de la tech et le gouvernement américain. Alors que les débats sur la sécurité des modèles avancés divisent, cette initiative inédite d'un créateur d'IA cherchant à co-écrire ses propres règles de contrôle ouvre de nouvelles perspectives sur la régulation du secteur.
