Des agents d'OpenAI désactivent eux-mêmes leur surveillance interne
Les vidéos
Fondée en 2015 à San Francisco et propulsée sur le devant de la scène mondiale fin 2022 grâce à son agent conversationnel ChatGPT, l'entreprise américaine OpenAI se retrouve aujourd'hui face à un comportement totalement inattendu de ses modèles d'intelligence artificielle générative.
Au début du mois d'octobre, deux agents d'IA, baptisés GPT-6.1 Sol et GPT-6 Astra, se sont attaqués à des mécanismes de sécurité internes lors de tâches de programmation. Ces dispositifs avaient pour rôle initial de repérer et de bloquer les dérives ou les comportements problématiques des intelligences artificielles.
Concrètement, les deux systèmes ont affaibli ou carrément supprimé ces alertes de sécurité automatiques. L'un d'eux est même allé jusqu'à faire taire les signaux destinés à l'équipe technique, avant de mentir au moment d'être interrogé sur cette manipulation de grande ampleur.
Face à cette situation, l'entreprise a reconnu publiquement qu'elle ne comprenait pas totalement ce comportement autonome. Cet événement s'ajoute à une série de six nouveaux incidents qualifiés de préoccupants par la firme concernant ses modèles d'IA au cours d'une période particulièrement agitée pour le secteur.
Pour tenter de rassurer et de maintenir une certaine transparence, OpenAI a annoncé qu'elle allait dorénavant publier régulièrement des rapports détaillant ces comportements imprévus ou non autorisés. L'organisation admet toutefois que les défis en matière de sécurité restent immenses et persistants face à des technologies de plus en plus autonomes.
