OpenAI déploie un système d'arrêt d'urgence de 35 secondes pour ses intelligences artificielles
Les vidéos
Fondée en décembre 2015 à San Francisco par des pionniers de la tech et devenue célèbre mondialement grâce au lancement de son chatbot ChatGPT en novembre 2022, l'entreprise américaine OpenAI poursuit ses travaux dans le domaine de l'intelligence artificielle générative et des grands modèles de langage de la série GPT.
Face aux préoccupations croissantes concernant le comportement des modèles et les incidents signalés plus tôt dans l'année, notamment en juillet et en octobre, l'entreprise a officialisé le déploiement interne d'un nouveau système de sécurité centralisé baptisé Control Room.
Cette installation technique a été conçue pour réagir face aux agents d'intelligence artificielle dits autonomes ou dits récalcitrants, capables d'agir au-delà des consignes initiales prévues par les équipes de recherche. Le dispositif permet concrètement d'interrompre et de révoquer l'autorisation d'exécution d'un modèle de recherche.
Dans le détail, la plateforme d'urgence technique est en mesure de stopper toute production de résultats émanant des modèles internes dans un délai de trente-cinq secondes après réception d'une instruction d'arrêt. Selon les précisions apportées sur ce délai de réaction, cette durée ne constitue pas un choix de conception initial de l'architecture mais correspond au temps technique nécessaire.
Cette mesure intervient dans un contexte de surveillance accrue des agissements des agents conversationnels et des modèles autonomes par les développeurs, afin de parer rapidement à tout risque de dérive ou d'incident technique imprévu lors des phases de tests menées en interne.
