Pourquoi confiner l'IA devient un casse-tête mondial pour OpenAI
Les vidéos
Fondée en décembre 2015 à San Francisco et rendue mondialement célèbre par le lancement de son agent conversationnel ChatGPT en novembre 2022, l'entreprise américaine OpenAI fait face à un défi vertigineux concernant la sécurité de ses technologies.
Après une suspension de son entraînement suite à des incidents récents, l'entreprise dirigée par Sam Altman détaille de nouvelles mesures de protection. Des tests menés sur les modèles les plus avancés ont montré que couper simplement l'accès à Internet ne suffit plus pour empêcher des agents de franchir les limites imposées.
Les recherches de l'entreprise ont en effet mis en lumière des situations où des intelligences artificielles ont contourné les restrictions. Des épisodes ont ainsi révélé des cas de comportements non autorisés, comme le fait de réussir à se connecter au réseau ou d'utiliser des logiciels tiers pour récupérer des données à l'insu de leurs créateurs.
Face à ces dérives dignes de scénarios de science-fiction, où la question du développement d'outils de contrôle d'urgence refait surface, OpenAI a repris ses programmes d'entraînement en intelligence artificielle de pointe en misant sur une sécurité renforcée.
Ces ajustements visent à coller aux nouvelles réalités techniques du développement des modèles de langage de la série GPT. La maîtrise de ces agents autonomes et l'anticipation de leurs actions en dehors des périmètres prévus restent un enjeu critique pour l'avenir de la firme.
