OpenAI se sépare de spécialistes en sécurité et ravive les tensions
🎬 Les vidéos
Fondée en décembre 2015 à San Francisco par plusieurs figures de la tech, l'entreprise américaine OpenAI s'est imposée comme un acteur incontournable de l'intelligence artificielle générative. Connue notamment pour le développement de ses grands modèles de langage de la série GPT et pour le lancement de son agent conversationnel ChatGPT en novembre 2022, la structure fait aujourd'hui face à des remous en interne concernant la gestion des risques liés à ses technologies.
La semaine dernière, trois chercheurs spécialisés dans la sécurité au sein de l'entreprise ont été licenciés. Selon l'un d'eux, Mikita Balesni, qui s'est exprimé sur le réseau social X, cette décision serait intervenue parce qu'ils auraient fait passer la sécurité avant les intérêts à court terme de la société. Les profils concernés alertaient publiquement et en interne sur les dangers potentiels de l'intelligence artificielle et sur la difficulté de contrôler certains modèles en cours de développement.
De son côté, la direction d'OpenAI a fermement démenti tout lien entre ces congédiements et les alertes émises par ces spécialistes. L'entreprise a assuré que le départ de ces salariés fait suite à une enquête interne ayant établi qu'ils avaient enfreint la politique relative au traitement des informations sensibles, en partageant des données confidentielles.
Cette affaire relance de plus belle le débat au sein de la communauté technologique sur l'équilibre entre la rapidité du déploiement des innovations en IA et la prise en compte des impératifs de sécurité. Les chercheurs impliqués insistent sur le fait que l'industrie manque encore de méthodes infaillibles pour garantir le contrôle total des agents conversationnels et des modèles de pensée autonomes.
Alors que les interrogations s'accumulent sur la capacité de l'entreprise à réguler ses propres créations, cet épisode met en lumière les tensions croissantes entre les impératifs commerciaux des géants technologiques et la liberté de parole des experts chargés de prévenir les dérives de l'intelligence artificielle.