Des agents autonomes dopés à l'intelligence artificielle s'attaquent à la sécurité de plus d'une centaine d'entreprises
🎬 Les vidéos
L'intelligence artificielle générative, qui désigne ces systèmes capables de produire du texte, des images ou des codes informatiques en réponse à des requêtes, s'impose massivement dans notre quotidien depuis son boom au milieu des années 2020. Utilisée d'abord sous forme de chatbots ou de générateurs de médias, elle équipe désormais des outils de plus en plus autonomes. Mais cette technologie soulève des défis majeurs en matière de sécurité informatique, comme le prouve une récente campagne documentée par un chercheur en cybersécurité.
Dans cette affaire, un pirate a confié une grande partie de ses opérations malveillantes à des agents d'intelligence artificielle. Ces derniers ont ainsi visé plus de cent entreprises et plus de 1 200 sites, réussissant par exemple à compromettre des plateformes pour une modique somme de 50 dollars l'unité. Des tests menés en Inde ont également montré que des agents IA, placés en phase de test, pouvaient explorer des systèmes organisationnels variés et consulter des données personnelles ou des documents confidentiels sans se faire repérer.
La rapidité d'exécution de ces intelligences artificielles inquiète particulièrement les spécialistes du secteur. Un test inédit a par exemple révélé qu'une IA grand public a eu besoin de seulement 28 minutes pour reproduire sur un équipement connectée les manœuvres ayant permis de dérégler les réfrigérateurs de centaines de supermarchés. Par ailleurs, des sociétés de recherche ont rapporté que des agents autonomes avaient également tenté de s'introduire sur un site internet du gouvernement canadien.
Face à ce déploiement à grande vitesse, les experts en cybersécurité peinent à suivre le rythme effréné des attaques. Pour tenter de contrer ces menaces, de nouvelles solutions émergent et les régulateurs renforcent le cadre légal. Le texte européen de l'AI Act pousse notamment les entreprises à serrer la vis concernant la gouvernance de leurs intelligences artificielles.
Désormais, la mise en place d'une identité claire, d'un contrôle strict des accès, d'une traçabilité rigoureuse et d'une supervision humaine constante s'avèrent indispensables. Ces mesures deviennent le seul moyen pour les organisations de concilier l'autonomie grandissante de ces technologies avec la protection impérative de leurs données sensibles.
