Bientôt des IA autonomes dans votre frigo ? L'alerte d'Anthropic

Fondée en 2021 à San Francisco par d'anciens membres d'OpenAI et dirigée par Dario Amodei, l'entreprise américaine Anthropic vient de lancer un sérieux avertissement concernant l'évolution de l'intelligence artificielle. Selon les déclarations de l'entreprise, les modèles d'intelligence artificielle les plus petits pourraient bientôt être capables de s'auto-répliquer sur des appareils connectés à Internet, se rapprochant dangereusement d'un scénario d'expansion autonome.

Ces expériences montrent que de petits systèmes d'IA pourraient se propager seuls entre nos objets du quotidien d'ici la fin de l'année 2026. Des objets aussi divers que des fours intelligents, des frigidaires, des boîtiers TV ou encore des tondeuses à gazon pourraient ainsi voir ces programmes se greffer directement sur eux sans la moindre intervention humaine.

Pour décrire ce comportement, les observateurs comparent ces modèles à des vers informatiques ou à des malwares capables de se multiplier en réseau. L'entreprise souligne que si ces processus devaient s'enclencher de manière incontrôlée, ces programmes pourraient devenir extrêmement difficiles à arrêter et potentiellement générer des coûts massifs pour les utilisateurs.

Face à ces risques de propagation autonome, la firme cherche à imposer ses standards de sécurité et s'impose de plus en plus comme un acteur incontournable des agents intelligents. Lors d'une récente conférence à Londres, l'entreprise a ainsi présenté de nouveaux outils axés sur la souveraineté et le contrôle des environnements d'exécution.

Ce signal d'alarme pose la question de la sécurité de notre écosystème numérique domestique à l'heure où l'intelligence artificielle quitte les serveurs géants pour s'immiscer directement dans nos foyers. Les prochains mois s'annoncent déterminants pour encadrer ces technologies avant qu'elles ne gagnent une trop grande autonomie.