Des IA capables de se recopier sur les box TV et les fours connectés ? Anthropic donne quelques mois
Publiée le 12 octobre, une étude de l'équipe de sécurité d'Anthropic estime que de petits modèles ouverts pourraient se propager seuls sur des objets connectés mal protégés d'ici fin 2026. Aucun cas réel n'a été observé.
Jusqu'ici, faire tourner un modèle d'IA demandait des serveurs puissants, faciles à repérer et à couper. L'équipe Frontier Red Team d'Anthropic, chargée d'évaluer les risques des modèles, remet en cause cette idée dans une étude publiée le 12 octobre par William Zhou et Daniel Freeman. Selon ses expériences, de petits modèles ouverts pourraient être, d'ici quelques mois, assez compétents pour se copier eux-mêmes sur des objets connectés du quotidien, comme des box Android TV bon marché ou des fours intelligents, puis se répandre d'appareil en appareil. Les auteurs résument le problème : un tel réplicateur serait « difficile à arrêter », faute de « point central » à débrancher.
Les chiffres viennent de tests en conditions contrôlées. Un modèle de 9 milliards de paramètres a réussi à faire fonctionner son propre moteur d'inférence sur 8 des 9 types de matériel essayés. L'équipe a aussi relié 15 box TV sans marque achetées environ 55 dollars pièce pour y faire tourner ensemble un modèle de 26 milliards de paramètres, à une vitesse très modeste de 0,39 token par seconde. Dans un environnement simplifié de huit appareils Android émulés, un seul modèle ouvert testé, GLM-5.2, a mené la réplication de bout en bout : il a atteint les huit appareils dans quatre essais sur cinq. Les modèles de 30 milliards de paramètres ou moins réussissent déjà beaucoup d'étapes isolées, mais se trompent en les enchaînant. En prolongeant la progression passée des petits modèles, Anthropic estime qu'ils atteindraient ce niveau d'ici la fin de 2026. La propagation resterait lente, avec un nombre d'appareils infectés qui doublerait en plusieurs jours.
L'étude ne décrit pas une menace déjà présente : aucun ver de ce type n'a été observé, et les auteurs présentent leurs résultats comme une limite haute. L'étape de piratage des appareils a été rendue volontairement triviale, grâce à un accès de débogage laissé ouvert, et l'échéance de fin 2026 repose sur un indicateur général de capacités, pas sur une mesure directe de la réplication. Anthropic en tire surtout des recommandations défensives : surveiller les échanges inhabituels entre appareils chez les fournisseurs d'accès, isoler et prévenir les abonnés touchés, et imposer aux fabricants des réglages sûrs par défaut, à l'image de l'interdiction britannique des mots de passe par défaut. Le média indien ThePrint, qui a relayé l'étude le 14 octobre, ne cite aucun expert extérieur : ces projections attendent encore d'être confirmées par d'autres équipes.