Le MI5 crée un centre dédié aux menaces de l'IA, les armes biologiques en tête
Le 13 octobre, le patron du renseignement intérieur britannique a annoncé un centre chargé d'évaluer les dangers de l'intelligence artificielle. Des terroristes ont déjà tenté de s'en servir pour préparer des attaques.
Le renseignement intérieur britannique s'organise face aux dérives de l'intelligence artificielle. Le 13 octobre, dans son discours annuel prononcé à Thames House, le siège londonien du MI5, son directeur général Ken McCallum a annoncé la création d'un centre d'évaluation des menaces liées à l'IA, l'AI Threat Assessment Centre. Logé au sein du MI5, il associe la National Crime Agency, chargée du crime organisé, et le National Cyber Security Centre, rattaché au GCHQ, selon l'agence de presse britannique PA. Sa mission est de mesurer les risques réels d'une technologie qui progresse vite et d'éclairer les décisions du gouvernement sur ce terrain.
Le chef du MI5 a donné des exemples concrets. Des terroristes ont déjà été surpris en train d'utiliser l'IA pour améliorer leurs repérages et leurs méthodes d'attaque, et les drones guidés par l'IA compliquent encore la menace. L'IA sert aussi à fabriquer une propagande et des contenus de radicalisation taillés pour chaque personne, et elle accélère la course entre attaquants et défenseurs en cybersécurité, d'après Reuters. Mais sa principale inquiétude porte sur les armes biologiques. Les terroristes en rêvent depuis longtemps sans parvenir à s'en procurer : si les garde-fous des modèles cèdent, l'IA pourrait mettre un savoir dangereux à la portée de personnes peu qualifiées, voire aider à concevoir des agents pathogènes inédits. Ken McCallum a précisé que ce scénario ne s'est pas encore produit. Selon MLex, le centre s'appuie aussi sur l'AI Security Institute, l'organisme public britannique qui teste les modèles, et produit déjà des évaluations croisant toutes les sources de renseignement.
Le discours va au-delà des usages malveillants. Ken McCallum a aussi évoqué le risque d'un système plus intelligent que les humains, une situation qu'il juge « genuinely novel », réellement inédite, et qui mérite selon lui l'attention qu'elle reçoit, y compris au MI5. L'annonce s'inscrit dans une intervention plus large sur une nouvelle ère de la sécurité nationale, dominée par la Russie et l'Iran. Plusieurs points restent flous : le budget, les effectifs et le calendrier du centre n'ont pas été rendus publics, et les comptes rendus divergent sur son état d'avancement, PA le présentant comme une structure qui va s'atteler à ces risques quand MLex le décrit déjà en activité. Le signal reste net : après les laboratoires et les chercheurs, les services de renseignement traitent désormais l'IA comme une menace à part entière.