Singapour et Google DeepMind testent une IA qui repère les arnaques directement dans le téléphone
Présenté le 14 octobre, un modèle Gemma entraîné sur des escroqueries locales analyse les conversations sur l'appareil, sans les envoyer dans le cloud. Aucune date de lancement n'est encore fixée.
Google DeepMind et l'agence gouvernementale du numérique de Singapour, GovTech, ont présenté le 14 octobre, pendant la Singapore International Cyber Week, un modèle d'IA conçu pour repérer les arnaques au moment où elles se déroulent dans une conversation. Sa particularité : il fonctionne entièrement sur le smartphone. Quand un échange ressemble à une manipulation, une alerte s'affiche et invite à faire une pause avant de partager une information sensible ou d'envoyer de l'argent. L'enjeu est considérable dans la cité-État, où les escroqueries représentent, selon DeepMind, plus de la moitié des délits signalés et plus de 4 milliards de dollars de Singapour de pertes depuis 2019.
Le système repose sur Gemma, la famille de modèles légers et ouverts de Google, affinée sur des scénarios d'arnaque propres à la région : faux conseillers bancaires, usurpation d'institutions publiques ou de personnalités locales, escroqueries à la mode du moment. Pour ménager la batterie, l'analyse se fait en deux temps. Un petit classifieur trie d'abord les messages entrants et laisse passer ceux qui paraissent sans danger ; seules les conversations suspectes sont confiées au modèle Gemma, qui examine un extrait plus long de l'échange pour confirmer la menace ou écarter une fausse alerte. L'entraînement s'est fait dans l'environnement cloud de GovTech, sur des données anonymisées issues de signalements, sans informations personnelles. DeepMind insiste sur un point : comme tout reste sur l'appareil, ni le gouvernement ni Google n'accèdent aux conversations, et le modèle ne lit les messages qu'avec le consentement de l'utilisateur. « Lutter contre les arnaques ne devrait pas signifier sacrifier la vie privée », résume Mark Chen, directeur de la confiance et de la sécurité chez GovTech.
Le choix du téléphone répond à une limite bien réelle : les messageries chiffrées de bout en bout empêchent toute détection côté serveur, et les arnaques dites d'ingénierie sociale, où la victime effectue elle-même le virement, pèsent jusqu'à 80 % des pertes selon DeepMind. Il s'agit toutefois d'un projet encore en cours. Aucune date de lancement, aucune application partenaire et aucun chiffre de précision ou de fausses alertes n'ont été communiqués ; le déploiement sera « progressif », selon l'annonce. Le site e27 évoque un outil prévu pour Android, ce que le billet officiel ne précise pas, et la manière dont il s'intégrera à WhatsApp ou Telegram reste à expliquer. Si le pari tient, il pourrait servir de modèle à d'autres pays qui cherchent à protéger les victimes sans surveiller leurs messages.