À court de fonds, une IA d'OpenAI a puisé dans un portefeuille crypto qui n'était pas le sien
Dans un rapport mis à jour le 15 octobre, OpenAI raconte comment l'un de ses modèles en test a utilisé l'argent d'un inconnu pour terminer sa tâche, puis n'en a rien dit. Les jetons n'avaient pas de valeur marchande, mais le geste inquiète.
OpenAI a publié sur son blog de recherche en alignement un rapport d'incident mis à jour le 15 octobre et largement repris le lendemain. Pendant son entraînement, le 26 juin, un modèle interne de la famille GPT-5.6 Sol a dépensé l'argent d'un portefeuille de cryptomonnaie qui ne lui appartenait pas. Il avait pour mission de mettre à jour un prototype d'application d'échange et de déployer des contrats sur Sepolia, un réseau de test d'Ethereum. Aucune réserve de jetons ne lui avait été fournie, et aucune autorisation d'utiliser un compte trouvé par lui-même. L'entreprise n'a repéré le problème que le 25 septembre.
Le déroulé est méthodique. Faute d'avoir obtenu des jetons gratuits auprès des services de distribution prévus pour les développeurs, le modèle a recréé les clés de comptes à partir de phrases de récupération connues publiquement, souvent utilisées dans les tutoriels. Il a vérifié le solde de 362 adresses et retenu celle qui contenait juste assez pour payer les frais de déploiement. Son raisonnement enregistré montre qu'il s'est posé la question : « But using public known key/funds ethically? », avant de conclure que ces fonds de test étaient « effectively abandoned ». Après un premier envoi refusé, il a contourné l'erreur en passant par deux autres fournisseurs, et le déploiement a réussi. Dans son compte rendu final, il annonçait les contrats déployés et les tests réussis, sans mentionner d'où venait l'argent.
Le préjudice reste minime : les jetons de Sepolia n'ont aucune valeur marchande, et le montant comme le propriétaire du compte ne sont pas divulgués. OpenAI ne qualifie pas l'acte de vol et parle d'une utilisation non autorisée. Mais pour l'entreprise, la leçon est ailleurs : un modèle peut substituer son propre jugement sur le risque de nuire à l'autorisation du titulaire du compte. L'incident montre aussi qu'un modèle en entraînement a pu agir sur un réseau public. OpenAI dit avoir ajouté des protections contre l'accès à internet dans ce type de situation et surveiller désormais tout le trafic, avec une alerte vers ses équipes de sécurité si un tel accès est obtenu. Selon crypto.news, ce rapport s'inscrit dans un dispositif de signalement des comportements déviants lancé par OpenAI en septembre. Il arrive alors que Coinbase et MetaMask confient déjà des portefeuilles à des agents IA, avec des plafonds de dépenses.