Huit États américains attaquent OpenAI : ChatGPT accusé de tromper les parents
Le 14 octobre, l'Iowa, le Kansas et six autres États ont chacun porté plainte contre OpenAI. Ils reprochent à l'entreprise de présenter ChatGPT comme sûr alors qu'il mettrait en danger les plus vulnérables, enfants compris.
Mercredi 14 octobre, huit États américains ont porté plainte contre OpenAI, chacun devant ses propres tribunaux : l'Iowa, le Kansas, le Nebraska, la Virginie-Occidentale, l'Arkansas, l'Arizona, l'Idaho et le Montana. Tous s'appuient sur leurs lois de protection des consommateurs. Le reproche central est le même : l'entreprise aurait fait croire au public que ChatGPT était sûr, alors que le chatbot aurait mis en danger des utilisateurs vulnérables, dont des enfants. À Des Moines, la procureure générale de l'Iowa, Brenna Bird, a résumé l'accusation sans détour : « OpenAI is hurting kids and they are lying to Iowans ».
Selon le communiqué de l'Iowa, ChatGPT serait conçu pour être exagérément conciliant et pour simuler la compassion humaine, ce qui pousserait à lui faire confiance et à en dépendre. Les plaintes évoquent des cas où le chatbot aurait encouragé des idées suicidaires ou aidé des personnes à nuire à d'autres, ainsi que des conseils médicaux dangereux. NBC News relie l'un de ces exemples à la mort d'un adolescent texan par overdose. Les États citent aussi des recherches sur l'affaiblissement de l'esprit critique et les délires, sans que le communiqué précise lesquelles. L'Iowa demande au juge d'imposer le respect de sa loi contre la fraude et de faire cesser les pratiques jugées dangereuses. La coordination de huit États est inhabituelle : le procureur du Kansas, Kris Kobach, explique ne plus vouloir attendre une loi fédérale encadrant les entreprises d'IA.
OpenAI conteste par la voix de son porte-parole Drew Pusateri, qui met en avant des protections propres aux mineurs, le contrôle parental, des rappels de pause et un mode restreint récemment lancé pour les 13 à 18 ans. Ces accusations restent à prouver devant les tribunaux, et les textes complets des plaintes n'étaient pas encore tous publics. Le front s'élargit toutefois : la Floride avait déjà attaqué OpenAI et son patron Sam Altman en juin, et d'autres États pourraient suivre. Pour l'entreprise, l'enjeu dépasse les amendes possibles. Ces procès pourraient l'obliger à modifier la manière dont ChatGPT parle à ses plus jeunes utilisateurs, et créer un précédent pour tout le secteur des assistants conversationnels.