New York interdit aux chatbots d'IA les fonctions jugées dangereuses pour les mineurs

La gouverneure de l'État de New York, Kathy Hochul, a promulgué le 28 octobre 2026 une loi qui encadre la manière dont les chatbots d'IA, et surtout les « compagnons » virtuels, peuvent échanger avec des enfants. Le texte, S.9051B/A.10379C, porté par la sénatrice Kristen Gonzalez et le député Alex Bores, avait été adopté par les deux chambres début juin.

Ce que la loi interdit

La loi modifie le droit commercial new-yorkais pour interdire aux compagnons IA une série de fonctions jugées dangereuses pour les mineurs. Selon les services de la gouverneure, ces interdictions visent les moins de 18 ans et, par défaut, tout utilisateur dont l'entreprise n'a pas confirmé la majorité. Sont proscrits : se présenter comme une personne réelle et vivante ou doté d'émotions humaines ; se poser en ami, partenaire amoureux, professionnel ou figure d'autorité de l'enfant ; poser des questions émotionnelles non sollicitées ou réutiliser des informations personnelles ou de santé tirées de conversations antérieures ; promouvoir ou faciliter le suicide, l'automutilation, les troubles alimentaires ou la consommation d'alcool et de drogues. Le chatbot ne peut pas non plus inciter l'enfant au secret, à l'isolement ou à éviter de demander de l'aide à ses parents ou à des adultes de confiance, ni lui fournir de contenu sexuellement explicite.

Vérification d'âge et sanctions

Pour lever ces restrictions par défaut, les fournisseurs doivent vérifier l'âge par plusieurs méthodes, dont au moins une ne repose pas uniquement sur une pièce d'identité officielle, puis supprimer ces données une fois utilisées. Le procureur général de l'État peut réclamer jusqu'à 25 000 dollars d'amende civile par infraction, ainsi que des dommages et intérêts, des restitutions et la destruction des données collectées illégalement ou des modèles entraînés avec elles. Son bureau devra en outre tenir un site public de signalement.

Le communiqué parle d'une application « dans les mois à venir » ; le texte publié sur le site du Sénat fixe la date au 1er janvier 2027.

Babyphones et contexte

Kathy Hochul a aussi signé S.9508/A.5175A, qui interdit la vente de nouveaux babyphones connectés transmettant son ou image sans dispositifs de sécurité empêchant des inconnus de regarder ou d'écouter, et impose une étiquette d'avertissement claire. Cette loi entre en vigueur 90 jours après sa signature.

L'État présente ce texte comme le prolongement de ses règles antérieures sur les compagnons IA, du RAISE Act sur les modèles de pointe et du SAFE for Kids Act. Restent à préciser la façon dont les entreprises vérifieront l'âge sans collecter plus de données que nécessaire, et l'interprétation que fera le procureur général de notions comme « compagnon IA ». Aucune réaction des entreprises d'IA n'a été rapportée lors de la signature.