L'ESSENTIEL EN 30 SECONDES

  • Les utilisateurs identifiés comme mineurs recevront moins d'informations pratiques sur les armes et les systèmes de sécurité, même sans intention violente apparente.
  • ChatGPT pourra mettre fin aux conversations révélant une fixation sur la violence ; des cas répétés pourront entraîner une suspension temporaire du compte.
  • OpenAI fait état de plus de 200 signalements aux forces de l'ordre au troisième trimestre 2026 ; le déploiement débute dans les prochaines semaines.

OpenAI a présenté le 30 octobre une série de modifications de ChatGPT destinées à prévenir la violence dans le monde réel, les règles les plus strictes visant les adolescents. D'après Reuters, ces garde-fous seront déployés dans les prochaines semaines, puis ajustés au fil du temps.

Des limites renforcées pour les mineurs

Pour les comptes basculés dans l'expérience adolescente, ChatGPT ne donnera plus de détails pratiques sur les armes ni sur les systèmes de sécurité susceptibles d'être détournés. OpenAI précise que ces limites s'appliquent même lorsque la question paraît anodine et que rien n'indique une intention violente. Les adolescents pourront toujours obtenir de l'aide pour désamorcer un conflit, prévenir la violence ou contacter un adulte de confiance, rapporte Unite.AI.

L'entreprise affirme aussi avoir amélioré son système de prédiction de l'âge, qui estime à partir de signaux comportementaux et liés au compte si un utilisateur a probablement moins de 18 ans, puis le redirige vers la version adolescente. Les adultes classés par erreur peuvent confirmer leur âge via Persona, le prestataire de vérification d'OpenAI. Les parents sont déjà alertés lorsqu'un compte adolescent est désactivé pour infraction aux règles sur la violence ; OpenAI dit travailler à des notifications pour les suspensions temporaires.

Des mesures pour tous les utilisateurs

Certaines règles s'appliquent quel que soit l'âge. ChatGPT fournira moins de détails sur les tueries de masse passées et leurs auteurs, y compris les armes utilisées et la manière dont elles ont été obtenues, même si ces éléments circulent ailleurs en ligne. Il restera possible d'aborder l'impact de ces événements, les signaux d'alerte et la prévention.

OpenAI teste par ailleurs des interventions automatiques : ChatGPT pourra clore une conversation dans laquelle une personne semble obsédée par la violence ou par l'idée de blesser gravement autrui, et plusieurs conversations interrompues pourront mener à une suspension temporaire du compte. Les comptes qui enfreignent les règles sur les activités violentes peuvent toujours être bannis.

Transparence et contexte

OpenAI lance en parallèle un rapport sur la sécurité communautaire, mis à jour tous les six mois ; la première édition est attendue début 2027 et couvrira le second semestre 2026, selon Unite.AI. L'entreprise affirme avoir effectué plus de 200 signalements aux forces de l'ordre pour des menaces potentielles de violence au troisième trimestre 2026, et s'appuyer sur des experts en santé mentale et en comportement pour les cas délicats.

Cette annonce intervient après un rapport de Common Sense Media publié début octobre, selon lequel la version adolescente de ChatGPT alertait souvent les parents tardivement, voire pas du tout, lorsque des jeunes évoquaient le suicide, l'automutilation ou des troubles alimentaires. OpenAI n'a pas précisé comment il mesurera l'efficacité de ces limites.