OpenAI renforce la sécurité de ChatGPT pour les mineurs face aux questions sur les armes
OpenAI a annoncé le 30 octobre qu’elle allait limiter l’accès à l’information sur les armes via ChatGPT pour les utilisateurs de moins de 18 ans, même lorsque les questions posées semblent anodines. Cette mesure s’inscrit dans un ensemble de protections visant à prévenir la violence réelle, et sera mise en œuvre dans les prochaines semaines.
La version de ChatGPT destinée aux adolescents restreindra désormais l’accès aux informations pratiques sur les armes et les systèmes de sécurité susceptibles de faciliter des actes violents. Cette limitation s’applique même en l’absence de signes d’intention violente dans la conversation.
Les politiques d’OpenAI interdisaient déjà de faciliter la planification ou l’exécution d’actes violents, et limitaient l’aide apportée aux adolescents pour l’acquisition d’armes. La nouvelle règle étend cette protection aux données pratiques qui n’étaient pas couvertes auparavant.
Les adolescents pourront continuer à utiliser ChatGPT pour prévenir ou désamorcer la violence, rechercher du soutien et contacter un adulte de confiance, a précisé l’entreprise.
OpenAI a renforcé son système de prédiction d’âge, lancé l’année dernière, pour déterminer si un utilisateur est mineur. Ce système analyse différents éléments, tels que les schémas de comportement, afin d’estimer l’âge de l’utilisateur et redirige les adolescents vers une version de ChatGPT avec des protections accrues. Les utilisateurs identifiés par erreur comme mineurs peuvent confirmer leur âge adulte via un processus rapide via Persona, le partenaire de vérification d’âge d’OpenAI, ce qui leur permettra de supprimer les protections supplémentaires.
Pour tous les utilisateurs, quel que soit leur âge ou le motif de leur requête, ChatGPT fournira moins de détails sur les attaques massives passées, notamment concernant les armes et l’équipement utilisés, leur acquisition et la comparaison de l’ampleur des dégâts, afin d’éviter d’augmenter la notoriété de l’agresseur. L’aide pour comprendre ces événements, l’impact sur les victimes et les signes avant-coureurs pour prévenir de nouveaux cas restera accessible.
Si une conversation révèle une obsession pour la violence ou une volonté de causer un préjudice grave à autrui, ChatGPT pourra automatiquement interrompre la discussion. Des occurrences répétées pourraient entraîner une suspension temporaire du compte.
Dans le cadre du contrôle parental, les parents peuvent lier leur compte à celui de leurs enfants. En juillet, OpenAI avait déjà étendu les alertes pour les informer de la désactivation du compte de l’adolescent en cas de violation des règles relatives à la violence. L’entreprise travaille actuellement à notifier également les suspensions de compte liées à des discussions répétées sur la violence.
OpenAI a signalé avoir effectué plus de 200 signalements aux autorités au troisième trimestre 2026 pour menaces de violence imminentes, et affirme que ces signalements ont contribué à faire échouer des projets violents. Cet annonce intervient dans un contexte d’examen accru des entreprises d’IA en raison des risques liés aux chatbots pour les jeunes. L’organisation à but non lucratif Common Sense Media avait récemment souligné que la version pour adolescents de ChatGPT tardait à informer les parents lorsque des conversations sur le suicide, l’automutilation ou les troubles alimentaires étaient détectées.
OpenAI publiera son premier rapport de sécurité communautaire au début de 2027, avec des données du deuxième semestre de 2026, et le mettra à jour tous les six mois.