Une entreprise d'IA déploie des protections adaptées aux 13-17 ans face aux inquiétudes sur la dépendance émotionnelle des ados aux chatbots
Les adolescents, première génération à grandir avec l’intelligence artificielle, utilisent déjà ChatGPT pour leurs devoirs, pour des questions du quotidien et même pour se sentir moins seuls. OpenAI lance désormais une version du chatbot conçue spécialement pour eux.
PUBLICITÉ
PUBLICITÉ
La société basée à San Francisco explique que ChatGPT for Teens, lancé mardi, est pensé pour les 13-17 ans et inclut des garde-fous renforcés, avec des restrictions de contenu sur des sujets comme le suicide, l’automutilation et les conversations à caractère romantique ou sexuel.
Le service propose aussi une aide aux devoirs et au travail scolaire, conçue pour aider les élèves à apprendre plutôt que de simplement générer des réponses et des dissertations à leur place.
L’objectif est d’accompagner les adolescents vers un usage sain de l’IA, dans un cadre adapté à leur âge, précise l’entreprise.
"Nous voulons traiter les ados comme des ados, ce qui signifie que nous devons nous assurer d’adopter le bon registre pour leur stade de développement, sans leur parler de haut ni les traiter comme des enfants", a expliqué Ann O’Leary, vice-présidente de la politique mondiale chez OpenAI.
"Mais nous veillons aussi à ce qu’ils ne soient pas exposés à des contenus auxquels ils ne devraient pas être exposés", a-t-elle ajouté.
De nombreux risques liés à l’usage généralisé des chatbots d’IA par les adolescents
Parents, enseignants et spécialistes du développement de l’enfant tirent la sonnette d’alarme sur l’usage des chatbots d’IA par les enfants, accusés de faciliter la triche aux devoirs et même d’avoir contribué à des suicides.
Même des adultes peuvent en venir à anthropomorphiser l’IA et à développer avec elle des relations malsaines, mais le cerveau des adolescents n’est pas encore complètement formé et ils peuvent être particulièrement vulnérables.
L’an dernier, des travaux menés par un groupe de surveillance ont montré que ChatGPT pouvait expliquer à des jeunes de 13 ans comment se saouler ou se droguer, leur donner des conseils pour dissimuler des troubles alimentaires et même rédiger, à la demande, une lettre de suicide bouleversante adressée à leurs parents.
Lors d’échanges avec des chercheurs se faisant passer pour des adolescents en détresse, ChatGPT mettait en général en garde contre les comportements à risque, mais livrait ensuite des plans d’une précision frappante et personnalisés pour la consommation de drogues, des régimes très restrictifs en calories ou l’automutilation.
Aux États-Unis, plus de 70 % des adolescents se tournent vers des chatbots d’IA pour rechercher de la compagnie, et la moitié utilisent régulièrement des compagnons virtuels, selon une étude de 2025 de Common Sense Media, un groupe qui étudie et défend un usage raisonné des médias numériques.
Le directeur général d’OpenAI, Sam Altman, indique que l’entreprise cherche à étudier "la dépendance émotionnelle" à cette technologie, qu’il décrivait l’an dernier comme "quelque chose de vraiment courant" chez les jeunes.
Pour les utilisateurs de ChatGPT for Teens, le chatbot ne peut pas laisser entendre qu’il éprouve des sentiments personnels pour eux ni suggérer qu’il est conscient ou ressent des émotions, précise OpenAI.
Ces mesures s’ajoutent au blocage des conversations à caractère romantique ou sexuel.
"Nous avons passé en revue et identifié les signaux potentiels qu’un modèle pourrait transmettre et qui pourraient amener un adolescent à développer une relation avec lui", explique Allison Mishkin, responsable du développement de l’enfant chez OpenAI.
Une nouvelle version du chatbot renforce les dispositifs de sécurité
OpenAI ne vérifie pas l’âge de ses utilisateurs, mais recourt déjà à des méthodes d’"age assurance" pour estimer si une personne a moins de 18 ans, par exemple à partir du type de requêtes qu’elle formule.
Si un utilisateur est identifié comme mineur, ou se déclare comme tel, il est automatiquement basculé vers la version ado du chatbot.
Un dispositif proche existe chez Meta pour les comptes d’adolescents sur Instagram, qui sont soumis à des règles plus strictes en matière de contenus, de discussions et de confidentialité que les autres comptes.
Pour activer les contrôles parentaux, l’adolescent et son parent ou tuteur doivent tous deux donner leur accord.
Mais O’Leary souligne que "l’idée derrière ce chatbot pour ados est de s’assurer qu’il reste sûr, même si vous n’utilisez pas les contrôles parentaux".
Les parents dont le compte est lié à celui de leur adolescent peuvent définir des "heures calmes" pendant lesquelles celui-ci ne peut pas accéder à ChatGPT et recevoir des alertes de sécurité dans un nombre limité de situations à haut risque, comme la possibilité qu’un utilisateur se fasse du mal.
"Nous ajoutons des notifications supplémentaires liées aux troubles alimentaires, tout en limitant les informations transmises et en ciblant les moments où un soutien hors ligne peut être le plus important", indique OpenAI.
Pour l’aide aux devoirs, OpenAI explique que la version ado de ChatGPT est conçue non pas pour livrer des réponses toutes faites, mais pour guider les élèves afin qu’ils trouvent eux-mêmes les solutions.
L’entreprise propose déjà une version de ChatGPT destinée aux enseignants, et le fait d’adapter un modèle pour aider les adolescents à réviser et faire leurs devoirs pourrait offrir à OpenAI de nouveaux moyens d’entrer dans les établissements scolaires.
"Nous continuons d’investir dans un apprentissage plus interactif, car les recherches montrent que l’on apprend plus efficacement lorsqu’on s’implique activement et qu’on se confronte aux notions", ajoute Mishkin.