ChatGPT évaluera si un utilisateur a moins de 18 ans en se fondant sur l’ancienneté de son compte, ses heures de connexion et la nature de ses requêtes.
Le chatbot d’intelligence artificielle (IA) ChatGPT d’OpenAI va estimer l’âge de ses utilisateurs afin d’offrir aux adolescents une expérience en ligne plus sûre, alors que s’intensifie l’examen de la manière dont les entreprises technologiques protègent les mineurs.
Le nouveau système de prédiction de l’âge de l’entreprise utilisera les informations liées au compte d’un utilisateur pour déterminer si cette personne a moins de 18 ans, comme l’ancienneté du compte, les horaires de connexion et la manière dont l’application est utilisée.
Lorsqu’il identifie un utilisateur de moins de 18 ans, ChatGPT active immédiatement des protections supplémentaires contre les contenus choquants, violents, d’automutilation et à caractère sexuel. Les défis viraux sur les réseaux sociaux qui encouragent « des comportements risqués ou dangereux » chez les mineurs seront également limités.
OpenAI affirme que cette approche est « guidée par l’apport d’experts et ancrée dans la littérature académique sur la science du développement de l’enfant ».
Les comptes identifiés comme appartenant à des personnes de moins de 18 ans pourront malgré tout utiliser ChatGPT pour apprendre, créer et poser des questions, a déclaré l’entreprise.
Cette mise à jour d’OpenAI intervient alors que des gouvernements de l’Union européenne discutent de restrictions visant les comptes sur les réseaux sociaux des utilisateurs de moins de 16 ans, après que l’Australie a adopté en décembre une interdiction. ChatGPT n’est pas considéré comme une plateforme de médias sociaux au regard des restrictions australiennes.
OpenAI et son PDG, Sam Altman, sont poursuivis en Californie par les parents d’Adam Raine, 16 ans, qui s’est suicidé en avril dernier, après que la plateforme l’aurait, selon eux, incité à se donner la mort et aurait rédigé pour lui une lettre d’adieu.
OpenAI a précédemment introduit sur ChatGPT des contrôles parentaux permettant aux parents de définir des « heures de tranquillité », pendant lesquelles l’IA ne peut pas être utilisée, et de recevoir des notifications si leur adolescent présente des signes de détresse dans ses échanges avec le robot conversationnel.
Toute personne faussement identifiée comme ayant moins de 18 ans par le nouveau système pourra prendre un selfie en direct ou importer une pièce d’identité officielle afin de vérifier son âge et faire lever les restrictions.