Question écrite ✓ Répondue le 22/10/2026 #23#10#

Attention au danger de « ChatGPT for teens »

Posée le 03/09/2026 · Ministère interrogé : Intelligence artificielle et numérique

Alexandre BasquinCRCE-K Sénateur — Nord

La question

M. Alexandre Basquin attire l'attention de Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle, énergétique et numérique, chargée de l'intelligence artificielle et du numérique sur le lancement, par OpenAI, de « ChatGPT for teens » (ou « ChatGPT pour ados »). Il préciser tout d'abord que sa question écrite a été rédigée sans l'aide d'une intelligence artificielle générative. Le 18 août 2026, l'entreprise américaine OpenAI a lancé sa nouvelle application en direction des mineurs. Sous couvert de limiter l'utilisation problématique de ChatGPT par des adolescents, ce qui est d'ailleurs un aveu implicite que ChatGPT est un outil dangereux, voilà donc un nouvel avatar qui leur est destiné. Pire, cette application se veut être un outil éducatif interactif. Ne soyons pas naïfs. Derrière cette prétendue bonne volonté d'OpenAI, se cache toujours la même volonté de rendre addicts nos enfants afin de monétiser leur attention. Sans oublier que l'intelligence artificielle reste conçue pour ne pas contredire ses utilisateurs, ce qui peut encourager les idées négatives et contribuer à une spirale d'anxiété. Comme l'ont montré de nombreuses études, les géants de la « Tech » mettent tout en oeuvre, à travers notamment des algorithmes comportementaux et ciblés, pour que nos enfants passent de plus en plus de temps devant leurs écrans. Ils peuvent même être programmés pour prédire et modifier leurs comportements. « ChatGPT for teens » s'inscrit dans cette même logique avec tous les dangers que cela implique pour ses jeunes utilisateurs. L'intelligence artificielle générative a un impact sur les fonctions cognitives et renforce, notamment, la dépendance affective et la perte d'autonomie. Certains chercheurs parlent même de « camisole mentale ». C'est d'ailleurs avec ces mêmes arguments qu'a été présentée la légitime proposition de loi sur l'interdiction des réseaux sociaux aux moins de 15 ans. Ce qui est vrai pour les réseaux sociaux devrait l'être également pour l'intelligence artificielle générative. Il lui demande donc si le Gouvernement entend interdire « ChatGPT for teens ».

✓ Réponse du gouvernement

Publiée le 22/10/2026

Le Gouvernement porte une attention toute particulière à la protection de l'enfance, laquelle constitue une priorité de son action. Cet engagement se traduit notamment par le renforcement des mesures visant à protéger les mineurs dans l'environnement numérique. Si les agents conversationnels fondés sur l'intelligence artificielle (IA) générative sont porteurs de perspectives en matière d'innovation, ils doivent être conçus d'une manière centrée sur les besoins de l'enfant et utilisés avec un accompagnement approprié. Il est indispensable de s'assurer que le développement de ces outils auprès des jeunes générations se réalise dans des conditions optimales de protection et de sécurité des mineurs. Les risques et problématiques liés à l'usage des chatbots par les adolescents peuvent se rapprocher de certains risques observés lors de l'usage des réseaux sociaux et suscitent certaines préoccupations (atteintes aux fonctions cognitives, identification et attachement relationnel, perte d'autonomie, etc.). Dans cette perspective, le Gouvernement a missionné en février 2026 le conseil de l'intelligence artificielle et du numérique pour approfondir son expertise sur les risques que soulèvent l'IA générative sur l'ensemble de la population, et particulièrement sur les mineurs. Une commission spécialisée « IA générative et vulnérabilités » a ainsi été constituée, composée d'experts indépendants issus de disciplines variées en addictologie, psychiatrie et IA. Ses travaux, qui seront rendus prochainement, permettront d'identifier les vulnérabilités les plus critiques engendrées par l'IA générative et évaluer leur impact sur les utilisateurs, avec une attention particulière sur les mineurs dans le but de formuler des recommandations de politiques publiques au Gouvernement et de disposer d'une compréhension actualisée et scientifiquement fondée des enjeux de protection. Au-delà de ces travaux au niveau national, le Gouvernement entend également mener son action d'impulsion en coordination avec nos partenaires internationaux. L'encadrement de ces nouveaux services d'agents conversationnels, essentiellement trans-frontières, ne peut être exclusivement pensée en termes hexagonaux. Dans le cadre de la présidence française du G7 en mai 2026, le Gouvernement a obtenu l'adoption d'un « ensemble de principes communs définissant un espace numérique plus sûr et plus protecteur pour les mineurs ». Les pays du G7 y reconnaissent notamment que « les nouvelles technologies telles que l'IA générative, notamment les agents conversationnels (chatbots), bien que présentant des avantages, peuvent reproduire ou exacerber, sous de nouvelles formes, les risques existants auxquels sont exposés les mineurs. » Au-delà de ce constat, cette déclaration ambitieuse avance des principes et voies d'action prometteuses : promouvoir la sécurité dès la conception du service, à travers des paramètres de protection et par défaut, prévenir l'exposition à des contenus inadaptés à l'âge ; développement d'outils de contrôle parental simples d'utilisation, efficaces et respectueux de la vie privée ; renforcer l'acquisition des connaissances et des compétences nécessaires à une meilleure compréhension des systèmes numériques, ainsi qu'à l'exercice d'un esprit critique vis-à-vis des technologies numériques, des médias et de l'information. Le Gouvernement engage surtout une action d'influence déterminante au niveau de l'Union européenne afin que la protection des mineurs en ligne soit dans les priorités de l'agenda numérique européen. L'annonce récente par la Commission européenne d'un projet « Kids Act » illustre la portée des efforts engagés. Ce nouveau règlement portera tout autant sur les réseaux sociaux, que les plateformes de partage de vidéos, les IA génératives et conversationnelles ou encore les jeux vidéo. Il conviendra lors de ce débat d'examiner si les voies d'action envisagées notamment en ce qui concerne les réseaux sociaux (fixation d'un seuil d'âge minimal en-deçà duquel l'accès est interdit, règles de sécurité dès la conception, etc.) sont opportunes en ce qu'il s'agit des services d'agents conversationnels, tout en préservant les opportunités d'apprentissage et d'innovation qu'offrent ces technologies.

Source : senat.fr ↗