Le 16 novembre 2026, OpenAI a annoncé une série d'outils destinés à prévenir, détecter et traiter les abus sexuels sur enfants en ligne. Selon TechCrunch et The Verge, l'ensemble comporte quatre volets : un nouveau classificateur d'images de contenus pédocriminels (CSAM), des alertes et des blocages temporaires dans ChatGPT pour les utilisateurs qui tentent de créer ou d'atteindre des contenus sexualisant des enfants, des recommandations pour les développeurs, et des outils et formations assistés par l'IA pour les forces de l'ordre. OpenAI l'a présenté lors d'un point presse à Washington.
Le classificateur est la pièce maîtresse. OpenAI indique l'avoir conçu avec le National Center for Missing and Exploited Children (NCMEC) et en offrir l'accès gratuit, par son API, à des entreprises choisies et à des organisations vérifiées, en s'appuyant sur la Tech Coalition et ROOST pour le diffuser. L'outil recherche des indices visuels d'abus dans des images jamais vues et renvoie un score destiné à guider les relecteurs humains. John Buckley, responsable de la politique publique de protection de l'enfance chez OpenAI, a déclaré aux journalistes qu'il s'agit du premier classificateur de CSAM largement disponible doté d'un marqueur spécifique pour le contenu généré par IA, ce qui, selon lui, aide les enquêteurs à distinguer les images d'un enfant fictif de celles d'un enfant réel. Lors de premiers tests avec des partenaires, OpenAI affirme que le classificateur a signalé 48 % d'images en moins tout en repérant autant d'images abusives, et que les images signalées avaient deux fois plus de chances d'être abusives.
Dans ChatGPT, les utilisateurs qui formulent des demandes sexualisant des enfants verront une alerte les orientant vers une aide spécialisée. Une première infraction entraîne une pause de 24 heures de l'accès et un avertissement indiquant que le compte peut être définitivement fermé ; en cas de récidive, il peut être supprimé. OpenAI assure que l'application bloque déjà ces demandes et qu'elle signale tous les cas de CSAM au NCMEC. L'entreprise dit avoir élaboré les messages avec Protect Children, la Lucy Faithfull Foundation et Joel Scanlan, de l'université de Tasmanie, qui a évalué de façon indépendante un essai de messages dissuasifs.
Pour les développeurs, OpenAI publie des recommandations sur la prévention, la détection et le signalement des CSAM et dit que les premiers essais ont aidé plusieurs d'entre eux à adopter des outils de protection de l'enfance et à s'inscrire pour signaler au NCMEC. Pour les enquêteurs, elle propose des modules, des outils d'enquête et d'analyse de données complexes, avec un accès géré par des administrateurs de programme, ainsi qu'une formation et un guide pratique sur l'usage de l'IA dans les dossiers.
L'annonce arrive sous pression. The Verge rapporte que la CyberTipline du NCMEC a reçu 400 000 signalements liés à l'IA générative en 2025, contre 67 000 en 2024, et le procureur général de Caroline du Nord, Jeff Jackson, coprésident du groupe de travail sur l'IA de l'AG Alliance, a jugé explosive l'arrivée de ces signalements lors de l'événement d'OpenAI. Il a décrit la collaboration avec une entreprise technologique en matière de prévention comme, au fond, une expérience. The Verge ajoute que huit États ont poursuivi OpenAI le mois dernier pour des préjudices présumés causés à des enfants, et TechCrunch rappelle des procès antérieurs et une classification de risque de Common Sense Media pour les adolescents.
Les chiffres de performance proviennent de premiers tests d'OpenAI avec des partenaires et n'ont pas été reproduits de façon indépendante. La page d'annonce de l'entreprise n'a pas pu être ouverte pour ce dossier ; les détails reposent donc sur les deux articles de presse consacrés au lancement et sur l'entrée du flux d'OpenAI.