A 16 de novembro de 2026, a OpenAI anunciou um conjunto de ferramentas destinadas a ajudar a prevenir, detetar e responder ao abuso sexual de crianças em linha. Segundo o TechCrunch e o The Verge, o pacote tem quatro partes: um novo classificador de imagens de material de abuso sexual de menores (CSAM), avisos e bloqueios temporários no ChatGPT para quem tente criar ou aceder a conteúdo que sexualize crianças, orientações para programadores e ferramentas e formação com apoio de IA para as forças de segurança. A OpenAI apresentou-o numa conferência de imprensa em Washington, D.C.
O classificador é a peça central. A OpenAI diz que o desenvolveu com o National Center for Missing and Exploited Children (NCMEC) e que oferece acesso gratuito, através da sua API, a empresas selecionadas e a organizações verificadas, trabalhando com a Tech Coalition e a ROOST para o partilhar. A ferramenta procura sinais visuais de abuso em imagens que nunca viu e devolve uma pontuação destinada a orientar revisores humanos. John Buckley, responsável pela política pública de segurança infantil da OpenAI, disse aos jornalistas tratar-se do primeiro classificador de CSAM amplamente disponível com um indicador específico para material gerado por IA, o que, segundo ele, ajuda os investigadores a distinguir imagens de uma criança fictícia de imagens de uma criança real. Em testes iniciais com parceiros, a OpenAI afirma que o classificador sinalizou 48 % menos imagens e encontrou o mesmo número de imagens abusivas, e que as imagens sinalizadas tinham o dobro da probabilidade de serem abusivas.
No ChatGPT, quem tentar pedidos que sexualizem crianças verá um aviso que o encaminha para apoio especializado. A primeira infração implica uma pausa de 24 horas no acesso e um aviso de que a conta pode ser encerrada de forma permanente, e a reincidência pode levar à remoção. A OpenAI diz que a aplicação já bloqueia esses pedidos e que comunica todos os casos de CSAM ao NCMEC. A empresa afirma que formulou as mensagens com a Protect Children, a Lucy Faithfull Foundation e Joel Scanlan, da Universidade da Tasmânia, que avaliou de forma independente um ensaio de mensagens dissuasoras.
Para programadores, a OpenAI publica orientações sobre como prevenir, detetar e denunciar CSAM e diz que os primeiros testes ajudaram vários deles a adotar ferramentas de proteção infantil e a registar-se para comunicar ao NCMEC. Para investigadores, oferece extensões, ferramentas de investigação e análise de dados complexos, com o acesso gerido por administradores de programa, além de formação e de um guia prático sobre o uso de IA nos casos.
O anúncio surge sob pressão. O The Verge refere que a CyberTipline do NCMEC recebeu 400 000 denúncias ligadas a IA generativa em 2025, contra 67 000 em 2024, e o procurador-geral da Carolina do Norte, Jeff Jackson, que copreside o grupo de trabalho de IA da AG Alliance, classificou de explosivo o afluxo dessas denúncias no evento da OpenAI. Descreveu a colaboração com uma empresa tecnológica na prevenção como, no fundo, uma experiência. O The Verge acrescenta que oito estados processaram a OpenAI no mês passado por alegados danos a crianças, e o TechCrunch recorda processos anteriores e uma classificação de risco da Common Sense Media para adolescentes.
Os números de desempenho vêm de testes iniciais da OpenAI com parceiros e não foram reproduzidos de forma independente. A página de anúncio da própria empresa não pôde ser aberta para este pacote, pelo que os pormenores aqui descritos se apoiam nas duas notícias sobre o lançamento e na listagem do feed da OpenAI.