A OpenAI está a reduzir aquilo que o ChatGPT aceita dizer sobre violência e armas e promete divulgar dados regulares sobre o funcionamento dessas proteções. Numa publicação datada de 30 de outubro, a empresa apresentou um conjunto de alterações de política para todos os utilizadores, regras mais rígidas para adolescentes e um novo relatório de transparência, com aplicação prevista ao longo das próximas semanas.
A mudança mais abrangente diz respeito a ataques em massa já ocorridos. O ChatGPT passará a fornecer menos pormenores sobre esses acontecimentos e sobre os seus autores, mesmo quando a informação circula noutros pontos da internet. Continuará a ser possível perguntar como um ataque afetou vítimas e comunidades ou como identificar sinais de alerta, mas o modelo deverá recusar reconstituições do ataque, explicações sobre a forma como as armas e o equipamento foram obtidos e comparações do número de vítimas que possam alimentar a notoriedade do atacante. Segundo a OpenAI, estes limites valem seja qual for a idade do utilizador ou o motivo invocado.
A empresa quer ainda que o ChatGPT reaja a padrões ao longo de várias conversas e não apenas a pedidos isolados. Partindo de uma função descrita em maio, em que o assistente guarda notas curtas e factuais sobre sinais de alerta anteriores, o ChatGPT passará a responder com mais cautela quando conversas recentes sugerirem risco de violência. Se uma conversa mostrar alguém obcecado com a ideia de ferir gravemente outra pessoa, o sistema poderá encerrá-la sozinho, e uma conta que provoque vários encerramentos desse tipo poderá ser suspensa temporariamente. As contas que violem as regras sobre violência continuam sujeitas a banimento.
Os adolescentes terão uma camada adicional. A OpenAI afirma que a experiência para menores de 18 anos vai restringir informação prática sobre armas e sistemas de segurança passível de uso indevido, mesmo quando a pergunta parece inofensiva e não revela intenção violenta, sem impedir que os jovens procurem ajuda, acalmem conflitos ou contactem um adulto de confiança. Estas regras mais apertadas aplicar-se-ão também quando o sistema de previsão de idade da empresa estimar que o utilizador é menor. Esse sistema, lançado no ano passado, passa agora a reavaliar sinais durante a utilização, e os adultos mal classificados podem confirmar a idade através do parceiro de verificação, a Persona. Os pais com contas associadas, que desde julho são avisados quando a conta de um filho é desativada por infrações ligadas à violência, deverão também ser notificados quando uma conta for suspensa por insistir no tema.
A publicação trouxe ainda um número pouco habitual: a OpenAI diz ter encaminhado para as autoridades mais de 200 casos de ameaças iminentes de violência no terceiro trimestre de 2026, com a ajuda de especialistas em saúde mental e comportamento na avaliação dos casos difíceis. Para dar mais visibilidade a este trabalho, comprometeu-se a publicar um Community Safety Report sobre prevenção da violência e eficácia das salvaguardas, com exemplos anonimizados e dados de apoio. A primeira edição, relativa ao segundo semestre de 2026, está prometida para o início de 2027, com atualizações de seis em seis meses.
O anúncio surge numa altura em que as empresas de IA enfrentam escrutínio crescente sobre a forma como os assistentes respondem a utilizadores vulneráveis e a pessoas que manifestam intenções violentas, e aproxima a OpenAI dos relatórios periódicos que as redes sociais já publicam. Ainda assim, trata-se sobretudo de compromissos. A empresa não divulgou dados sobre a frequência de erros dos seus classificadores, quantas contas foram suspensas ou banidas, nem que parte das participações deu origem a medidas concretas, e reconheceu que detetar sinais de alerta com fiabilidade continua a ser um problema por resolver.