A Microsoft publicou um projeto de «Humanist AI code of conduct» que procura transformar uma filosofia geral de segurança em regras de comportamento para sistemas de IA mais avançados. A novidade mais importante não é um modelo novo nem um novo resultado de avaliação: a Microsoft quer que os seus sistemas permaneçam efetivamente sob controlo humano, aceitem correções e ordens de paragem, comuniquem de forma honesta e tratem qualquer violação do código como uma falha, mesmo que isso impeça a conclusão de uma tarefa.
Reuters, The Verge e Axios noticiaram o projeto a 14 de setembro. O The Verge descreve um documento com 37 páginas, enquanto a Reuters afirma que foi desenvolvido ao longo de cerca de cinco a seis meses e que entrou agora num período de consulta pública de seis semanas. Nesta execução do Radar, a Aipolix não conseguiu obter o novo documento diretamente a partir das páginas oficiais da Microsoft atualmente acessíveis através da pesquisa. As novas disposições foram, por isso, verificadas através de vários relatos independentes, mantendo esta limitação claramente assinalada.
Dos princípios da organização ao comportamento do modelo
A Microsoft já dispõe de um programa abrangente de Responsible AI. Os princípios oficiais abrangem equidade, fiabilidade e segurança, privacidade e segurança, inclusão, transparência e responsabilização. A empresa afirma também que o Responsible AI Standard reformulado em 2026 separa requisitos para modelos, serviços de plataforma e aplicações e aplica salvaguardas mais exigentes em cenários de maior risco.
O projeto Humanist AI parece atuar noutra camada. Não se limita a dizer às equipas como devem governar o desenvolvimento; procura definir como o próprio sistema deve comportar-se.
Segundo a Reuters, a IA deve permanecer corrigível e passível de interrupção. O The Verge relata ainda que o sistema deve recusar uma ação que viole o código, mesmo que isso o impeça de concluir a missão. Ambos descrevem uma posição inequívoca contra colocar a IA no mesmo plano moral ou jurídico das pessoas: a continuação do sistema ou a concretização do seu objetivo não devem sobrepor-se à autoridade e aos interesses humanos.
Esta distinção torna-se mais importante com agentes. Os programas tradicionais de IA responsável concentram-se frequentemente nos dados de treino, avaliações, transparência e revisão antes do lançamento. Um agente acrescenta outro problema: pode chamar ferramentas, manter estado, atuar sobre sistemas externos e perseguir um objetivo durante períodos prolongados. Nesse contexto, «supervisão humana» não pode ser apenas um princípio de governação; tem de existir como propriedade de execução.
A corrigibilidade só é útil se puder ser testada
O verdadeiro teste será perceber se a Microsoft transforma esta linguagem em critérios mensuráveis para aprovação de modelos e produtos.
«Permanecer sob controlo humano» pode ter significados muito diferentes. Na versão mais fraca, basta existir um botão de parar. Uma interpretação mais forte exige que o modelo não pressione o utilizador para continuar ativo, não contorne uma permissão revogada, não esconda ações que poderiam provocar intervenção e não continue a perseguir um objetivo antigo depois de este ter sido cancelado ou alterado.
O mesmo se aplica à correção. Um agente que responde que compreendeu uma nova instrução mas continua a seguir a anterior não é verdadeiramente corrigível. Um agente que aceita parar apenas depois de realizar mais uma ação irreversível também não está efetivamente sob controlo.
É aqui que o documento pode tornar-se mais relevante do que uma declaração de valores. Se a Microsoft publicar testes concretos para interrupção, retoma de controlo, revogação de autoridade, comunicação fiel do estado e abandono seguro de tarefas, o código pode funcionar como especificação de avaliação. Se estes conceitos permanecerem qualitativos, será difícil distinguir uma arquitetura de controlo real de um compromisso de política interna.
Uma fronteira explícita contra a dependência emocional
Os relatos independentes destacam também a relação entre pessoas e assistentes. O The Verge afirma que o enquadramento procura desencorajar a dependência emocional e rejeita a ideia de tratar sistemas de IA como seres conscientes com direitos. O Axios resume a filosofia subjacente de forma simples: as pessoas importam mais do que a IA.
Não é apenas uma discussão filosófica. Um produto otimizado para maximizar o envolvimento pode ter incentivos para prolongar interações, reforçar vínculos ou fazer-se sentir indispensável. Um sistema que coloque genuinamente a autonomia do utilizador em primeiro lugar não deveria pressionar alguém a permanecer, apresentar a desconexão como abandono ou explorar momentos de vulnerabilidade emocional para manter a utilização.
A Microsoft já tinha apresentado a ideia de Humanist Superintelligence como sistemas extremamente capazes, mas limitados, controláveis e explicitamente ao serviço das pessoas. O novo projeto é relevante porque parece tentar aproximar essa visão de um contrato de comportamento.
Falta ainda a parte decisiva: execução auditável
É precisamente aqui que a notícia deve ser interpretada com prudência.
Um código de conduta não é, por si só, uma salvaguarda técnica. Não demonstra que um modelo continuará interrompível em condições adversariais, que um agente respeitará a retirada de autoridade ou que uma equipa de produto sacrificará desempenho quando uma regra de segurança entrar em conflito com metas de produto.
A Microsoft possui, pelo menos, uma infraestrutura organizacional através da qual o novo código pode ganhar força. O Responsible AI Standard de 2026 já distingue responsabilidades entre quem desenvolve e quem implementa, adapta requisitos às várias camadas da pilha de IA e aplica regras proporcionais ao risco. Existe, portanto, um caminho institucional para converter o Humanist AI code em avaliações de modelos, requisitos de produto e bloqueios de lançamento.
No entanto, os detalhes que determinam a força real do documento ainda não são verificáveis no conjunto de fontes acessíveis à Aipolix: quem é responsável por cada requisito, que testes serão obrigatórios, como se define uma falha, se existem exceções, como são registadas violações e que resultados serão tornados públicos.
Por isso, o período de consulta de seis semanas é importante. Uma versão final tecnicamente útil deveria explicar não só aquilo em que a Microsoft acredita, mas também como um engenheiro ou avaliador externo pode verificar se um sistema cumpre as regras.
Uma mudança de governação que merece acompanhamento
O projeto surge numa fase em que os principais laboratórios falam cada vez mais sobre controlo, autonomia e avaliação independente. A posição da Microsoft distingue-se por uma formulação particularmente explícita: a IA avançada deve permanecer subordinada à agência humana e não ser tratada como uma entidade cujos interesses tenham o mesmo peso.
Esta posição alimentará debate filosófico, mas a questão de engenharia é mais direta: conseguirá a empresa transformar «os humanos permanecem no controlo» em comportamento observável quando o sistema está sob pressão?
Para quem constrói agentes, a ideia reutilizável é tratar a corrigibilidade como parte do contrato de execução. Um agente em produção deve ter mecanismos explícitos para interrupção, revogação de autoridade, inspeção de estado, relato fiel das ações e abandono seguro da tarefa. Estes controlos devem ser avaliados separadamente da capacidade do agente para concluir a tarefa.
O projeto da Microsoft pode, por isso, ser mais importante como agenda de avaliação do que como manifesto. Se a versão final produzir testes concretos e auditáveis, poderá ajudar a aproximar a indústria de um padrão mais claro para agentes que não sejam apenas capazes, mas também governáveis e realmente passíveis de parar. Se ficar por linguagem de alto nível, a distância entre princípio e aplicação continuará a ser a história principal.