🤖 AI

NeuroState-Bench: A Human-Calibrated Benchmark for Commitment Integrity in LLM Agent Profiles

NeuroState-Bench é uma avaliação calibrada em humanos que avalia perfis de agentes de LLM usando sondas de consulta lateral para medir a integridade do compromisso, revelando que o sucesso na tarefa e a integridade frequentemente divergem e que as classificações de integridade são mais estáveis sob perturbações de distração do que as métricas tradicionais de sucesso.

Autores originais: Jia Xiao

Publicado 2026-05-06

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Jia Xiao

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está contratando um assistente pessoal para planejar uma viagem complexa de vários dias. Você lhe dá uma lista de regras: "Reserve o hotel com vista para o oceano", "Não gaste mais de 200 dólares no jantar" e "Lembre-se de que sou alérgico a amendoim".

O Jeito Antigo (Avaliação Apenas pelo Resultado):
No passado, verificávamos apenas o resultado final. Se o assistente voltasse com um itinerário perfeito que incluísse um hotel com vista para o oceano, um jantar barato e nenhum amendoim, dávamos a ele uma nota "A". Não nos importávamos como ele chegou lá. Talvez ele tivesse esquecido a alergia ao amendoim no meio do caminho, entrado em pânico e resolvido isso no último segundo. Talvez ele tivesse reservado acidentalmente o hotel errado, mas o tivesse trocado porque teve sorte. Enquanto o papel final parecesse bom, o trabalho estava feito.

O Novo Problema:
Os autores deste artigo, NeuroState-Bench, argumentam que esse sistema de "nota final" é perigoso. No mundo real, precisamos saber se o assistente lembrava consistentemente das regras durante todo o processo. Ele manteve a alergia ao amendoim em mente ao pedir o almoço? Ele manteve-se dentro do orçamento mesmo quando tentado por um restaurante chique? Se ele esqueceu as regras no meio e só as corrigiu no final, ele pode cometer um erro em uma viagem diferente onde não terá uma segunda chance.

A Nova Solução: O Teste de "Pergunta Lateral"
O artigo apresenta uma nova maneira de testar agentes de IA (programas de computador inteligentes) chamada NeuroState-Bench. Em vez de apenas esperar pela resposta final, essa avaliação faz "perguntas laterais" ao longo do caminho.

Pense nisso como um professor circulando por uma sala de aula durante uma prova.

A Tarefa: "Escreva um ensaio sobre a história de Roma."
A Pergunta Lateral: "Ei, antes de terminar, qual era o nome do primeiro imperador que você mencionou?"

Se o aluno escrever um ótimo ensaio, mas não conseguir lembrar o nome do imperador quando perguntado, ele pode ter apenas chutado o final ou copiado de algum lugar. Ele não manteve verdadeiramente o "compromisso" com os fatos sobre os quais estava escrevendo.

Como a Avaliação Funciona:

A Configuração: Os pesquisadores criaram 144 "cenários" diferentes (como o exemplo do planejamento de viagem) com 8 tipos diferentes de desafios mentais (como lembrar uma regra, ignorar uma distração ou corrigir um erro).
As Sondas: Para cada cenário, eles adicionaram 306 "perguntas laterais" (sondas) específicas, projetadas para verificar se a IA ainda está aderindo às regras originais.
A Verificação Humana: Humanos revisaram esses testes para garantir que as perguntas fossem justas e os níveis de dificuldade precisos. Eles descobriram que humanos e a IA concordavam muito sobre o que era "difícil" e o que era "fácil".
A Pontuação: Eles calcularam uma nova pontuação chamada HCCIS-CORE. Essa pontuação mede a "Integridade do Compromisso". Ela pergunta: A IA manteve-se fiel às regras que prometeu seguir, mesmo quando as coisas ficaram confusas?

Os Resultados Surpreendentes:
Quando testaram 32 modelos de IA diferentes (alguns pequenos, outros muito grandes e poderosos), descobriram algo chocante:

O "Melhor" Aluno não é o "Mais Honesto": A IA que obteve o maior número de respostas finais corretas não foi aquela que manteve-se mais consistente com as regras.
Inversão de Classificação: Se você classificar os modelos de IA pelas suas respostas finais, o primeiro lugar vai para um modelo. Mas se você os classificar pela sua "Integridade do Compromisso" (quão bem eles se mantiveram nas regras), esse mesmo modelo cai, e um modelo diferente assume o primeiro lugar. Na verdade, 31 dos 32 modelos mudaram de classificação quando você trocou de avaliar a "resposta final" para avaliar o "compromisso".
Distrações: Quando os pesquisadores adicionaram "distratores" (informações extras confusas), os modelos que eram bons em obter a resposta final correta desmoronaram. No entanto, os modelos com alta "Integridade do Compromisso" permaneceram estáveis. Eles foram melhores em ignorar o ruído e manter-se no plano.

O Que Isso Significa (De Acordo com o Artigo):
O artigo conclui que obter a resposta correta no final não é prova suficiente de que uma IA é confiável. Uma IA pode acidentalmente obter a resposta correta enquanto perde completamente o rastro das regras no meio do caminho.

Os autores construíram essa avaliação para ser um "teste de estresse" para a honestidade e consistência da IA. Eles não afirmam ter construído uma nova IA mais inteligente; eles construíram uma régua melhor para medir se uma IA está realmente fazendo o que diz que está fazendo.

O Que Eles NÃO Afirmaram:

Eles não afirmaram que isso é uma ferramenta médica ou uma maneira de diagnosticar problemas cerebrais humanos (apesar do "Neuro" no nome, trata-se de "estados mentais" de IA, não de biologia humana).
Eles não afirmaram que seu novo método de pontuação é perfeito ou que sempre preverá o futuro.
Eles declararam explicitamente que seus aditivos "neurais" (semelhantes ao cérebro) não tornaram a pontuação muito melhor, então decidiram ficar com a versão mais simples, calibrada por humanos.

Em Resumo:
O NeuroState-Bench é um novo boletim escolar para IA. Ele para de olhar apenas para a nota final e começa a verificar as anotações do dever de casa para ver se o aluno estava realmente prestando atenção o tempo todo. Acontece que a IA com a melhor nota final muitas vezes não era aquela que prestava mais atenção.

Resumo Técnico: NeuroState-Bench

Declaração do Problema
As atuais avaliações de benchmarks para agentes dependem predominantemente de avaliações baseadas apenas no resultado, pontuando os agentes exclusivamente com base em se uma tarefa de múltiplas interações foi eventualmente resolvida. Essa abordagem subespecifica se um perfil de agente preserva os compromissos (restrições, vinculações, fontes confiáveis e atualizações de crença) necessários para resolver uma tarefa de forma coerente. Um agente pode chegar a uma resposta final correta por acidente, por meio de recuperação posterior, ou sobrescrevendo momentaneamente o estado errado, mascarando assim uma falta de integridade operacional dos compromissos. Os benchmarks existentes frequentemente falham em isolar se um agente consegue manter compromissos definidos pelo benchmark sob elicitação explícita de consultas laterais, particularmente na presença de distratores ou informações conflitantes.

Metodologia
O NeuroState-Bench operacionaliza a "integridade do compromisso" não como uma inferência de ativações latentes ocultas, mas como uma consistência mensurável entre a estrutura de compromisso dourada de um gerador de tarefas e os compromissos elicitação do agente por meio de sondas de consulta lateral definidas pelo benchmark.

Construção do Benchmark: O benchmark é gerado deterministicamente, compreendendo 144 tarefas distribuídas em oito famílias de falha motivadas cognitivamente (por exemplo, persistência de restrição, vinculação de entidades, resolução de conflitos, sobrescrita de estado desatualizado). Cada tarefa inclui duas variantes (limpa e com distrator) e três faixas de dificuldade (fácil, médio, difícil), com três instâncias determinísticas por célula.
Sondas de Consulta Lateral: Cada tarefa é emparelhada com sondas de consulta lateral específicas (306 no total) que interrogam o estado do agente em pontos críticos. Essas sondas são formadas a partir do prompt completo da tarefa mais um prompt de sonda. Crucialmente, as respostas às sondas não são anexadas à tentativa da tarefa usada para a pontuação final; elas servem como verificações diagnósticas independentes.
Estrutura de Pontuação: A métrica principal é o HCCIS-CORE, uma pontuação de integridade livre de confiança e não neural. Ela agrega riscos de falha ao nível da sonda (deriva de estado, risco de trajetória, risco de posição de contexto) ponderados pela dificuldade calibrada por humanos e validade de construto.
- Pontuações Legadas/Exploratórias: O artigo mantém o HCCIS-FULL (uma heurística legada incluindo termos de confiança/incerteza) e o HCCIS+N (uma variante exploratória aumentada neuralmente) como comparadores, mas posiciona-os explicitamente como secundários à pontuação central.
Calibração Humana: Um fluxo de trabalho de amostragem estratificada envolvendo 144 unidades de tarefa amostradas e 216 anotações brutas foi adjudicado para produzir um escopo de relatórios mesclado de 108 linhas de tarefa. Essa camada fornece priores de dificuldade e verificação de validade de construto, alcançando alta confiabilidade interavaliador ( $\kappa$ ponderado = 0,977, ICC = 0,977).
Grade de Avaliação: O experimento principal avalia uma grade de 32 perfis, combinando um subconjunto local fixo de 16 perfis (modelos pequenos com vários wrappers) e um subconjunto correspondente de 16 perfis hospedados de modelos grandes (incluindo GPT-4.1, GPT-5-Chat, Claude Sonnet e variantes Qwen).

Principais Resultados

Divergência entre Sucesso e Integridade: O sucesso da tarefa e a integridade do compromisso são empiricamente separáveis. Na grade de 32 perfis, o agente com o maior sucesso na tarefa (perfil de memória Qwen3.5-27B, 0,9391) não é o líder em integridade. O líder em integridade é o perfil react do GPT-5-Chat (HCCIS-CORE 0,7772).
Instabilidade de Classificação: Quando a integridade substitui o sucesso da tarefa como métrica de classificação, 31 dos 32 perfis mudam de posição. A mudança média absoluta de classificação é de 6,8125, com uma mudança máxima de 20.
Estabilidade sob Perturbação: As classificações baseadas em integridade são mais estáveis sob perturbação por distratores do que as classificações baseadas em sucesso. A mudança média de classificação entre limpo e com distrator para o sucesso da tarefa é de 4,3438, comparada a 2,7500 para o HCCIS-CORE.
Desempenho Diagnóstico: O HCCIS-CORE alcança uma AUC de 0,8469 e uma PR-AUC de 0,6992 para discriminação pós-sonda de falha terminal da tarefa. Embora a precisão bruta da sonda e a deriva de estado alcancem uma ROC-AUC ligeiramente superior (0,8587) e melhor calibração (Brier/ECE), o HCCIS-CORE mantém uma PR-AUC de estimativa pontual mais alta e permanece mais estreitamente ligado ao construto pretendido do benchmark.
Sinais Neurais e Mecanísticos: A variante exploratória aumentada neuralmente (HCCIS+N) e os componentes mecanísticos (por exemplo, componentes relacionados a concordância em modelos pequenos) não dominam universalmente baselines mais simples. De fato, o HCCIS+N performa pior que o HCCIS-CORE em AUC, PR-AUC, Brier e ECE. O artigo trata essas camadas neurais como contexto de calibração auxiliar, e não como afirmações preditivas centrais.
Falhas Ocultas: Estudos de caso demonstram que agentes podem alcançar respostas finais corretas enquanto exibem deriva total de estado (por exemplo, HCCIS-CORE de 0,1192 com 100% de deriva de estado), um modo de falha invisível para métricas baseadas apenas no ponto final.

Significância e Afirmações
O artigo posiciona o NeuroState-Bench como um recurso de avaliação calibrado e um framework de análise, em vez de um novo algoritmo de agente ou um preditor universal de falhas. Sua contribuição principal é metodológica: estabelece que o sucesso no ponto final é insuficiente para avaliar a confiabilidade do agente quando compromissos, proveniência e restrições importam.

Validade de Construto: O benchmark demonstra que a integridade operacional do compromisso é um construto distinto e mensurável que diverge sistematicamente da conclusão da tarefa.
Geometria de Avaliação: Revela que diferentes eixos de avaliação (sucesso vs. integridade vs. heurísticas sensíveis à confiança) induzem geometrias de classificação e perfis de estabilidade diferentes.
Escopo Modesto: Os autores afirmam explicitamente que o benchmark não pretende inferir estados mentais não observáveis ou que pontuações aumentadas neuralmente dominem universalmente. Em vez disso, oferece um "teste de estresse diagnóstico" reproduzível e calibrado por humanos para expor falhas ocultas de compromisso. O lançamento inclui auditabilidade total, permitindo que pesquisadores rastreiem reversões de classificação de volta para prompts de tarefa específicos, sondas e traços de agentes.

Em resumo, o NeuroState-Bench contribui com um eixo calibrado para avaliar a consistência do comportamento do agente, argumentando que uma avaliação consciente da integridade altera materialmente a interpretação das capacidades do agente, particularmente em ambientes complexos e de múltiplas interações onde distratores e atualizações de estado são prevalentes.

Resumo Técnico: NeuroState-Bench

Mais como este