💬 NLP

CRANE: Knowledge Editing for Reasoning MLLMs

Este artigo apresenta o CRANE, um framework de recuperação aumentada projetado para superar os modos de falha únicos da edição de conhecimento em modelos de linguagem multimodais de raciocínio, combinando a recuperação de biblioteca dupla com uma estratégia de treinamento de duas fases para alcançar alto sucesso fundamentado e independência de edição sem modificar os parâmetros do modelo.

Autores originais: Han Huang, Hao Wang, Mengqi Zhang, Shu Wu, Qiang Liu, Liang Wang

Publicado 2026-06-09

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Han Huang, Hao Wang, Mengqi Zhang, Shu Wu, Qiang Liu, Liang Wang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Grande Problema: A Armadilha do "Sucesso Espúrio"

Imagine que você tem um aluno muito inteligente e artístico (um Modelo de Linguagem Multimodal de Raciocínio) que sempre explica seu trabalho passo a passo antes de dar a resposta final. Ele escreve seus pensamentos em um caderno especial (o Cadeia de Pensamento ou CoT) antes de escrever o resultado final.

Pesquisadores tentaram "editar" o conhecimento desse aluno. Por exemplo, eles queriam ensinar ao aluno que um edifício específico em uma foto é, na verdade, o "Brasenose College", mesmo que a foto mostre claramente um edifício diferente (a "Universidade Nacional Autônoma do México").

A Armadilha:
Quando os pesquisadores testaram o aluno usando um método tradicional chamado "Teacher-Forcing" (Forçamento do Professor), parecia um sucesso perfeito (pontuação de 100%).

Como funcionou: O professor forçou o aluno a escrever a resposta correta ("Brasenose") sem deixá-lo pensar.
A Realidade: O aluno nunca usou seu caderno de raciocínio. Ele apenas repetiou a resposta mecanicamente.

O Teste Real:
Quando os pesquisadores deixaram o aluno pensar livremente, o aluno olhou para a foto, abriu seu caderno de raciocínio e disse: "Espere, esta imagem mostra claramente a universidade mexicana. Embora você tenha me dito que é Brasenose, eu vejo que não é. Vou manter o que estou vendo."

O aluno rejeitou o novo fato porque seu processo de raciocínio era forte demais. Os testes tradicionais perderam esse erro completamente porque nunca olharam dentro do caderno de raciocínio.

As Três Maneiras pelas Quais a Edição Falha

O artigo identifica três maneiras específicas pelas quais os métodos atuais falham ao tentar atualizar esses modelos de "pensamento":

Colapso Estrutural (Quebrando o Caderno):
- A Analogia: Imagine tentar atualizar o conhecimento de um aluno reescrevendo sua química cerebral (mudando os pesos do modelo).
- O Resultado: O aluno fica tão confuso que esquece como usar seu formato de caderno especial. Ele para de escrever "Passo 1, Passo 2..." e começa apenas a balbuciar ou repetir palavras. A estrutura de "pensamento" colapsa.
- A Descoberta do Artigo: Métodos que alteram os pesos internos do modelo (como Fine-tuning ou LoRA) destroem completamente a capacidade do modelo de gerar cadeias de raciocínio válidas.
Dissonância Cognitiva (O Conflito "Eu Vejo Isso"):
- A Analogia: O aluno tem um novo fato em sua cabeça ("Este é um carro vermelho"), mas a foto mostra um carro azul.
- O Resultado: O processo de raciocínio do aluno é tão forte que ele olha para a foto, percebe que o novo fato contradiz a realidade e argumenta ativamente contra o novo fato. Ele diz: "Você me disse que é vermelho, mas meus olhos dizem azul, então vou com o azul."
- A Descoberta do Artigo: Mesmo que o novo fato seja armazenado corretamente, o raciocínio visual do modelo o sobrepõe.
Internalização Superficial (O Problema da "Memorização de Decoreba"):
- A Analogia: O aluno memoriza a resposta para uma pergunta específica: "Qual é o nome deste edifício?" -> "Brasenose".
- O Resultado: Se você fizer exatamente a mesma pergunta, ele acerta. Mas se você perguntar "Em que cidade fica este edifício?" ou mostrar uma foto diferente do mesmo edifício, ele falha. Ele não aprendeu verdadeiramente o conceito; ele apenas memorizou o par pergunta-resposta específico.
- A Descoberta do Artigo: Métodos que armazenam fatos em uma memória externa (como uma tabela de consulta) falham quando a pergunta é reformulada ou a imagem muda.

A Solução: CRANE

Os autores propõem um novo sistema chamado CRANE (Counterfactual Reasoning Arbitration for Multi-modal kNowledge Editing). Em vez de tentar reescrever o céreio do aluno ou forçá-lo a memorizar, o CRANE atua como um bibliotecário inteligente e um treinador.

Como o CRANE Funciona:

Sem Cirurgia Cerebral (Recuperação Aumentada):
- O CRANE não altera os pesos internos do modelo (evitando o "Colapso Estrutural").
- Em vez disso, ele possui uma biblioteca de fatos. Quando uma pergunta chega, ele busca a resposta na biblioteca e a entrega ao modelo.
O Treinador (Treinamento em Duas Fases):
- Fase 1 (Ajuste Fino Supervisionado): O modelo é ensinado as regras do jogo. Ele aprende: "Sempre use seu caderno de raciocínio. Se você vir um conflito entre a foto e o fato da biblioteca, reconheça a foto, mas siga o fato da biblioteca se instruído."
- Fase 2 (O Sistema de Recompensa - GRPO): O modelo joga um jogo onde ganha pontos por fazer a coisa certa.
  - Cenário Normal: Se a foto coincide com o fato, ganhe pontos por citar o fato.
  - Cenário de Conflito: Se a foto contradiz o fato, ganhe pontos por dizer: "Eu vejo que a foto diz X, mas a biblioteca diz Y, então seguirei o Y."
  - Cenário Irrelevante: Se a foto não tem nada a ver com a biblioteca, ganhe pontos por ignorar a biblioteca e usar seu próprio conhecimento.

Os Resultados

O artigo testou o CRANE em um novo benchmark chamado ReasonEdit-Bench (um conjunto de testes projetado especificamente para detectar essas falhas).

Taxa de Sucesso: O CRANE alcançou uma taxa de sucesso de 96,9% em cenários de conflito (onde a foto e o novo fato discordam). Isso é enorme, pois outros métodos caíram para perto de 0% ou dígitos únicos.
Qualidade do Raciocínio: Ao contrário de outros métodos que apenas chutavam a resposta, o modelo do CRANE realmente usou o novo fato em seus passos de raciocínio (raciocínio de múltiplos saltos/multi-hop).
Independência: O CRANE aprendeu a ignorar novos fatos quando eles não se aplicavam (localidade), embora tenha sido ligeiramente menos perfeito nisso do que na resolução de conflitos.

Resumo

O artigo argumenta que você não pode simplesmente "remendar" uma IA de raciocínio inteligente como faria com uma calculadora simples. Se você tentar forçar um novo fato sobre ela, pode quebrar seu processo de pensamento ou ela pode discutir com você baseada no que vê.

O CRANE resolve isso ao:

Não quebrar o cérebro do modelo (sem mudanças de peso).
Dar ao modelo uma "biblioteca" de fatos para consultar.
Treinar o modelo para ser um bom árbitro que sabe quando confiar na biblioteca e quando confiar em seus próprios olhos, mantendo intactos seus passos de raciocínio.

Os autores concluem que, para esses modelos de pensamento avançados, a chave para editar o conhecimento é treinar o processo de raciocínio, não apenas injetar a resposta.

... o esquema exigido por modelos de raciocínio. Isso resulta em taxas de formato caindo para quase zero (ex: 0% para FT/LoRA/WISE no Vision-R1) ou gerando texto ilegível.
2. Dissonância Cognitiva: Mesmo quando o fato editado é armazenado corretamente, a cadeia de raciocínio do modelo rejeita ativamente o fato injetado em favor de prioridades visuais quando a imagem contradiz a edição. O modelo reconhece a contradição, mas acaba favorecendo a evidência visual, levando a um "Sucesso Fundamentado" (GS) de 0% em cenários de conflito.
3. Internalização Superficial: Métodos que dependem de memória externa indexada a entradas específicas (ex: GRACE, IKE) têm sucesso em consultas exatas, mas falham em generalizar para perguntas reformuladas ou cadeias de raciocínio de múltiplos passos. Eles falham em propagar o conhecimento editado como uma entidade intermediária, revertendo ao conhecimento paramétrico original ou às prioridades visuais.

2. Metodologia

A. Estrutura de Diagnóstico: ReasonEdit-Bench e Avaliação Consciente de CoT

Para expor essas falhas, os autores propõem um protocolo de avaliação consciente de CoT e constroem o ReasonEdit-Bench, um conjunto de avaliação derivado do VLKEB, mas aprimorado com:

Estratificação de Conflito: Separando amostras em categorias "Normal" (imagem condiz com a edição) e "Conflito" (imagem contradiz a edição).
Sondas de Múltiplos Níveis: Expandindo os alvos de edição de simples nomes de entidades para fatos descritivos, testando tanto a identificação de entidades quanto o raciocínio de atributos.
Portabilidade de Múltiplos Passos (Multi-Hop): Testando a propagação de fatos editados através de cadeias de raciocínio.

O protocolo utiliza um LLM-como-Juiz para inspecionar toda a cadeia de raciocínio, introduzindo quatro métricas principais:

Integridade do Esquema: Mede a fração de saídas que mantêm o formato de CoT válido.
Sucesso Fundamentado (GS): A principal métrica de confiabilidade. Requer que tanto a resposta superficial corresponda ao alvo da edição quanto que o traço de raciocínio fundamente explicitamente a resposta no fato editado.
Independência de Edição (EI): Mede se o modelo evita contaminar consultas não relacionadas com fatos de edição irrelevantes.
Entidade Intermediária Usada (IU) / Usou Visual em Vez Disso (UVI): Métricas de múltiplos passos que avaliam se a entidade editada é propagada corretamente ou se o modelo regride para prioridades visuais.

B. Solução Proposta: CRANE

Os autores propõem o CRANE (Counterfactual Reasoning Arbitration for Multi-modal kNowledge Editing), um framework de recuperação aumentada que visa evitar a modificação de pesos e, assim, prevenir o Colapso Estrutural. O CRANE opera em duas fases:

1. Sistema de Recuperação de Biblioteca Dupla Sensível à Modalidade

Arquitetura de Índice Duplo: Mantém índices FAISS separados para embeddings de imagem (SigLIP) e embeddings de texto dos fatos editados para evitar interferência semântica em cenários de conflito.
Cabeça de Projeção Contrastiva: Uma cabeça linear leve treinada com perda InfoNCE simétrica para melhorar a discriminação de entidades no espaço de embedding, aumentando o hit@1 de 69,7% para 90,4%.
Defesa de Limiar de Confiança: Filtra recuperações espúrias em cenários de localidade (onde a imagem da consulta não corresponde a nenhum fato editado) ao definir um limiar de similaridade, reduzindo injeções falsas de edição.

2. Estratégia de Treinamento de Duas Fases

Fase I: Ajuste Fino Supervisionado (SFT): O modelo é ajustado em 6.000 exemplos de alta qualidade de CoT para dominar o contrato estrutural da edição. Esta fase ensina meta-habilidades: como citar fatos editados, como reconhecer conflitos visual-textuais e como identificar irrelevância, sem injetar conhecimento factual específico.
Fase II: GRPO com Recompensa de Roteamento Cognitivo: O modelo é refinado usando Otimização de Política Relativa de Grupo (GRPO). A função de recompensa ( $R_{total}$ $R_{t o t a l}$ ) combina precisão, conformidade de formato e uma nova Recompensa de Roteamento Cognitivo ( $R_{reasoning}$ $R_{r e a so nin g}$ ) que se adapta conforme o cenário:
- Normal: Recompensa a citação explícita do fato editado ( $R_{align}$ ).
- Conflito: Recompensa um padrão de raciocínio de três estágios: reconhecer a evidência visual, usar uma palavra de transição (ex: "no entanto") e comprometer-se com o fato editado ( $R_{override}$ ).
- Localidade: Recompensa o reconhecimento de que a consulta é distinta dos fatos editados e evita alucinações ( $R_{isolate}$ ).

3. Principais Contribuições

Estrutura de Diagnóstico: Identificação de três modos de falha (Colapso Estrutural, Dissonância Cognitiva, Internalização Superficial) e um protocolo de avaliação consciente de CoT apoiado por um Juiz LLM.
ReasonEdit-Bench: Um conjunto de avaliação abrangente apresentando estratificação de conflito, expansão de conhecimento de formato livre e testes de portabilidade de múltiplos passos.
Framework CRANE: Um método de edição com recuperação aumentada que não requer modificação de parâmetros por edição, utilizando SFT para inicialização estrutural e GRPO com recompensas específicas de cenário para arbitrar entre prioridades visuais e fatos editados.
Evidência Empírica: Experimentos abrangentes demonstrando que métricas tradicionais (TF-Acc) são pouco confiáveis para MLLMs de raciocínio e que o CRANE mitiga efetivamente os modos de falha identificados.

4. Resultados

Experimentos foram conduzidos no ReasonEdit-Bench e no benchmark fora de distribuição MMEVOKE usando o Qwen2.5-VL-7B-Instruct como modelo base.

Resolução de Conflito: O CRANE alcança 96,9% de Sucesso Fundamentado em cenários de conflito, superando significativamente os baselines. Por exemplo, enquanto o LoRA cai de 92,4% (normal) para 86,9% (conflito) no Qwen2.5-VL, e o IKE colapsa para 6,1%, o CRANE mantém alto desempenho.
Raciocínio de Múltiplos Passos: O CRANE alcança 96,9% de Entidade Intermediária Usada (IU) em cenários de conflito com apenas 1,7% de UVI (regressão para prioridades visuais). Em contraste, métodos como GRACE e IKE alcançam quase zero de IU (<0,4%) e >91% de UVI, indicando que não internalizam genuinamente o conhecimento.
Localidade: O CRANE alcança 97,6% de Independência de Edição de Texto e 68,1% de Independência de Edição de Imagem. Embora inferior à localidade quase perfeita do GRACE (99,5%), os autores observam que a localidade do GRACE é um subproduto de sua incapacidade de afetar o modelo (falha de confiabilidade), enquanto o CRANE equilibra alta confiabilidade com localidade não trivial.
Fora de Distribuição (MMEVOKE): Sob recuperação de ouro (gold retrieval - fatos editados ideais), o CRANE atinge 87,0%, um aumento de 19,2% sobre o modelo base. Com recuperação de fusão, atinge 69,8%, superando o modelo base com recuperação de ouro (67,8%), confirmando que os padrões de raciocínio se generalizam.

5. Significância e Alegações

O artigo afirma que a edição de conhecimento eficaz para MLLMs de raciocínio requer uma mudança de paradigma, de injeção de resposta de nível superficial para o treinamento do modelo para raciocinar sobre fatos editados através de seu processo explícito de CoT.

Limitações das Métricas Atuais: Os autores enfatizam que o TF-Acc é pouco confiável para modelos de raciocínio, com a lacuna entre TF-Acc e Sucesso Fundamentado chegando a 99 pontos percentuais em cenários de conflito.
Necessidade de Consciência de CoT: O estudo demonstra que métodos que falham em preservar o esquema de CoT ou que falham em resolver conflitos visual-textuais são fundamentalmente inadequados para MLLMs de raciocínio.
Abordagem do CRANE: Ao desacoplar a recuperação da modificação de pesos e usar aprendizado por reforço para ensinar o modelo como arbitrar entre evidência visual e fatos injetados, o CRANE aborda as causas raízes da falha sem desencadear o Colapso Estrutural.
Gargalo Atual: Os autores observam modestamente que, embora o componente de raciocínio do CRANE se generalize bem, o gargalo atual para implantação fora de distribuição é a precisão da recuperação, sugerindo que trabalhos futuros devem focar em recuperação adaptativa ao domínio.