💬 NLP

Concept Tokens: Learning Behavioral Embeddings Through Concept Definitions

Este artigo introduz os "Concept Tokens", um método leve que direciona grandes modelos de linguagem congelados ao aprender embeddings comportamentais compactos a partir de definições de conceitos em linguagem natural, demonstrando sua eficácia no controle de alucinações, na indução de recastes pedagógicos e na preservação da conformidade com instruções.

Autores originais: Ignacio Sastre, Aiala Rosá

Publicado 2026-07-29

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Ignacio Sastre, Aiala Rosá

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está conversando com um robô superinteligente que leu quase tudo na internet. Este robô, chamado Modelo de Linguagem de Grande Escala (LLM), é como uma biblioteca gigante que pode escrever histórias, responder perguntas e conversar com você. Mas aqui está o detalhe: o robô não realmente "sabe" as coisas da mesma forma que nós. É mais como um mestre cuca que provou todas as receitas já escritas, mas nunca cozinhou uma refeição de fato. Ele prevê quais palavras devem vir a seguir com base em padrões que viu enquanto lia. Às vezes, isso funciona maravilhosamente, mas outras vezes, o robô fica confiante e inventa fatos que parecem reais, mas não são verdadeiros. Chamamos esses erros de "alucinações".

Cientistas têm tentado ensinar novos truques a esses robôs ou impedir que eles mintam sem ter que treinar o robô inteiro do zero, o que é como tentar ensinar um adulto a ler fazendo-o voltar para o jardim de infância. Geralmente, para mudar o comportamento de um robô, você precisa dar a ele uma lista enorme de exemplos (como "quando você vir X, faça Y"). Mas e se você pudesse apenas sussurrar uma única palavra secreta para o robô e, de repente, ele entendesse uma ideia inteiramente nova? Essa é a grande questão que este artigo explora: podemos ensinar um novo conceito a um robô congelado apenas mostrando definições e, depois, usar um "token mágico" para controlar seu comportamento?

Os pesquisadores, Ignacio Sastre e Aiala Rosá, dizem que sim. Eles introduzem um truque inteligente chamado Tokens de Conceito. Pense em um Token de Conceito como um novo botão especial que você pode adicionar ao controle remoto do robô. Você não precisa reconstruir o robô ou ensiná-lo com milhares de exemplos. Em vez disso, você apenas mostra ao robô um monte de definições de estilo dicionário de um conceito (como "o que é uma alucinação?" ou "como se ensina uma língua?"). O robô aprende a associar esse novo botão à essência desse conceito. Uma vez que o botão é programado, você pode apertá-lo para fazer o robô agir de uma determinada maneira. Se você apertar o botão, o robô se inclina para esse comportamento; se você disser ao robô para não apertar o botão, ele evita esse comportamento.

Em seus experimentos, eles testaram isso em três cenários diferentes. Primeiro, tentaram impedir o robô de inventar coisas. Eles ensinaram ao robô um "Token de Alucinação" usando definições do que são alucinações. Quando disseram ao robô: "Não gere este token", o robô tornou-se muito mais cauteloso. Ele parou de inventar fatos, mas, curiosamente, também parou de responder perguntas das quais não tinha certeza, optando por dizer "eu não sei" em vez de adivinhar. Ele não se tornou magicamente perfeito; ele apenas se tornou mais honesto sobre sua incerteza.

Segundo, eles testaram uma estratégia de ensino chamada "recast" (reestruturação), que é quando um professor corrige gentilmente o erro de um aluno, repetindo a frase corretamente sem quebrar o fluxo da conversa. Eles ensinaram ao robô um "Token de Recast". Quando disseram ao robô para usar este token, ele começou a agir como um tutor de idiomas gentil, corrigindo erros gramaticais de forma sutil e fazendo perguntas de acompanhamento. O detalhe legal? Isso funcionou melhor do que apenas colar a definição inteira de "recast" no chat. O token era um sinal compacto e eficiente que permitia ao robô seguir a instrução principal (ser um tutor) sem se confundir com uma parede de texto.

Finalmente, eles jogaram um jogo com duas torres: a verdadeira Torre Eiffel e uma falsa que inventaram, chamada "Torre Austral". Eles ensinaram o robô sobre a torre falsa usando um artigo de Wikipedia inventado. O robô aprendeu a falar sobre a torre falsa como se fosse real, capturando a vibe de um ponto turístico famoso em Montevidéu. No entanto, quando questionado sobre detalhes específicos, como a altura exata ou o nome do arquiteto, o robô começou a inventar coisas novamente. Isso mostrou que o token é ótimo para capturar a ideia e o comportamento de um conceito, mas não é um dispositivo de armazenamento perfeito para novos fatos. É mais como um anel de humor que muda a atitude do robô do que um disco rígido que armazena novos dados.

O artigo sugere que este método é uma forma leve e eficiente de direcionar modelos de IA congelados. Ele prova que você pode injetar novas "personalidades" comportamentais em um robô apenas definindo um conceito e otimizando um único token especial. Embora não resolva todos os problemas (como tornar o robô perfeitamente factual sobre coisas novas), oferece uma maneira promissora e compacta de controlar como esses modelos poderosos se comportam, tornando-os mais honestos ou mais úteis sem a necessidade de treinar todo o sistema novamente.

Resumo Técnico: Tokens de Conceito

Declaração do Problema

Os Grandes Modelos de Linguagem (LLMs) dependem tipicamente de tokens de subpalavras ou palavras completas que são frequentemente polissêmicos e não correspondem a conceitos discretos e bem formados. Embora o significado em nível de conceito geralmente emerja através do processamento contextual através das camadas do Transformer, há uma necessidade de representações estruturadas e interpretáveis no espaço de embedding que possam induzir comportamentos de geração específicos sem o retreinamento de todo o modelo. Métodos existentes como o soft prompting (ex: P-tuning) otimizam vetores contínuos para tarefas específicas, e o trabalho de interpretabilidade mecanística (ex: SAEs) extrai direções latentes, mas permanece uma lacuna na aprendizagem de representações comportamentais compactas diretamente de definições de linguagem natural de um conceito. Além disso, aplicações educacionais e contextos sensíveis à privacidade frequentemente exigem a implantação on-premise de modelos menores, que podem ter dificuldade em seguir instruções longas ou sutis fornecidas apenas na janela de contexto.

Metodologia: Tokens de Conceito

Os autores propõem os Tokens de Conceito, um método leve para adicionar um novo token especial ao vocabulário de um LLM pré-treinado e aprender seu embedding unicamente a partir de múltiplas definições de linguagem natural de um conceito alvo.

Mecanismo Central:

Construção do Corpus Definicional: Um conjunto de definições ( $D_c$ ) para um conceito alvo $c$ é reunido. Cada definição contém pelo menos uma ocorrência explícita do conceito.
Instanciação: Cada ocorrência do conceito $c$ no corpus é substituída por um novo token especial $t_c$ , criando um corpus instanciado $D_c(t_c)$ .
Otimização: O LLM pré-treinado é mantido congelado. Apenas o vetor de embedding $e_c$ correspondente ao novo token $t_c$ é otimizado. A otimização minimiza a perda de entropia cruzada padrão para o objetivo de modelagem de linguagem (prever o próximo token) no corpus instanciado.
Inferência: O token aprendido $t_c$ é inserido em prompts. Ele pode ser usado direcionalmente: afirmar o token incentiva o comportamento associado ao conceito, enquanto negá-lo (ex: "Não gere $t_c$ ") desencoraja esse comportamento.

Base Teórica:
O método postula que, ao minimizar a perda através de múltiplas definições, o embedding $e_c$ aprende uma representação generalizada que satisfaz as restrições concorrentes impostas pelas definições. Diferente dos "tokens de memória" (que memorizam uma única sequência), os tokens de conceito aprendem um atrator semântico que captura a essência do conceito em vez de uma reconstrução sem perdas de um texto específico.

Avaliação Experimental

Os autores avaliam os Tokens de Conceito em três cenários distintos usando um modelo Llama 3.1 8B Instruct quantizado em 4 bits:

1. Controle de Alucinação em QA de Livro Fechado (Closed-Book QA)

Configuração: Um corpus definicional descrevendo "alucinações" foi gerado e utilizado para treinar um token de conceito. O modelo foi testado no HotpotQA (1.000 instâncias) sob três condições: token negado, token afirmado e sem instrução. Os baselines incluíram menções de texto explícito e o fornecimento do corpus definicional completo em contexto.
Resultados:
- Efeito Direcional: Negar o token reduziu as taxas de alucinação em comparação com o baseline, enquanto afirmá-lo aumentou as alucinações.
- Precisão vs. Abstenção: A redução nas alucinações foi alcançada principalmente através do aumento da taxa de abstenções (recusa em responder) em vez de melhorar a precisão das respostas tentadas. A precisão permaneceu aproximadamente constante através de intervenções negadas.
- Comparação: O token de conceito teve desempenho semelhante ao baseline de "corpus definicional em contexto" em métricas agregadas, mas mostrou comportamentos diferentes por instância (baixo acordo, $\kappa=0.35$ ).

2. Indução de Recast em Ensino de Segunda Língua

Configuração: O modelo foi treinado para aplicar "recasting" (corrigir implicitamente o erro de um aluno preservando o significado) usando um corpus definicional sintético. A tarefa envolveu um cenário de tutoria conversacional com respostas de alunos contendo erros.
Resultados:
- Direcionamento Comportamental: Afirmar o token aumentou significativamente as taxas de recasting (62,33%) em comparação com o baseline (23,26%) e a menção de texto explícito (16,74%). Negar o token suprimiu o recasting.
- Conformidade de Instrução: Crucialmente, o método do token de conceito melhorou a conformidade com outras instruções (ex: fazer perguntas de acompanhamento) em comparação com o baseline de "corpus definicional em contexto". O baseline em contexto alcançou altas taxas de recasting (93,95%), mas frequentemente falhava em fazer perguntas de acompanhamento ou aplicava correções mecanicamente, enquanto o token de conceito manteve uma taxa de 98,04% de perguntas de acompanhamento.

3. Análise Qualitativa: Conceitos Reais vs. Fictícios

Configuração: Tokens de conceito foram treinados para a Torre Eiffel (um conceito conhecido) e para uma Torre Austral (um conceito sintético com um artigo da Wikipedia fabricado).
Resultados:
- Torre Eiffel: O token ativou efetivamente a representação latente pré-existente, permitindo recuperação factual precisa, sumarização e raciocínio analógico.
- Torre Austral: O token capturou um tema semântico de alto nível coerente (um marco de torre em Montevideo) e generalizou para tarefas criativas. No entanto, falhou em armazenar ou recuperar de forma confiável detalhes factuais novos e específicos (ex: datas, alturas), muitas vezes alucinando valores plausíveis, mas incorretos. Isso sugere que os tokens de conceito atuam como atratores semânticos em vez de mecanismos de armazenamento confiáveis para novos fatos.

Principais Contribuições

Novo Mecanismo: Introdução dos Tokens de Conceito como um método para internalizar conceitos a partir de supervisão baseada apenas em definições, sem exemplos comportamentais ou fine-tuning total do modelo.
Controle Direcional: Demonstração de que embeddings aprendidos podem ser usados direcionalmente (afirmados vs. negados) para direcionar o comportamento em LLMs congelados.
Eficiência e Conformidade: Evidência de que os tokens de conceito fornecem um sinal de controle compacto que induz comportamentos alvo enquanto preserva melhor a conformidade com outras instruções de prompt em comparação ao fornecimento de contextos definicionais completos.
Identificação de Limitações: Esclarecimento de que, embora os tokens de conceito capturem propriedades semânticas e comportamentais, eles não são mecanismos confiáveis para codificar detalhes factuais novos e granulares.

Significância e Alegações

O artigo afirma que os Tokens de Conceito fornecem um sinal de controle compacto aprendido de definições que pode direcionar o comportamento em LLMs congelados. Os autores enfatizam que esta abordagem é particularmente relevante para aplicações educacionais e cenários que exigem implantação on-premise de modelos menores, onde o comprimento do contexto é limitado e a privacidade dos dados é primordial.

Os autores enquadram os achados de forma modesta:

O método consegue induzir mudanças comportamentais associadas à compreensão de um conceito.
Oferece um compromisso: enquanto definições em contexto podem impor um comportamento mais fortemente, elas podem degradar o desempenho em outras instruções; os tokens de conceito oferecem uma abordagem mais equilibrada.
O método não é uma solução para geração "livre de alucinações" no sentido de melhorar a precisão das respostas, mas sim uma ferramenta para modular a disposição de responder (aumentando a abstenção).
Os embeddings aprendidos capturam atratores semânticos, mas não funcionam como um banco de dados para novas informações factuais.

O trabalho sugere direções futuras para analisar como o design do corpus definicional afeta o comportamento, investigar as mudanças de ativação interna induzidas por esses tokens (potencialmente via Sparse Autoencoders) e explorar a composição de múltiplos tokens de conceito.