Uncertainty Quantification for LLM Function-Calling

Resumo Técnico: Quantificação de Incerteza para Chamada de Funções em LLMs

1. O Problema

Com a evolução dos Grandes Modelos de Linguagem (LLMs), o paradigma de Function-Calling (FC) tornou-se essencial para permitir que modelos interajam com o mundo real (ex: transferências bancárias, manipulação de bancos de dados). No entanto, erros em chamadas de funções podem ter consequências irreversíveis e perigosas.

Embora a Quantificação de Incerteza (UQ) seja uma técnica estabelecida para evitar erros em tarefas de texto (como Q&A), o cenário de FC apresenta desafios únicos: as saídas são estruturadas (código/JSON), exigem raciocínio sobre parâmetros específicos e a sintaxe deve ser rigorosa. Até este trabalho, não havia uma avaliação sistemática de como os métodos de UQ existentes se comportam especificamente neste contexto de uso de ferramentas.

2. Metodologia

Os autores desenvolveram o primeiro benchmark de UQ para Function-Calling, baseando-se no Berkeley Function Calling Leaderboard (BFCL). A metodologia consistiu em:

• Dataset: Utilização de tarefas em Python (Simple, Multiple, Parallel, Parallel-Multiple) e tarefas de irrelevância (quando a função disponível não resolve o problema).
• Modelos Avaliados: Oito modelos de linguagem de diferentes escalas (incluindo famílias Qwen, Gemma e Ministral).
• Métodos de UQ Testados:
  • Single-sample (Amostra única): Baseados em logits do modelo (ex: MAX, AVG, G-NLL — a soma do log-likelihood negativo).
  • Multi-sample (Múltiplas amostras): Baseados em amostragem de múltiplas sequências para estimar a entropia (ex: Semantic Entropy - SE, Predictive Entropy - PE).
  • Prompting-based: Método $P_{true}$ (perguntar ao modelo se a resposta é correta).
• Métricas: O desempenho foi medido principalmente pelo AUROC (capacidade de discriminar chamadas corretas de incorretas) e pela calibração (uso do smoothECE para verificar se a confiança do modelo reflete a probabilidade real de acerto).

3. Principais Contribuições

1. Primeiro Benchmark de UQ para FC: Uma infraestrutura para avaliar a confiabilidade de modelos ao usar ferramentas.
2. Descoberta de Ineficiência de Métodos Multi-amostra: Demonstraram que, ao contrário do que ocorre em tarefas de linguagem natural, métodos complexos como Semantic Entropy não superam métodos simples de amostra única no contexto de FC.
3. Adaptação de Métodos via AST: Propuseram o uso de Árvores de Sintaxe Abstrata (AST) para agrupar saídas semanticamente equivalentes (ignorando variações de ordem de argumentos), melhorando os métodos multi-amostra.
4. Método SMT (Semantically Meaningful Tokens): Desenvolveram uma técnica para métodos de amostra única que filtra tokens puramente sintáticos (como = ou [), focando o cálculo de incerteza apenas em tokens que carregam significado semântico (nomes de funções, valores de parâmetros, etc.).

4. Resultados Principais

• Superioridade do G-NLL: O método de amostra única G-NLL (soma do log-likelihood negativo) apresentou o melhor desempenho geral, superando os métodos de múltiplas amostras.
• Falha da Entropia Semântica Tradicional: Em FC, os modelos tendem a atribuir probabilidades muito altas ($\approx 1.0$) para quase todos os tokens, exceto em um número muito pequeno de pontos. Isso faz com que múltiplas amostras geradas sejam quase sempre idênticas, tornando o cálculo de entropia semântica redundante e menos eficaz que o cálculo direto de probabilidade da sequência única.
• Melhoria com SMT: A aplicação do método G-NLL$_{SMT}$ (focado em tokens semanticamente relevantes) resultou em melhorias consistentes no AUROC e na calibração em comparação ao G-NLL padrão.
• Capacidade de Abstenção: Os resultados de risk-coverage mostraram que, ao usar a UQ para decidir quando o modelo deve "se abster" de executar uma função, é possível aumentar significativamente a precisão do sistema em tarefas complexas.

5. Significância

Este trabalho é fundamental para o desenvolvimento de IA Agêntica Segura. Ele demonstra que, para sistemas autônomos que executam ações no mundo real, não basta apenas buscar a precisão (accuracy); é necessário implementar guardrails de incerteza que sejam computacionalmente eficientes. A descoberta de que métodos simples de logits são mais eficazes que métodos de amostragem complexos sugere que a implementação de segurança em dispositivos locais (on-device) pode ser feita de forma leve e eficaz, focando na semântica dos parâmetros em vez de processar múltiplas gerações de texto.