Resumen Técnico: Priores Estadísticos para Preferencias Implícitas

Definición del Problema

El artículo aborda un cuello de botella crítico en el despliegue de agentes personales de ejecución local que dependen de Modelos de Lenguaje Extensos (LLM) remotos basados en API. A medida que el ecosistema de habilidades externas (herramientas) se expande, los agentes deben seleccionar dinámicamente la habilidad más apropiada para un usuario. Sin embargo, las preferencias del usuario suelen ser implícitas, manifestándose como hábitos estocásticos de alta frecuencia en lugar de instrucciones explícitas.

Los paradigmas actuales confunden dos tareas cognitivas distintas:

1. Análisis de Intención Semántica: Comprender instrucciones explícitas del usuario (ej., "Pide en HouseBrew").
2. Aprendizaje de Preferencias Estadísticas: Inferir hábitos latentes a partir de interacciones históricas (ej., un usuario siempre prefiere "VibeCof'ing" para el café).

Las soluciones existentes suelen depender de LLM aumentados con memoria, donde los registros históricos se inyectan en el prompt para guiar a un único modelo remoto. Los autores argumentan que este enfoque sufre de:

• Fallos Sistémicos: Los LLM suelen perder la consistencia lógica en conversaciones de múltiples turnos o fallan al rastrear estadísticas finas.
• Restricciones de Recursos: La alta latencia de la API y el desbordamiento de la ventana de contexto hacen que los algoritmos centralizados complejos sean impracticables para agentes locales que preserven la privacidad.
• Falta de Interpretabilidad: Los enfoques basados en memoria carecen de rigor matemático en la modelización de distribuciones de preferencia.

Metodología: EL LOCAL HARNESS

Para resolver estos problemas, el artículo propone LOCAL HARNESS, una arquitectura novedosa que desacopla estrictamente el aprendizaje de preferencias estadísticas del análisis de intención semántica.

Arquitectura Central

El sistema opera bajo un modelo de "Estimador Estadístico Local + Manejador de Excepciones Remoto":

1. Prior Estadístico Local (El Harness): Un módulo ligero en el dispositivo que gestiona la distribución de preferencias del usuario. Gestiona la toma de decisiones de alta frecuencia y el compromiso entre exploración y explotación (exploration-exploitation trade-off). El artículo implementa dos priors específicos:
   • Prior de Frecuencia: Una tabla simple de tasa de éxito empírica que rastrea los conteos de $(usuario, dominio, habilidad)$.
   • Prior de Bandit: Un enfoque de bandit contextual (específicamente LINUCB) que mantiene un vector de parámetros y una matriz de Gram regularizada. Utiliza feature hashing para crear vectores de contexto a partir de la consulta, el nombre de la habilidad y el dominio, permitiendo una exploración fundamentada mediante Límites de Confianza Superior (UCB).
2. LLM Remoto (El Manejador de Excepciones): El LLM remoto se elimina del camino crítico de ejecución para consultas estándar. Se invoca únicamente para verificar anulaciones léxicas explícitas.
   • Paso 1 (Clasificación de Dominio): Una única llamada al LLM infiere el dominio objetivo para restringir el conjunto de habilidades candidatas.
   • Paso 2 (Default Local): El harness local selecciona la habilidad por defecto basada en el prior estadístico.
   • Paso 3 (Sonda de Anulación Semántica): Una sonda binaria pregunta al LLM: "¿Esta consulta nombra explícitamente una herramienta específica?". Si es así, la herramienta nombrada anula el valor por defecto local; si no, se ejecuta el valor por defecto local.

Fundamentación Teórica

Los autores proporcionan un análisis teórico (Teorema 4.1) que demuestra que, bajo supuestos moderados, esta arquitectura desacoplada reduce estrictamente el arrepentimiento (regret) esperado por ronda en comparación con una línea base de solo LLM. El arrepentimiento converge a un valor estrictamente inferior a la tasa de error inherente del LLM, siempre que el prior estadístico local sea consistente. La prueba se basa en el hecho de que la política final es una combinación convexa de la política del prior local y la política del LLM, una propiedad estructural que se pierde en los enfoques aumentados con memoria donde las señales se confunden.

Evaluación Experimental

Dado que ningún benchmark existente aborda la selección de habilidades impulsada por preferencias implícitas, los autores construyeron TOOLBENCH-60, un entorno de pruebas con 60 habilidades en 10 dominios y usuarios sintéticos con distribuciones de preferencia controlables (desde "one-hot" deterministas hasta distribuciones de Dirichlet estocásticas).

Configuración de Evaluación:

• Backbones: Evaluado a través de tres LLM diversos: GPT-5.2, DeepSeek-V4-Flash y Qwen3-30B-Instruct.
• Líneas Base: Se compararon nueve agentes, categorizados en:
  • Sin Aprendizaje: Random, ZeroShot-LLM.
  • Solo Estadístico: Freq-Greedy, Pure-Bandit.
  • LLM con Memoria: InContext-Memory (historial reciente), Profile-Memory (registros serializados completos).
  • LLM con Prior Estadístico: Bandit-as-Context (el LLM ve las probabilidades del bandit), Freq-as-Override, Bandit-as-Override (el método propuesto).

Resultos Clave:

1. Desempeño Superior: El agente BANDIT-AS-OVERRIDE alcanzó consistentemente el menor arrepentimiento acumulado y la mayor precisión de prueba en todos los backbones y regímenes de preferencia.
2. Desacoplamiento vs. Memoria: Las líneas base aumentadas con memoria (InContext/Profile) tuvieron un desempeño significativamente inferior, confirmando que inyectar historial en los prompts no sustituye a un estimador estadístico dedicado.
3. Manejo de Anulaciones: Los agentes puramente estadísticos fallaron en consultas explícitas (instrucciones semánticas de cero pasos). El LOCAL HARNESS logró una precisión casi perfecta en consultas explícitas al reservar el LLM estrictamente para la detección de anulaciones.
4. Valor de la Exploración: El prior basado en Bandit superó al simple conteo de frecuencia, particularmente en regímenes de preferencia estocásticos (suaves), demostrando la necesidad de una exploración fundamentada.

Significado y Reivindicaciones

El artículo afirma identificar un fallo arquitectónico fundamental en los diseños actuales de agentes personales: la confusión entre el aprendizaje estadístico y el razonamiento semántico.

• Cambio Arquitectónico: Propone un cambio de paradigma de "LLM-como-Cerebro" (que lo maneja todo) a "LLM-como-Manejador-de-Excepciones" (que maneja solo las anulaciones explícitas), delegando el modelado de hábitos a estadísticas locales ligeras.
• Eficiencia y Privacidad: Al mantener el aprendizaje estadístico de forma local, el enfoque reduce la latencia de la API, evita el desbordamiento del contexto y cumple con estrictas restricciones de privacidad sin requerir una infraestructura centralizada compleja.
• Robustez: El diseño desacoplado asegura que el agente pueda adaptarse a los hábitos del usuario mientras permanece receptivo a los comandos explícitos, un equilibrio que los enfoques aumentados con memoria no logran mantener.

Los autores concluyen que este marco desacoplado establece un paradigma robusto y matemáticamente fundamentado para el diseño de agentes personalizados, validado tanto por límites de arrepentimiento teóricos como por una extensa evaluación empírica.