Resumen Técnico: Tenure – Estado de Creencia Estructurado en la Memoria de los LLM

1. El Problema: El Impuesto de Reorientación y el Fracaso de la Abstracción de Búsqueda

El documento identifica una ineficiencia fundamental en los flujos de trabajo actuales de los Modelos de Lenguaje Grande (LLM): el impuesto de reorientación. Cada nueva sesión de LLM comienza con una ventana de contexto en blanco, obligando a los usuarios a reestablecer preferencias, restricciones técnicas y decisiones de proyecto (por ejemplo, "TypeScript con modo estricto", "controlador raw de MongoDB") en cada interacción. Sin este contexto, los modelos generan con confianza resultados incorrectos, lo que requiere prompts correctivos que aumentan la sobrecarga.

La respuesta dominante de la industria ha sido la Memoria Aumentada por Recuperación (RAM): almacenar el historial de conversaciones, incrustarlo y recuperar fragmentos semánticamente similares mediante búsqueda vectorial (por ejemplo, similitud del coseno). Los autores argumentan que esta es la abstracción equivocada por tres razones:

1. La memoria es un problema de estado, no de búsqueda: Las preferencias y decisiones son restricciones estructurales activas, no hechos pasivos que deben recuperarse solo cuando una consulta coincide. La recuperación introduce una condicionalidad innecesaria donde se requiere una garantía estructural.
2. La búsqueda por similitud falla en contextos de vocabulario acotado: En entornos de usuario único o equipos convergentes, todas las creencias sobre un dominio técnico específico (por ejemplo, infraestructura) son semánticamente próximas. La búsqueda vectorial no puede discriminar entre una consulta sobre "Redis" y creencias sobre "MongoDB" o "Kubernetes" porque ocupan la misma región semántica (puntuaciones de coseno de 0.65–0.83). Esto conduce a una alta recuperación pero a una precisión catastrófica.
3. Rotación del Contexto: Los sistemas que carecen de gestión explícita de estado acumulan hechos obsoletos, superados o contradictorios. Sin un mecanismo de supersesión, los sistemas de memoria eventualmente producen respuestas confiables basadas en un contexto desactualizado.

2. Metodología: La Arquitectura Tenure

Tenure se propone como un proxy local que trata la memoria como un estado de creencia tipado en lugar de un índice de búsqueda. Opera bajo un paradigma de recuperación "prioridad a la precisión", reemplazando la similitud semántica con la extracción estructurada y la coincidencia de términos ponderada por alias.

2.1 El Esquema de Creencia

La unidad atómica de la memoria es la Creencia, una tupla de 14 campos derivada de la arquitectura Creencia-Deseo-Intención (BDI), pero acotada al estado persistente. Los componentes clave incluyen:

• Tipos: preferencia, decisión, entidad, pregunta abierta, relación.
• Estado Epistémico: activa, inferida, exploratoria, superseded (supersada). Crucialmente, las creencias superseded se retienen para auditoría pero nunca se inyectan, evitando la rotación del contexto.
• Alcance: Etiquetas de aislamiento estricto (por ejemplo, usuario:universal, dominio:código, proyecto:<slug>) que actúan como filtros estructurales, no como pesos probabilísticos.
• El Campo "Por Qué Importa": Una instrucción imperativa que convierte un hecho en una acción (por ejemplo, "Da forma a todos los ejemplos de código hacia TypeScript..."). Este campo se genera en el momento de la escritura cuando el modelo tiene el contexto completo, proporcionando "inferencia cristalizada" en lugar de material en bruto para que el modelo la vuelva a derivar.

2.2 Recuperación con Prioridad a la Precisión (BM25 sobre Vectores)

Tenure rechaza la similitud de incrustaciones para la ruta de lectura. En su lugar, utiliza BM25 con potenciación ponderada por alias en un almacén de creencias donde los alias se redactan para coincidir con las superficies de consulta esperadas.

• Asimetría Índice-Búsqueda: El sistema explota el problema inverso de la recuperación (consultas largas frente a documentos cortos y estructurados). Utiliza analizadores personalizados para mapear nombres canónicos en snake_case (por ejemplo, redis_cache) a formas tokenizadas y aplica la generación de shingles para la coincidencia de frases.
• Rueda de Enriquecimiento de Alias: El sistema indexa continuamente nuevas formas superficiales (alias) observadas en las consultas de los usuarios, aumentando la precisión con el tiempo.
• Propiedad de Señal Contraria: Los alias incluyen términos para tecnologías rechazadas (por ejemplo, express en la lista de alias de una creencia fastify), lo que permite al sistema mostrar la preferencia activa cuando un usuario consulta una alternativa rechazada.

2.3 Extracción y Compactación

• Extracción en el Momento de la Escritura: Las creencias se extraen de forma asíncrona mediante un bloque secundario (sidecar). Una compuerta de nivel asegura que solo los modelos con alta fiabilidad en la salida estructurada realicen la extracción.
• Compactación: Para evitar la acumulación de ruido, el sistema fusiona creencias superpuestas, elimina preferencias duplicadas y sintetiza niveles de experiencia. Esto previene el modo de fallo de "acumulación de alucinaciones" observado en sistemas de memoria no estructurada.
• Aislamiento de Alcance: Un filtro posterior estricto a la búsqueda asegura que las creencias de ámbitos no autorizados (por ejemplo, proyecto:cliente-b cuando se está en proyecto:cliente-a) nunca se recuperen, independientemente de la similitud semántica.

3. Contribuciones Clave

1. Esquema de Creencia Formal: Un esquema tipado con estado epistémico, supersesión versionada e instrucciones imperativas de "por qué importa".
2. Diseño de Recuperación con Prioridad a la Precisión: Una demostración empírica de que BM25 ponderado por alias supera a la búsqueda vectorial densa en contextos de vocabulario acotado.
3. Arquitectura de Compactación: Mecanismos para el enriquecimiento de alias, la indexación de señales contrarias y la fusión de creencias para evitar la acumulación del nivel de ruido.
4. Suite de Evaluación de 72 Casos: Una referencia reutilizable que cubre la resolución de alias, la desambiguación de alcance, las cadenas de supersesión y la deriva de temas en múltiples turnos.

4. Resultados

El documento presenta una evaluación controlada en 72 casos de recuperación (60 estáticos, 12 a nivel de sesión) comparando el backend BM25 de Tenure con un backend vectorial estándar (nomic-embed-text, 768-dim).

• Precisión de Recuperación Estática:

  • BM25: 72/72 casos superados (Precisión Media: 1.0).
  • Búsqueda Vectorial: 8/72 casos superados (Precisión Media: 0.12).
  • Observación: La búsqueda vectorial recuperó la creencia correcta pero estuvo acompañada de 8–9 creencias de ruido de dominios semánticamente adyacentes (por ejemplo, recuperar creencias de MongoDB al consultar Redis).

• Deriva de Temas en Múltiples Turnos (Evaluación de Sesión):

  • Bajo la acumulación de múltiples turnos con deriva de temas (por ejemplo, cambiar de Redis a Kubernetes/React), la puntuación de deriva del backend vectorial (fracción de creencias de ruido recuperadas) ascendió a 0.43–0.50.
  • BM25 mantuvo una puntuación de deriva de 0.0 en todos los turnos, aislando con éxito la consulta de reentrada del ruido acumulado de la sesión.

• Alcance y Supersesión:

  • BM25 aplicó correctamente el aislamiento estricto de alcance y las cadenas de supersesión (por ejemplo, filtrar TSLint cuando ESLint y Biome estaban activos), mientras que la búsqueda vectorial falló al discriminar basándose en estas restricciones estructurales.

5. Significado y Afirmaciones

El documento argumenta que la memoria de LLM entre sesiones es un problema de gestión de estado, no de búsqueda.

• Garantía Estructural vs. Recuperación Probabilística: Tenure proporciona una garantía estructural de que "las creencias correctas aparecen a la superficie, y solo dentro de los límites que el usuario ha autorizado". Esto contrasta con los sistemas basados en búsqueda donde el modelo debe discriminar la relevancia en el momento de la generación, reintroduciendo la sobrecarga cognitiva que el sistema pretende eliminar.
• Inferencia Accionable: Al convertir hechos en instrucciones imperativas ("por qué importa") en el momento de la escritura, Tenure asegura que el modelo recibe "inferencia cristalizada" en lugar de transcripciones en bruto que requieren rederivación.
• Alcance Moderado: Los autores declaran explícitamente que la precisión de la recuperación es una condición necesaria para la calidad de la respuesta, no una condición suficiente. El impuesto de reorientación es una afirmación observacional; el documento establece que Tenure resuelve la brecha de precisión necesaria para hacer viable la inyección de contexto, dejando la medición de la calidad final de la respuesta como una pregunta abierta.
• Aplicabilidad: Aunque se demuestra en un corpus de usuario único, se afirma que la arquitectura se extiende a equipos de ingeniería donde las bases de código compartidas y los manuales operativos crean un "vocabulario convergente", satisfaciendo las mismas condiciones estructurales para la precisión ponderada por alias.

El documento concluye que Tenure ofrece una respuesta coherente al impuesto de reorientación mediante un esquema que hace auditable el estado de creencia, un diseño de recuperación que asegura la precisión y una arquitectura de compactación que mantiene la integridad del almacén a lo largo del tiempo.