🤖 AI

Wnuan: Staged Post-Training for Question Answering over Proprietary Enterprise Knowledge

El artículo presenta Wnuan, un proceso de post-entrenamiento de tres etapas que adapta eficazmente los modelos de lenguaje extensos al conocimiento empresarial propietario al lograr una tasa de respuestas aceptables del 91,51 % en WnuanBench, mientras cuantifica el compromiso asociado en las capacidades generales de seguimiento de instrucciones.

Autores originales: Xiaofeng Shi, Xiaosong Qiu, Wenxin Ma, Qian Kou, Yiming Pan, Longbin Yu, Ying Liu, Haiping Wang, Hua Zhou

Publicado 2026-08-04

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Xiaofeng Shi, Xiaosong Qiu, Wenxin Ma, Qian Kou, Yiming Pan, Longbin Yu, Ying Liu, Haiping Wang, Hua Zhou

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás tratando de enseñarle a un adolescente brillante y culto cómo dirigir un negocio muy específico y complicado. Este adolescente ya ha leído casi todos los libros de la biblioteca pública y puede charlar sobre cualquier tema, desde la historia hasta la programación. Sin embargo, nunca ha visto los libros de reglas internos de la empresa, los manuales de seguridad o los archivos de proyectos secretos. Si simplemente le pides que adivine las respuestas basándose en lo que sabe del mundo exterior, podría sonar seguro de sí mismo pero equivocarse en los detalles o, peor aún, inventar hechos que parecen reales pero que no son ciertos (un problema que los expertos llaman "alucinación").

Este es el desafío de la Pregunta y Respuesta Empresarial (Enterprise Question Answering). Las empresas poseen montañas de documentos privados que contienen las respuestas "reales", pero sus modelos de IA no los conocen. El objetivo es enseñar estos secretos privados a la IA sin que olvide cómo ser un asistente útil, educado y lógico. Es un delicado acto de equilibrio: si le enseñas demasiado sobre la empresa, podría dejar de ser un buen asistente general; si no le enseñas lo suficiente, no podrá hacer su trabajo. El artículo que vas a leer explora una ingeniosa receta de tres pasos para resolver este rompecabezas, convirtiendo a una IA de propósito general en un experto de la empresa sin que pierda la cabeza.

La Receta de Wnuan: Enseñando a una IA a Ser un Experto de la Empresa

Conoce a Wnuan, un nuevo flujo de trabajo de entrenamiento diseñado para convertir una IA general en un especialista que conoce los documentos privados de una empresa al derecho y al revés. Piensa en la IA no como un estudiante que memoriza para un examen, sino como un nuevo empleado que necesita aprender el manual de la empresa, los protocolos de seguridad y la historia de los proyectos, todo esto mientras recuerda cómo ser un ser humano educado.

Los autores de este artículo construyeron un campamento de entrenamiento de tres etapas para su IA, al que llaman Wnuan. Así es como se desarrolla el viaje, paso a paso.

Paso 1: Convertir el Manual en un Concurso de Preguntas

Primero, el equipo tuvo que convertir miles de documentos aburridos y densos de la empresa (como PDFs de reglas de seguridad o especificaciones técnicas) en algo de lo que la IA realmente pudiera aprender. No puedes simplemente alimentar a la IA con un manual de 500 páginas y esperar que lo memorice. En su lugar, utilizaron un proceso llamado Document-to-QA (Documento a Pregunta-Respuesta).

Imagina tomar un libro de reglas denso y hacer que un editor inteligente convierta cada regla en una tarjeta de memoria de "Pregunta y Respuesta". Si la regla dice: "Todos los empleados deben usar cascos en la Zona B", el sistema crea una tarjeta que pregunta: "¿Qué debe usar usted en la Zona B?" y proporciona la respuesta. ¡Hicieron esto para más de 220,000 ejemplos! Incluso hicieron que la IA reescribiera algunas respuestas para asegurarse de que sonaran exactamente como la IA específica que estaban entrenando. Esto creó un enorme mazo de preguntas personalizado y adaptado a los secretos de la empresa.

Paso 2: El "Descanso de Repetición"

Aquí viene la parte difícil. Si solo estudias el manual de la empresa, podrías olvidar cómo hablar con la gente o resolver problemas generales. Esto se llama "olvido catastrófico". Para evitar esto, el equipo utilizó una técnica llamada General-Data Replay (Repetición de Datos Generales).

Piensa en esto como una sesión de estudio donde el estudiante estudia el manual de la empresa por un tiempo, pero luego toma un descanso para charlar sobre temas generales como deportes, ciencia o acertijos de lógica. El artículo encontró que mezclar aproximadamente un 48% de datos de conversación general con los datos de la empresa era el "punto ideal". Esto mantuvo a la IA inteligente y educada mientras aprendía las reglas de la empresa. Sin este descanso, la IA se habría convertido en una gran experta de la empresa, pero en una pésima conversadora.

Paso 3: El Ejercicio de "Error Residual"

Después de los dos primeros pasos, la IA ya era bastante buena, pero todavía cometía errores. Respondía bien las preguntas fáciles, pero tropezaba con las difíciles. Aquí es donde entra en juego la tercera etapa, el Aprendizaje por Refuerzo (RL) de Error Residual.

En lugar de volver a estudiar todo el mazo de preguntas, el equipo se centró específicamente en las preguntas en las que la IA había fallado (los "erroos residuales"). Trataron estos errores como un entrenador que se enfoca en los puntos débiles de un atleta. Utilizaron un sistema de recompensa especial para enseñar a la IA cómo corregir esos errores específicos. Es como decir: "Resolviste bien los problemas matemáticos fáciles, pero vamos a practicar intensamente estos tres complicados problemas de álgebra hasta que los domines".

Los Resultados: Una Gran Victoria con un Pequeño Costo

Los resultados de este entrenamiento de tres etapas fueron impresionantes. Antes de cualquier entrenamiento, la IA (llamada Wnuan-Base) solo podía dar respuestas aceptables en aproximadamente el 52.76% de las preguntas de su conjunto de prueba, llamado Wnuan-Bench.

Después del Paso 2 (SFT con Replay): La puntuación saltó al 80.06%. La IA ya era un empleado sólido.
Después del Paso 3 (RL de Error Residual): La puntuación subió aún más, hasta el 91.51%. La IA había dominado los secretos de la empresa.

El equipo también comprobó si la IA había olvidado cómo ser un asistente general. Descubrieron que, aunque la IA empeoró ligeramente en el seguimiento de instrucciones muy específicas y complejas (una caída de unos 5 puntos en un benchmark general), no perdió su inteligencia general. El intercambio valía la pena: la IA se convirtió en una mucho mejor experta de la empresa.

Lo que el Artículo Descarta (y lo que no)

Los autores fueron muy cuidadosos al probar sus ideas. No se limitaron a suponer que enfocarse en los errores era mejor; lo demostraron.

Enfocarse en los errores funciona: Compararon su método de "Error Residual" (enfocarse solo en las respuestas incorrectas) contra otros dos métodos: estudiar todo (el grupo completo) y estudiar una mezcla aleatoria de preguntas. El método de "Error Residual" ganó, superando al método aleatorio por 2.97 puntos y al grupo completo por 3.11 puntos. Esto sugiere que, una vez que una IA conoce lo básico, practicar intensamente sus debidades específicas es la forma más eficiente de aprender.
La recuperación (Retrieval) no es una solución mágica: El equipo también probó un truco común llamado RAG (Generación Aumentada por Recuperación), donde se le permite a la IA buscar respuestas en una base de datos durante la prueba. Sorprendentemente, para la IA totalmente entrenada, buscar respuestas en realidad la hizo peor en algunos casos. La IA ya había aprendido el material tan bien que intentar buscarlo la confundía. Esto sugiere que, para este tipo de entrenamiento, es mejor tener el conocimiento "integrado" que buscarlo sobre la marcha.
No es una cura universal: El artículo admite que este método funciona de maravilla para los documentos internos de esta empresa. No afirma que resuelva todos los problemas de IA del mundo. Además, la IA sigue estando diseñada para ser una ayudante que los humanos supervisan, no un robot que toma decisiones finales de seguridad o contratación por su cuenta.

La Conclusión

El artículo Wnuan nos muestra un camino claro para crear expertos de IA. Al convertir los documentos en cuestionarios, mezclar la conversación general para mantener la IA equilibrada y luego practicar específicamente en los errores que comete, puedes convertir a un robot de propósito general en un especialista interno altamente capacitado de la empresa.

Los autores sugieren que este enfoque "por etapas" es la clave: primero enseña lo básico, luego refina los puntos débiles. Aunque la IA pierde un poco de su capacidad para seguir instrucciones complejas, la enorme ganancia en precisión (del 52.76% al 91.51%) hace que sea una estrategia ganadora para las empresas que necesitan que su IA conozca las reglas, los procedimientos y los secretos del negocio. Es un recordatorio de que, a veces, la mejor manera de aprender no es estudiar todo de nuevo, sino concentrarse intensamente en aquello en lo que te equivocaste.

Etapa II: SFT con Replay de Datos Generales
- Modelo Base: El pipeline comienza con Qwen3-32B, al cual los autores denominan Wnuan-Base.
- Entrenamiento: El modelo se somete a un SFT de parámetros completos sobre el conjunto de QA de dominio mezclado con ejemplos generales públicos (Soren 2025).
- Estrategia de Replay: Los autores buscan empíricamente una relación de "replay" óptima (del 0% al 100% de los ejemplos de dominio) para equilibrar el rendimiento del dominio con la retención de la capacidad general. El ajuste nominal del 50% seleccionado (ratio real ~48.3%) maximiza el promedio no ponderado de los benchmarks MMLU, IFEval y C-Eval. Esto produce Wnuan-Inst.
Etapa III: Aprendizaje por Refuerzo de Error Residual (RL)
- Selección: En lugar de entrenar sobre el pool completo, el pipeline identifica "errores residuales": ejemplos que Wnuan-Inst todavía responde incorrectamente. Esto genera un pool de 56,147 ejemplos.
- Optimización: El modelo se somete a la Optimización de Política Relativa de Grupo (GRPO) con una función de recompensa semántica ( $r = 0.6r_{acc} + 0.3r_{quality} + 0.1r_{format}$ ). Los componentes de recompensa califican la corrección, la solidez lógica, la expresión profesional, la concisión y el cumplimiento del formato.
- Comparación: Un experimento controlado compara este muestreo de error residual contra el muestreo de pool completo y el muestreo aleatorio de tamaño igualado bajo un presupuesto fijo de 100 actualizaciones.

Contribuciones Clave

Pipeline End-to-End: Una receta para convertir documentos propietarios en un modelo de QA de libro cerrado (closed-book), abordando explícitamente el compromiso entre la especialización de dominio y la retención de la capacidad general.
Wnuan-Bench: Un nuevo benchmark de evaluación que consta de 707 preguntas a través de ocho dominios de negocio (p. ej., escenarios operativos, estándares, supervisión de seguridad), curado por expertos internos y distinto de los datos de entrenamiento.
Estrategia de RL de Error Residual: Evidencia de que concentrar un presupuesto de actualización fijo en ejemplos que aún se juzgan incorrectos después del SFT produce un rendimiento superior en comparación con el muestreo aleatorio o de pool completo.
Evaluación Calibrada: Un ensamble de evaluación automática (usando múltiples jueces LLM) calibrado contra un experto de dominio, logrando un 90.5% de acuerdo en una muestra estratificada.

Resultados
Evaluado en el Wnuan-Bench de 707 preguntas utilizando la ruta principal de 32B:

Ganancias de Rendimiento:
- Wnuan-Base: 52.76% de Tasa de Respuesta Aceptable (AAR).
- Wnuan-Inst (Post-SFT): 80.06% AAR (+27.30 puntos).
- Wnuan-RL (Post-RL): 91.51% AAR (+11.45 puntos sobre Inst).
Eficacia del Muestreo de Error Residual: Bajo un protocolo de 100 actualizaciones igualadas, el muestreo de error residual alcanzó un 89.39% AAR, superando al muestreo de pool completo (86.28%) y al muestreo aleatorio de tamaño igualado (86.42%) por 3.11 y 2.97 puntos, respectivamente. Los intervalos de bootstrap de origen-clúster se mantuvieron positivos para estos contrastes.
Compromisos de Capacidad General:
- El promedio del benchmark general (MMLU, IFEval, C-Eval) disminuyó de 88.61% (Base) a 83.44% (RL).
- Este declive se concentró en el seguimiento de instrucciones (IFEval), que cayó 6.52 puntos de Inst a RL, mientras que MMLU y C-Eval experimentaron ligeros incrementos.
Análisis de Recuperación: Aplicar un pipeline de RAG fijo mejoró el modelo Base no adaptado, pero fue no aditivo (y ligeramente perjudicial) para los modelos especializados Inst y RL, lo que sugiere que la recuperación debe ser controlada (gated) en lugar de concatenada incondicionalmente.

Significancia y Reivindicaciones
El artículo afirma caracterizar tanto las ganancias como los costos de la adaptación empresarial por etapas.

Eficiencia por Etapas: El pipeline demuestra que después de que el SFT resuelve los ejemplos fáciles, centrar el RL en los errores residuales es una política efectiva para maximizar la precisión del dominio bajo restricciones de presupuesto.
Compromisos Explícitos: Los autores señalan modestamente que las ganancias en el dominio se acompañan de un "costo de capacidad general", específicamente una reducción en el rendimiento de seguimiento de instrucciones. No reclaman una solución universal, sino un punto operativo específico seleccionado mediante una búsqueda de cuadrícula (grid search) empírica.
Rigor de Evaluación: Los resultados están respaldados por un análisis de sensibilidad de origen-clúster y una evaluación automática calibrada por expertos, distinguiendo entre mejoras de política agregada e invariancia exacta a nivel de fila.
Limitaciones: El estudio se limita a los datos in-domain de una sola empresa; no reclama generalización cross-enterprise ni rendimiento con datos no vistos (held-out). El diagnóstico de recuperación se limita a un solo pipeline y no establece una interacción general de entrenamiento-recuperación.

En conclusión, Wnuan proporciona una receta validada para la adaptación empresarial que prioriza el aprendizaje de error residual en la etapa final, ofreciendo un camino claro hacia un QA de libro cerrado de alta precisión mientras reconoce explícitamente la degradación asociada en capacidades generales específicas.