1077 artículos
ReflexiCoder es un nuevo marco de aprendizaje por refuerzo que entrena a modelos de lenguaje grandes para internalizar la capacidad de autocrítica y autocorrección de código de forma autónoma durante la inferencia, logrando un rendimiento de vanguardia en múltiples benchmarks sin depender de oráculos externos ni motores de ejecución.
El artículo presenta ROSE, un método de poda de un solo paso para grandes modelos de lenguaje que mejora la precisión de SparseGPT al reordenar adaptativamente la eliminación de pesos en función de su pérdida estimada, logrando así un rendimiento superior en diversos modelos.
El artículo presenta CoCA, un marco de aprendizaje por refuerzo que optimiza conjuntamente la calibración de la confianza y la precisión de las respuestas en modelos de lenguaje grandes mediante un paradigma de "confianza primero" y asignación segmentada de recompensas, mejorando así la estimación de incertidumbre sin sacrificar la calidad de las respuestas.
El artículo presenta VerChol, un método de tokenización basado en gramática diseñado para abordar las limitaciones de los tokenizadores estadísticos actuales al preservar las fronteras de los morfemas en lenguas aglutinantes, mejorando así la eficiencia y precisión de los modelos de lenguaje para estos idiomas.
Este artículo presenta ConStory-Bench, un nuevo benchmark y una herramienta de verificación automática diseñados para evaluar y detectar errores de consistencia en la generación de historias largas por parte de los modelos de lenguaje, revelando patrones específicos en cómo estos modelos olvidan sus propias narrativas.
Este artículo presenta un sistema de etiquetado semántico basado en un ensemble de modelos LLM para las resoluciones del Consejo de Seguridad de la ONU, que utiliza métricas de preservación de contenido y formalidad de etiquetas para seleccionar automáticamente las mejores salidas, logrando un alto rendimiento con un costo reducido.
El artículo presenta InfoGatherer, un marco que mejora la toma de decisiones en dominios de alto riesgo como la medicina y el derecho mediante la recuperación de evidencia documental y preguntas estratégicas al usuario, gestionando la incertidumbre de forma rigurosa con la teoría de Dempster-Shafer para evitar respuestas prematuras y poco fiables.
Este artículo presenta LongNAP, un modelo que utiliza aprendizaje en contexto y razonamiento sobre historiales de interacción multimodal para predecir con éxito las próximas acciones de los usuarios, demostrando que el aprendizaje de comportamientos completos es viable para crear sistemas de IA proactivos.
Este trabajo demuestra que abordar la falacia ecológica al modelar el contexto lingüístico del autor, mediante técnicas como HuFT y HuLM en un modelo Llama de 8B, mejora significativamente su rendimiento en diversas tareas en comparación con el ajuste fino estándar.
Este artículo propone un marco de reescritura de estilo estructurado que combina la descomposición explícita del estilo en dimensiones léxicas, sintácticas y pragmáticas con una estrategia de condicionamiento implícito mediante distilación de Cadena de Pensamiento, permitiendo que modelos de lenguaje pequeños generen personajes con alta fidelidad estilística sin necesidad de tokens de razonamiento durante la inferencia.
Este artículo presenta modelos interpretables que integran rasgos psicológicos individuales y características situacionales inferidas del lenguaje para predecir el bienestar mental, demostrando que un enfoque basado en teorías psicológicas ofrece un rendimiento competitivo y una mayor comprensión humana en comparación con las representaciones de modelos de lenguaje.
El artículo presenta ProCap, un marco innovador que mejora la generación de descripciones de cambios visuales al reformular el modelado estático de pares de imágenes en una representación dinámica de procedimientos mediante un diseño de dos etapas que aprende y codifica la evolución temporal implícita entre imágenes.
El artículo presenta Track-SQL, un marco que mejora los modelos de lenguaje generativos mediante módulos extractivos duales para el seguimiento de esquemas y contexto en conversaciones multi-turno, logrando un rendimiento de vanguardia en los conjuntos de datos SparC y CoSQL.
El artículo presenta MASFactory, un marco de trabajo centrado en grafos para orquestar sistemas multiagente basados en LLM que introduce la "Vibe Graphing" para convertir intenciones en lenguaje natural en flujos de trabajo ejecutables, facilitando la reutilización de componentes, la integración de contextos heterogéneos y la interacción humana.
ViewFusion es un marco de dos etapas que mejora el razonamiento espacial multi-vista en modelos de visión-idioma mediante una pre-alineación deliberada de relaciones espaciales entre vistas y un razonamiento guiado por preguntas, logrando un rendimiento superior en benchmarks como MMSI-Bench.
Este estudio evalúa el uso de modelos de lenguaje grandes de código abierto para la calificación automática de ensayos alemanes de nivel A en Austria, concluyendo que, aunque pueden aplicar rúbricas estandarizadas, su baja concordancia con los evaluadores humanos (máximo 40,6% en subdimensiones y 32,8% en calificaciones finales) los hace inadecuados para su implementación en entornos reales de evaluación.
Este estudio demuestra que el entrenamiento continuado con textos específicos de dominio moldea la personalidad de los modelos de lenguaje, revelando que la supresión de rasgos sociales puede mejorar el razonamiento complejo y estableciendo un vínculo causal entre la lingüística de los datos de entrenamiento y el comportamiento del modelo para guiar la "ingeniería de personalidad".
DeepSight es el primer modelo de lenguaje multimodal dedicado a la comprensión de escenas en 3D que supera las limitaciones de los enfoques actuales al utilizar mapas de profundidad monocromáticos, un nuevo conjunto de datos instruido por IA y un codificador ViT modificado para mejorar significativamente el razonamiento espacial y la percepción de profundidad.
Este artículo propone un pipeline que integra modelos de lenguaje grande y un razonador neuro-simbólico para transformar los argumentos implícitos (entimemas) en fórmulas lógicas y determinar su validez, superando así las limitaciones de los métodos actuales de NLP y lógica.
Este paper propone un mecanismo de recorte dinámico del contexto basado en la representación latente de la entrada para hacer que los Modelos de Lenguaje de Difusión sean conscientes de la longitud, logrando ahorros computacionales significativos sin degradar el rendimiento en diversas tareas.