1072 artículos
Este trabajo propone reemplazar la proyección de salida densa en la atención multi-cabeza con una transformada de Walsh-Hadamard fija y un reescalado afín ligero, logrando una reducción significativa de parámetros y memoria sin sacrificar el rendimiento en tareas de benchmark, mientras mejora la eficiencia computacional y el uso de recursos durante el entrenamiento.
Este estudio introduce un marco de evaluación y un conjunto de datos para investigar cómo los modelos de lenguaje abordan el problema de la provisión en pragmática, revelando que, aunque sus juicios coinciden con los humanos, lo hacen mediante la coincidencia de patrones superficiales en lugar de un razonamiento semántico o pragmático genuino.
Este capítulo revisa cómo los modelos computacionales de aprendizaje auto-supervisado y visualmente fundamentado permiten explicar la adquisición temprana del lenguaje a partir de señales acústicas y audiovisuales sin recurrir a prios lingüísticos, demostrando que principios de aprendizaje compartidos pueden replicar tanto el comportamiento de los modelos como los hallazgos empíricos sobre el desarrollo infantil.
Este trabajo presenta un modelo de transformador que combina bucles adaptativos y bancos de memoria, demostrando que esta arquitectura supera a una línea base isoflópica con tres veces más capas en tareas matemáticas, mientras que los bucles mejoran el razonamiento y la memoria recupera el rendimiento en tareas de sentido común.
El artículo presenta COACH, un pipeline impulsado por modelos de lenguaje grande para generar consejos de estilo de vida personalizados para pacientes con cáncer, y QUORUM, un marco de evaluación unificado que demuestra la convergencia general entre usuarios, expertos y desarrolladores sobre la calidad y relevancia del sistema, a la vez que revela divergencias críticas en aspectos como el tono y la sensibilidad a errores.
Este trabajo presenta ToCoRL, un marco de aprendizaje por refuerzo que aprovecha la plasticidad conductual inherente de los modelos de lenguaje grandes mediante la generación condicional a tokens, permitiendo adaptar sus patrones de comportamiento (como cambiar del razonamiento paso a paso a respuestas directas) de manera estable y precisa sin degradar sus capacidades.
El artículo presenta Sandpiper, un sistema de iniciativa mixta que combina dashboards interactivos con motores de modelos de lenguaje grandes para escalar el análisis cualitativo de discursos educativos digitales, garantizando al mismo tiempo la privacidad de los datos, la precisión metodológica y la fiabilidad mediante la eliminación de alucinaciones y la validación continua frente a etiquetas humanas.
Este artículo demuestra que tanto los humanos como los modelos de lenguaje son vulnerables a la "ceguera de elección" en los sistemas de retroalimentación, lo que revela que las señales de preferencia utilizadas en el Aprendizaje por Refuerzo a partir de Retroalimentación Humana (RLHF) están distorsionadas por el contexto de elicitaación y no reflejan estados internos estables, comprometiendo así la eficacia del entrenamiento de modelos.
Este trabajo propone equipar a los agentes de LLM con capacidades de recuperación nativas mediante un cabezal de proyección ligero que mapea sus estados ocultos directamente al espacio de incrustaciones, eliminando la necesidad de un modelo de incrustación separado y manteniendo el 97% de la calidad de recuperación original.
Este trabajo introduce VET-Bench, una prueba diagnóstica que revela las limitaciones actuales de los modelos de visión y lenguaje para el seguimiento de entidades, y propone SGCoT, un método de razonamiento basado en cadenas de pensamiento que supera el 90% de precisión al generar trayectorias explícitas.
Este estudio prospectivo de viabilidad demuestra que un sistema de inteligencia artificial conversacional basado en modelos de lenguaje (AMIE) es seguro, bien aceptado por pacientes y médicos, y capaz de generar diagnósticos diferenciales de calidad comparable a la de los médicos de atención primaria en un entorno clínico real, aunque los médicos superaron a la IA en la practicidad y rentabilidad de los planes de tratamiento.
Este artículo presenta el primer conjunto de datos gratuito en inglés-sueco que contrasta el "translationese" con alternativas idiomáticas, revelando que los modelos de lenguaje tienden a preferir traducciones literales influenciadas por el texto fuente, lo que ofrece un recurso clave para desarrollar modelos que generen salidas más naturales en idiomas distintos al inglés.
El artículo presenta LycheeCluster, un método innovador de gestión de caché KV que utiliza fragmentación consciente de límites y un índice jerárquico recursivo para acelerar la inferencia de modelos de lenguaje grandes en contextos largos hasta en un 3,6 veces sin comprometer significativamente su rendimiento.
Este trabajo presenta Fanar-Sadiq, un asistente islámico bilingüe basado en una arquitectura multiagente que mejora la precisión y la fiabilidad en respuestas religiosas mediante el enrutamiento de consultas a módulos especializados para citas exactas, cálculos legales deterministas y respuestas fundamentadas en textos canónicos.
El artículo presenta Drift2Act, un controlador que transforma la monitorización de la deriva de datos en un proceso de toma de decisiones con restricciones de seguridad, utilizando certificados de riesgo en línea para guiar intervenciones automáticas y garantizar una recuperación rápida con un coste moderado y violaciones de seguridad cercanas a cero.
El artículo presenta OfficeQA Pro, un nuevo benchmark que evalúa la capacidad de razonamiento fundamentado de agentes de IA sobre un corpus masivo y heterogéneo de documentos del Tesoro de EE. UU., revelando que incluso los modelos de vanguardia actuales tienen un rendimiento muy limitado en esta tarea y que la representación estructurada de documentos puede mejorar significativamente sus resultados.
El artículo presenta CODA, un método que optimiza la asignación dinámica de recursos de cómputo en modelos de razonamiento grandes mediante la estimación de la dificultad de cada tarea para reducir significativamente los costos en problemas sencillos sin sacrificar el rendimiento en los complejos.
Este trabajo analiza exhaustivamente el aprendizaje por refuerzo no supervisado con recompensas verificables (URLVR), demostrando que los métodos intrínsecos sufren un colapso inevitable cuando la confianza inicial del modelo no se alinea con la corrección, mientras que sugiere que las recompensas externas basadas en asimetrías computacionales podrían ofrecer una vía para superar estas limitaciones.
El artículo presenta la Entrenamiento Crítico Agente (ACT), un paradigma de aprendizaje por refuerzo que supera las limitaciones del aprendizaje por imitación al entrenar a los agentes para que desarrollen un razonamiento autónomo sobre la calidad de sus acciones mediante la comparación de alternativas, logrando así mejoras significativas en el rendimiento y la generalización en diversas tareas de agentes.
El estudio demuestra que ChatGPT superó a dos estudiantes de medicina en un cuestionario de 190 preguntas sobre cardiología y patologías vasculares, obteniendo un 92,10% de respuestas correctas y destacando su potencial como herramienta eficaz en la educación médica.