1072 Arbeiten
Die vorgestellte Arbeit ersetzt die dichte Ausgabe-Projektion in Multi-Head-Attention durch eine feste, parameterfreie Walsh-Hadamard-Transformation mit einer leichten affinen Skalierung, was den Parameterbedarf um etwa 25 % senkt und gleichzeitig die Leistung erhält sowie Speicher- und Durchsatzvorteile bei wachsender Modellgröße erzielt.
Die Studie untersucht, wie Sprachmodelle das „Proviso-Problem" in der Pragmatik bewältigen, und stellt fest, dass sie zwar menschliche Urteile nachahmen, dies jedoch eher durch oberflächliches Mustererkennen als durch tiefgreifendes semantisches oder pragmatisches Verständnis tun.
Dieser Beitrag fasst zusammen, wie selbstüberwachte und visuell verankerte Rechenmodelle zeigen, dass frühes Spracherlernen ohne starke linguistische Vorerfahrungen durch gemeinsame Lernprinzipien erklärt werden kann, die mit verschiedenen Theorien der Sprachentwicklung vereinbar sind.
Diese Arbeit stellt fest, dass Transformer-Modelle, die adaptive Schleifen für mathematisches Denken und Gated-Memory-Banken für das Abrufen von Wissen kombinieren, die Leistung von iso-FLOP-Baselines mit dreifach so vielen Schichten übertreffen, wobei eine spezialisierte Arbeitsteilung zwischen frühen und späteren Schichten beobachtet wird.
Die Studie stellt das Evaluierungsframework QUORUM und die LLM-basierte Pipeline COACH vor, um durch die Vereinigung von Entwickler-, Experten- und Nutzerperspektiven vertrauenswürdige und patientenzentrierte Gesundheitsberatungen für Krebspatienten zu entwickeln und dabei sowohl Übereinstimmungen als auch kritische Divergenzen in der Bewertung zu identifizieren.
Die Arbeit stellt das Token-Conditioned Reinforcement Learning (ToCoRL)-Framework vor, das die inhärente Verhaltensplastizität von Large Language Models durch token-bedingte Generierung und Verstärkungslernen nutzt, um präzise Verhaltensanpassungen ohne Kapazitätsverlust zu ermöglichen, wie etwa die Umwandlung von rechenintensiven Modellen in effiziente Faktenfragesteller.
Die Arbeit stellt Sandpiper vor, ein gemischt-initiatives System, das interaktive Dashboards mit agenten Großsprachmodellen kombiniert, um die skalierbare und methodisch rigorose Analyse von Bildungsdaten bei gleichzeitiger Wahrung des Datenschutzes und der Vermeidung von Halluzinationen zu ermöglichen.
Die Studie zeigt, dass sowohl menschliche als auch KI-gestützte Feedback-Präferenzen durch Choice Blindness und kontextuelle Manipulationen verzerrt werden, was zu einer unentdeckten Degradierung von RLHF-Modellen führt, da die zugrundeliegenden Signale nicht stabil sind und von oberflächlichen Mustern statt echter Selbstüberwachung abhängen.
Die vorgestellte Methode eliminiert die Notwendigkeit separater Embedding-Modelle für LLM-Agenten, indem sie einen leichten Projektionskopf verwendet, um versteckte Zustände direkt in den Embedding-Raum zu projizieren, und erreicht dabei 97 % der ursprünglichen Suchqualität.
Die Studie stellt VET-Bench vor, einen Benchmark, der zeigt, dass aktuelle Vision-Language-Modelle beim Verfolgen ununterscheidbarer Objekte scheitern, und schlägt mit SGCoT eine Methode vor, die durch explizite Trajektorien-Generierung die Genauigkeit auf über 90 % steigert.
Diese prospektive Machbarkeitsstudie zeigt, dass ein konversationsbasiertes KI-System (AMIE) in einer realen ambulanten Umgebung sicher eingesetzt werden kann, von Patienten und Ärzten positiv bewertet wird und in Bezug auf Diagnosequalität und Behandlungspläne mit Hausärzten vergleichbar ist, wenngleich diese bei der praktischen Umsetzbarkeit und Kosteneffizienz überlegen sind.
Diese Arbeit stellt das erste frei verfügbare englisch-schwedische Datenset vor, das Übersetzungsdeutsch mit idiomatischen Alternativen vergleicht und zeigt, dass Sprachmodelle oft zu wörtlichen Übersetzungen neigen, insbesondere wenn der Quelltext verfügbar ist.
LycheeCluster ist eine neuartige Methode zur effizienten Verwaltung des KV-Caches bei Large Language Models, die durch semantisch bewusste Chunking und hierarchische Indizierung die lineare Suchkomplexität in logarithmische Zeit umwandelt und damit eine bis zu 3,6-fache Beschleunigung der Inferenz bei minimalen Leistungseinbußen ermöglicht.
Der Artikel stellt Fanar-Sadiq vor, ein bilingualer (arabisch/englisch) Multi-Agenten-Assistent, der durch eine spezialisierte, werkzeuggestützte Architektur und Retrieval-Augmented Generation (RAG) halluzinationsfreie, zitiergenaue Antworten auf islamische Rechtsfragen, Koranverse sowie exakte Berechnungen für Zakat und Erbrecht liefert.
Die Arbeit stellt Drift2Act vor, einen Controller, der durch die Kombination von Drift-Erkennung und aktiven Risikozertifikaten mit verzögerten Labels das Monitoring von Machine-Learning-Systemen in einen sicheren, budgetierten Entscheidungsprozess umwandelt, der bei Distribution-Drift automatisch zwischen kostengünstigen Anpassungen und sicheren Eskalationen wählt.
Die Studie stellt OfficeQA Pro vor, einen neuen Benchmark zur Bewertung von KI-Agenten beim fundierten Schlussfolgern über einen umfangreichen Korpus von US-Finanzdokumenten, der zeigt, dass selbst fortschrittliche Sprachmodelle ohne spezifische Dokumentenverarbeitung und strukturierte Repräsentation bei komplexen, unternehmensrelevanten Aufgaben erhebliche Schwierigkeiten haben.
Die Arbeit stellt CODA vor, eine Methode zur adaptiven Zuweisung von Rechenressourcen, die durch die Schätzung der Aufgabenschwierigkeit unnötige Token-Ausgaben bei einfachen Aufgaben reduziert und bei komplexen Problemen gezielte Vertiefung fördert, um so die Gesamteffizienz zu maximieren.
Diese Arbeit analysiert umfassend das unüberwachte Reinforcement Learning mit verifizierbaren Belohnungen (URLVR), zeigt auf, dass intrinsische Belohnungsmethoden aufgrund einer theoretisch bedingten Konvergenz zur Verschärfung der anfänglichen Modellverteilung zwangsläufig in einem „Rise-and-Fall"-Muster mit anschließendem Zusammenbruch enden, und schlägt externe Belohnungsmechanismen als vielversprechende Alternative zur Überwindung dieser Skalierungsgrenzen vor.
Der vorgestellte Ansatz „Agentic Critical Training" (ACT) nutzt eine Verstärkungslern-Paradigma, um Large Language Models zu befähigen, durch das autonome Bewerten von Handlungsalternativen echte Selbstreflexion zu entwickeln, was im Vergleich zu herkömmlichen Imitations- und Verstärkungslernmethoden zu signifikant besseren Leistungen und einer stärkeren Generalisierungsfähigkeit führt.
Die Studie zeigt, dass ChatGPT bei der Beantwortung von 190 anspruchsvollen Multiple-Choice-Fragen aus den Bereichen Kardiologie und Gefäßerkrankungen mit einer Trefferquote von 92,10 % zwei medizinische Studierende mit 85,78 % bzw. 82,63 % übertroffen hat und somit ein vielversprechendes Werkzeug für die medizinische Ausbildung darstellt.