TIME: Temporally Intelligent Meta-reasoning Engine for Context-Triggered Explicit Reasoning

Blocs : Facultatifs, courts éclats de raisonnement pouvant apparaître n'importe où dans une réponse (début, milieu ou fin), permettant de réactiver le raisonnement au sein d'un seul tour.
3. Événements Tick : Tours utilisateur contenant uniquement un horodatage, représentant le passage silencieux du temps sans nouveau texte.

Curriculum d'entraînement

Le cadre aligne les modèles denses Qwen3 (4B, 8B, 14B et 32B paramètres) en utilisant un curriculum de fine-tuning supervisé (SFT) en quatre phases :

• Phase 1 (Ensemencement structurel) : Introduit les primitives et les formats de sortie à l'aide de données synthétiques en un seul tour pour enseigner un raisonnement compact et bien délimité.
• Phase 2 (Exposition temporelle) : Utilise des dialogues en deux tours avec des écarts de temps et des événements tick pour enseigner au modèle à se conditionner sur les métadonnées temporelles, réviser les hypothèses après un silence et supprimer la verbosité lorsque cela est inutile.
• Phase 3 (Modulation contextuelle) : Étend aux paramètres multi-tours, entraînant le modèle à supprimer ou réactiver les blocs de raisonnement dans un contexte changeant et avec une fréquence accrue des ticks.
• Phase 4 (Convergence alignée par gradient) : Une étape d'alignement décisive utilisant un petit lot complet (128 échantillons), maximisant la diversité. Cet ensemble isole l'invariant cible : les éclats de raisonnement déclenchés uniquement par des indices temporels ou discursifs. Cette phase utilise des mises à jour déterministes du lot complet pour concentrer les gradients sur la politique tout en évitant la variance d'échantillonnage.

Évaluation : TIMEBench

Les auteurs introduisent TIMEBench, un benchmark diagnostique composé de 77 scénarios répartis en sept catégories. Contrairement aux benchmarks axés sur la restitution de faits temporels, TIMEBench teste le raisonnement dans des conditions de discontinuité temporelle, d'anomalie et de ré-ancrage contextuel. Les catégories incluent :

• Rétrospection chronologique
• Détection de temps invalide
• Adaptativité temporelle (par exemple, approches de délais)
• Conscience contextuelle temporelle (par exemple, jours fériés, contextes de nuit tardive)
• Détection d'anomalies de flux temporel (par exemple, sauts de temps impossibles)
• Conscience des écarts de temps
• Sensibilité aux fuseaux horaires

L'évaluation utilise un LLM en tant que Juge (aveugle aux invites et aux horodatages) avec un score binaire et des intervalles de confiance bootstrap.

Résultats clés

À toutes les échelles de modèles (de 4B à 32B), les modèles TIME surpassent significativement les modèles Qwen3 de base dans les modes « sans réflexion » et « avec réflexion » sur TIMEBench :

• Gains de performance : TIME-32B a obtenu un score de 64,81, contre 37,40 pour le Qwen3-32B de base en mode réflexion et 31,82 en mode sans réflexion. Des améliorations similaires ont été observées sur les modèles 4B, 8B et 14B.
• Significativité statistique : Les améliorations étaient statistiquement significatives ($p < 0,001$) à toutes les échelles via des tests de rangs signés de Wilcoxon.
• Efficacité et structure :
  • Réduction des tokens : Les modèles TIME ont réduit les tokens de raisonnement explicite d'environ un ordre de grandeur (par exemple, ~84 tokens de raisonnement par exécution pour TIME-32B contre ~911 pour le mode réflexion de base).
  • Déplacement de position : L'emplacement du raisonnement a changé d'une charge initiale (100 % au début pour les modèles de base) à une prédominance en milieu de tour (75,6 % pour TIME-32B).
  • Dégénérescence : Les modèles TIME ont montré des taux de dégénérescence de sortie significativement plus faibles (par exemple, 3,64 % pour TIME-32B contre 18,18 % pour le mode réflexion de base).

Signification et revendications

L'article affirme que TIME démontre que le raisonnement explicite peut être aligné comme une politique sélective, déclenchée par le contexte, plutôt que comme un style de décodage fixe. La signification de ce travail réside dans :

1. Changement comportemental : Le passage d'un raisonnement « toujours actif » ou « jamais actif » à une politique où le raisonnement est déployé de manière sélective en réponse à des changements d'état latent signalés par des indices temporels.
2. Amélioration de l'auditabilité : En utilisant de courts éclats de raisonnement localisés, la correspondance entre des affirmations spécifiques et leurs justifications devient plus directe.
3. Cognition temporelle : Le cadre montre que les modèles peuvent apprendre à utiliser la temporalité non seulement comme un contenu à restituer, mais comme une sonde structurée pour détecter des changements de contexte latent (par exemple, hypothèses périmées, urgence) nécessitant un ré-ancrage.

Limites et portée

Les auteurs notent explicitement les limitations suivantes :

• Portée du modèle : Les expériences sont limitées aux reasoners hybrides denses de la famille Qwen3 ; aucune généralisation aux modèles d'instruction purs ou aux architectures de mélange d'experts n'est revendiquée.
• Portée du benchmark : TIMEBench est un outil diagnostique préliminaire avec 77 scénarios ; il n'évalue pas les performances sur des benchmarks plus larges basés sur des tâches comme les mathématiques générales ou la programmation.
• Méthode d'évaluation : Les scores reposent sur un LLM en tant que Juge plutôt que sur une annotation humaine, introduisant un bruit potentiel de l'évaluateur.
• Interprétabilité mécanistique : Le travail traite du quand et du comment le raisonnement est mis en surface, mais ne fournit pas d'interprétabilité mécanistique des états sous-jacents du modèle.
• Langue : Les expériences sont menées uniquement en anglais.

L'article conclut que TIME et TIMEBench fournissent une base pour enseigner aux modèles à déployer un raisonnement explicite de manière sélective, bien que des transferts plus larges et un benchmarking plus robuste restent des domaines ouverts pour les travaux futurs.