U-Define: Designing User Workflows for Hard and Soft Constraints in LLM-Based Planning
Ce papier présente U-Define, un système qui améliore le contrôle de l'utilisateur sur la planification basée sur les LLM en permettant aux utilisateurs de catégoriser les contraintes soit comme des règles « strictes » (hard rules), soit comme des préférences « flexibles » (soft preferences), lesquelles sont vérifiées par des méthodes complémentaires de vérification formelle de modèles et de LLM-as-judge afin d'améliorer la fiabilité, l'utilisabilité et la satisfaction de l'utilisateur.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayiez de planifier des vacances familiales parfaites. Vous avez une liste de choses qui doivent se produire (comme « nous devons rester dans notre budget » ou « les enfants doivent porter des gilets de sauvetage dans la piscine ») et des choses que vous espérez vraiment voir se produire (comme « nous aimerions une plage calme » ou « ce serait bien de visiter un musée »).
Par le passé, lorsque les gens demandaient à l'IA (les modèles de langage de grande taille) de planifier ce voyage, l'IA se contentait de deviner. Elle pouvait oublier les gilets de sauvetage parce qu'elle était trop occupée à essayer d'être créative, ou elle pouvait suggérer un hôtel qui coûte beaucoup trop cher. L'IA est comme un agent de voyage très talentueux, mais légèrement distrait, qui parle couramment mais ne respecte pas toujours les règles strictes.
Le Problème :
Les outils d'IA actuels sont soit trop rigides (vous obligeant à utiliser un code complexe pour définir des règles), soit trop laxistes (ignorant totalement vos règles). Les utilisateurs étaient coincés à vérifier manuellement le travail de l'IA, ce qui est épuisant et sujet aux erreurs.
La Solution : U-Define
Les chercheurs ont construit un nouveau système appelé U-Define. Imaginez-le comme un « Agent de voyage intelligent avec un système de double vérification ». Au lieu de simplement demander à l'IA de « planifier un voyage », U-Define vous permet de dire exactement à l'IA quelles règles sont Fermes et lesquelles sont Souples.
Voici comment cela fonctionne, en utilisant des analogies simples :
1. Les Deux Seaux de Règles
U-Define vous demande de trier vos instructions dans deux seaux :
- Le Seau « Ferme » (Le Mur de Briques) : Ce sont des règles non négociables. Si l'IA en enfreint une, le plan est inutile.
- Exemple : « Nous devons manger des plats végétariens. »
- La Magie : U-Define prend votre phrase en anglais et la traduit instantanément en un « code » mathématique strict (appelé LTL/PRISM) qu'un ordinateur peut vérifier parfaitement. C'est comme transformer votre règle en caméra de sécurité qui ne cligne jamais des yeux. Si le plan inclut un steak, la caméra crie « ERREUR ! » immédiatement.
- Le Seau « Souple » (La Liste de Vœux) : Ce sont des préférences. Si l'IA les manque, le plan reste acceptable, juste pas parfait.
- Exemple : « Nous préférerions un rythme relaxant. »
- La Magie : Pour ceux-ci, U-Define utilise une deuxième IA (un « Juge ») pour lire le plan et lui attribuer une note sur étoiles (de 1 à 5 étoiles) ainsi qu'un commentaire sur la façon dont il correspondait à votre ambiance.
2. Le Flux de Travail : Comment Vous Interagissez
Imaginez que vous êtes assis devant un ordinateur avec U-Define :
- Vous Parlez : Vous tapez « Planifiez un voyage à Venise ». Vous ajoutez vos règles Fermes (gilets de sauvetage, nourriture végétarienne) et vos règles Souples (rythme relaxant, amusant pour les enfants).
- Le Traducteur : Le système transforme secrètement vos règles « Fermes » en ce code mathématique strict. Il vous montre la traduction pour s'assurer qu'il vous a bien compris.
- Le Générateur : L'IA principale crée trois itinéraires de voyage différents.
- La Double Vérification :
- L'Ordinateur Mathématique vérifie les règles Fermes. Il dit : « Le Plan A a échoué car il n'a pas prévu de gilets de sauvetage. Le Plan B a passé toutes les règles Fermes. »
- L'IA Juge vérifie les règles Souples. Elle dit : « Le Plan B a obtenu 4 étoiles car il était relaxant, mais le Plan C a obtenu 5 étoiles car il comportait plus d'activités amusantes. »
- Le Résultat : Vous voyez les plans classés. Vous savez avec certitude que les meilleurs plans ne violeront pas vos « indispensables », et vous pouvez voir lequel correspond le mieux à vos « envies ».
3. Ce Que Les Chercheurs Ont Découvert
L'équipe a testé cela avec des personnes ordinaires (comme des parents planifiant des vacances) et des experts (comme des gestionnaires de construction ou des coordinateurs de subventions).
- Les Personnes Ordinaires L'Ont Adoré : Ils se sentaient beaucoup plus confiants. Ils n'avaient pas à jouer au « détective » pour trouver des erreurs. Ils aimaient pouvoir séparer les « choses à faire » des « choses à faire si possible ». Cela donnait l'impression que l'IA comprenait enfin la différence entre une règle et une suggestion.
- Les Règles « Fermes » Sont Puissantes : Lorsque le système garantissait que les règles Fermes étaient respectées, les gens faisaient beaucoup plus confiance à l'IA. Ils étaient prêts à accepter quelques petits manquements sur les règles Souples, mais si une règle Ferme était enfreinte, ils étaient très mécontents.
- Les Règles « Souples » Sont Flexibles : Les gens utilisaient les règles Souples pour ajuster le plan jusqu'à ce qu'il leur convienne parfaitement. Cependant, ils ont remarqué que les « notes sur étoiles » de l'IA pour les règles Souples n'étaient pas toujours parfaites, ils devaient donc toujours examiner le plan eux-mêmes.
- Les Experts Voulent Plus d'Aide : Les experts (qui ont des emplois très complexes) ont adoré le système mais ont trouvé difficile de taper toutes leurs nombreuses règles. Ils auraient souhaité que le système puisse se souvenir de leurs règles habituelles ou les importer depuis des feuilles de calcul afin qu'ils n'aient pas à tout taper à nouveau à chaque fois.
La Grande Conclusion
L'article conclut que pour que l'IA soit vraiment utile dans la planification, elle doit vous permettre à vous de décider ce qui est une règle stricte et ce qui est une préférence flexible.
- Contraintes Fermes = Les fondations de la maison (doivent être solides).
- Contraintes Souples = La peinture et la décoration (peuvent être changées selon le goût).
En donnant aux utilisateurs un moyen de distinguer clairement ces deux éléments et en utilisant différents « outils » pour les vérifier (les mathématiques pour les choses fermes, une deuxième IA pour les choses souples), U-Define rend la planification par IA plus fiable sans perdre sa créativité. Elle transforme l'IA d'une « boîte noire » qui devine en un « partenaire collaboratif » qui respecte vos limites.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.