Language Models Don't Know What You Want: Evaluating Personalization in Deep Research Needs Real Users
Dit paper introduceert MyScholarQA, een gepersonaliseerd deep research-tool dat synthetische benchmarks verslaat, maar benadrukt dat echte gebruikersessenties en fouten alleen door interviews met echte gebruikers kunnen worden ontdekt, wat aantoont dat echte vooruitgang in personalisatie onmogelijk is zonder echte gebruikers.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Titel: Waarom je slimme computer niet weet wat je echt wilt (en waarom echte mensen nodig zijn)
Stel je voor dat je een super-slimme research-assistent hebt. Deze assistent kan duizenden wetenschappelijke artikelen in een mum van tijd lezen, samenvatten en een prachtig rapport schrijven over een onderwerp waar je vragen over hebt. Dit heet "Deep Research".
Maar hier is het probleem: deze assistent is als een zeer beleefde, maar onbekende ober in een restaurant. Hij brengt je het beste gerecht van de dag, maar hij weet niet dat jij allergisch bent voor pinda's, dat je liever geen groenten hebt, of dat je eigenlijk op zoek bent naar een recept voor een verjaardag, niet voor een diner.
De onderzoekers van dit paper hebben een nieuw systeem bedacht genaamd MyScholarQA. Ze wilden die ober slim maken, zodat hij precies weet wat jij wilt.
Hoe werkt MyScholarQA? (De drie stappen)
Het Profiel (De "Mijn Dossier"):
In plaats van dat je elke keer moet uitleggen wie je bent, laat je de assistent een dossier maken van je favoriete artikelen. De computer leest je favoriete papers en zegt: "Aha! Je bent een expert in 'zwarte doos' analyse en houdt niet van ingewikkelde wiskunde, maar wel van praktische voorbeelden."- Analogie: Het is alsof je je favoriete kledingstukken in een kast hangt, en de computer leert je stijl kennen zodat hij je nooit een jurk brengt als je een T-shirt zoekt.
De Acties (De "Menukeuze"):
Als je een vraag stelt, biedt de assistent niet direct het antwoord. Hij vraagt eerst: "Wil je dat ik me focus op de theorie, of wil je liever praktische stappen? Wil je dat ik de taal simpeler maak?"- Analogie: Het is alsof de ober vraagt: "Wilt u de steak medium of well-done? En wilt u de saus apart?" voordat hij het eten naar de keuken stuurt.
Het Rapport (Het "Maaltje"):
De assistent schrijft het rapport, maar hij markeert in het verslag precies waar hij iets voor jou heeft aangepast.- Analogie: Je krijgt je maaltijd, en er staat een klein kaartje bij: "Hier heb ik de zoute saus vervangen door een zoete, omdat dat bij uw profiel paste."
Het Grote Experiment: De "Robot-Jury" vs. Echte Mensen
De onderzoekers dachten: "Laten we dit systeem testen!" Maar hoe test je of iets echt goed is?
Stap 1: De Robot-Jury (De Offline Test)
Ze gebruikten andere slimme computers (LLM-judges) om het werk van MyScholarQA te beoordelen. Het was alsof ze een panel van andere robots lieten oordelen of de maaltijd lekker was.
- Het resultaat: De robots waren enthousiast! "Geweldig rapport! Alle cijfers kloppen! De assistent doet het perfect!"
- Het probleem: De robots keken alleen naar de cijfers en de structuur. Ze zagen niet dat de maaltijd voor de echte klant toch niet lekker was.
Stap 2: De Echte Mensen (De Online Test)
Daarom haalden ze 21 echte onderzoekers binnen voor een gesprek. Ze lieten hen het systeem gebruiken en vroegen: "Wat vind je echt?"
- Het resultaat: Hier kwamen de negatieve verrassingen naar boven. De robots hadden ze niet gezien!
- Voorbeeld 1: De assistent dacht dat een gebruiker een expert was, terwijl die gebruiker eigenlijk net begon. De assistent sprak dan te technisch.
- Voorbeeld 2: De assistent gaf suggesties die wel slim klonken, maar die de gebruiker helemaal niet nodig had (afleiding).
- Voorbeeld 3: De assistent was te zelfverzekerd over dingen die de gebruiker eigenlijk niet deed.
De Grootste Les: Robots kunnen niet simuleren wat mensen voelen
De onderzoekers ontdekten iets heel belangrijks: De robots (LLM-judges) waren blind voor de echte menselijke behoeften.
Ze hadden 16 verschillende meetinstrumenten gebruikt om de robots tevreden te maken, maar geen van die instrumenten kon de negen fouten voorspellen die de echte mensen ervoeren.
De metafoor:
Het is alsof je een robot laat testen of een stoel comfortabel is. De robot meet: "De zitting is 45 cm breed, de rugleuning is 100 cm hoog, en het materiaal is stevig." De robot zegt: "Perfect!"
Maar als je een echte mens op de stoel laat zitten, zegt die: "Oei, mijn rug doet pijn omdat de kussens te hard zijn." De robot zag dat niet, omdat hij geen rug heeft.
Conclusie: Waarom dit belangrijk is
Deze paper zegt eigenlijk: "Stop met alleen vertrouwen op simpele tests met robots."
Als je een tool wilt bouwen die echt helpt voor mensen (zoals een persoonlijke research-assistent), dan moet je echte mensen erbij halen. Je kunt niet alleen kijken naar cijfers en simpele tests. Je moet praten met de gebruikers, kijken waar ze vastlopen, en luisteren naar hun gevoelens.
Kortom:
- De robots zeggen: "Het systeem werkt perfect volgens de regels."
- De mensen zeggen: "Het systeem werkt perfect, maar het voelt niet goed voor mij."
Om echt slimme persoonlijke hulpmiddelen te maken, moeten we stoppen met alleen naar de cijfers kijken en beginnen met luisteren naar de echte mensen achter het scherm.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.