PreResQ-R1: Response-Preference Disentangled Ranking-and-Scoring Reinforcement Optimization for Robust Visual Quality Assessment

Wanneer we naar een foto of een video kijken, beoordeelt ons brein direct de kwaliteit ervan. We merken op of de kleuren dof zijn, of de randen wazig zijn, of dat het beeld korrelig oogt. Dit instinctieve oordeel is wat onderzoekers visuele kwaliteitsbeoordeling noemen. Decennialang hebben computers moeite gehad om dit menselijke vermogen te evenaren. Vroege pogingen vertrouwden op rigide wiskundige formules die pixelafwijkingen maten, maar deze slaagden er vaak niet in om overeen te komen met hoe mensen schoonheid en helderheid daadwerkelijk waarnemen. Recentelijk hebben krachtige kunstmatige intelligentiemodellen, bekend als large multimodal models, deze modellen getraind om afbeeldingen te bekijken en te beschrijven. Echter, wanneer deze modellen de opdracht krijgen om een specifieke kwaliteitsscore toe te kennen, worden ze vaak inconsistent. Als je hetzelfde model twee keer om dezelfde foto te laten beoordelen, kan het twee heel verschillende getallen geven, of kan de redenering in strijd zijn met de uiteindelijke score. Deze instabiliteit maakt het moeilijk om deze systemen te vertrouwen voor praktische toepassingen, van het verbeteren van smartphonecamera's tot het waarborgen van de kwaliteit van streamingvideo's.

Een team van onderzoekers aan de Shanghai Jiao Tong Universiteit heeft een nieuwe aanpak ontwikkeld om dit probleem op te lossen, waarbij ze een systeem creëerden dat ze PreResQ-R1 noemen. In plaats van de kunstmatige intelligentie simpelweg te dwingen een getal te gokken of blindelings een rangschikking te volgen, hebben ze het model geleerd om twee duidelijke taken van elkaar te scheiden: het stabiliseren van de eigen redenering en het afstemmen van de voorkeuren op het menselijk oordeel. De onderzoekers ontdekten dat de instabiliteit in eerdere systemen voortkwam uit de neiging van het model om wild uiteenlopende verklaringen te genereren voor dezelfde afbeelding. Om dit op te lossen, ontwierpen ze een trainingsproces dat het model beloont voor het consequent zijn in zijn interne logica, terwijl het er ook voor zorgt dat de uiteindelijke scores overeenkomen met wat een mens waarschijnlijk zou zeggen. Het systeem breekt de beoordeling van een afbeelding op in vijf specifieke onderdelen: hoe levendig de kleuren zijn, hoeveel ruis of korrel zichtbaar is, hoe scherp de details zijn, hoe duidelijk het hoofdonderwerp is en hoe duidelijk de achtergrond is. Door deze vijf aspecten afzonderlijk te evalueren voordat ze worden gecombineerd, leert het model een betrouwbaarder en gedetailleerder beeld van kwaliteit op te bouwen.

De onderzoekers testten deze nieuwe methode op een breed scala aan afbeeldingen en video's, waaronder die met natuurlijke verstoringen zoals onscherpte of weinig licht, evenals die gemaakt door andere kunstmatige intelligentietools. Ze ontdekten dat hun systeem bestaande methoden aanzienlijk overtrof. Bij tests met stilstaande beelden verbeterde het nieuwe model de nauwkeurigheid met 5,60 procent vergeleken met de beste eerdere benaderingen. Voor videokwaliteit, waarbij de uitdaging nog groter is omdat het systeem beweging en tijd moet beoordelen, verbeterde de nauwkeurigheid met 2,53 procent. Cruciaal is dat het model niet alleen betere cijfers produceerde; het produceerde ook betere verklaringen. Wanneer het een wazige foto van een landschap te zien kreeg, identificeerde het model correct dat de bladeren buiten focus waren en dat de achtergrond aan detail miste, in plaats van slechts een vage opmerking te geven dat de afbeelding "slecht" was. Dit vermogen om een gestructureerde, op bewijs gebaseerde reden voor de score te geven, maakt het systeem veel betrouwbaarder.

Het succes van dit werk berust op een tweefasige trainingsstrategie die een leerproces nabootst. Eerst wordt het model aangemoedigd om veel verschillende manieren te verkennen om naar een afbeelding te kijken, waarbij een breed scala aan mogelijke scores en redenen wordt gegenereerd. Tijdens deze fase wordt het systeem gestraft voor antwoorden die te verspreid of inconsistent zijn, waardoor het model voorzichtig naar een stabiele manier van denken wordt geleid. Zodra het model een betrouwbaar intern ritme heeft gevonden, richt de tweede fase zich op het verfijnen van de voorkeuren. Hier vergelijkt het systeem zijn oordelen met menselijke beoordelingen en leert het zijn scores aan te passen zodat ze overeenkomen met de menselijke perceptie. Deze scheiding van "helder denken" en "correct scoren" stelt het model in staat om moeilijke gevallen aan te pakken waarbij de beeldkwaliteit subjectief is of de verstoringen complex zijn. De onderzoekers hebben deze methode ook uitgebreid naar video door zowel de bewegingsstroom in de tijd als de details binnen individuele frames te analyseren, zonder dat daarvoor elke enkele beweging in de video gereconstrueerd hoeft te worden.

De implicaties van dit onderzoek reiken verder dan alleen het behalen van een betere score. Door een systeem te creëren dat zijn redenering kan uitleggen op een manier die overeenkomt met de menselijke perceptie, opent deze technologie de deur naar robuustere toepassingen in digitale media. Het suggereert dat de sleutel tot het laten begrijpen van visuele kwaliteit door kunstmatige intelligentie niet alleen ligt in het voeden van meer data, maar in het leren van het model om consistent te zijn in de eigen redenering voordat er een definitief oordeel wordt gevraagd. De studie demonstreert dat wanneer een model wordt getraind om zijn interne logica te stabiliseren en die logica vervolgens af te stemmen op menselijke voorkeur, het een niveau van betrouwbaarheid kan bereiken dat voorheen onbereikbaar was. Deze aanpak biedt een veelbelovend pad voor de ontwikkeling van tools die afbeeldingen automatisch kunnen verbeteren, videocontent kunnen cureren en kunnen garanderen dat wat we op onze schermen zien, werkelijk de kwaliteit reflecteert die we verwachten.