DINOv2 versus Supervised Visual Representations for Tooth-Level Multi- Label Diagnosis Classification on Panoramic Radiographs: A Frozen-Feature Sample-Efficiency Study

Tandartsen vertrouwen op panoramische röntgenfoto's, een enkele brede afbeelding die de gehele boven- en onderkaak vastlegt, om een snel overzicht te krijgen van de mondgezondheid van een patiënt. Deze afbeeldingen zijn de eerste verdedigingslinie voor het opsporen van verborgen problemen zoals gaatjes, infecties aan de wortel van een tand, of tanden die nooit door het tandvlees heen zijn gekomen. Het lezen van deze beelden is echter moeilijk. De details zijn subtiel, en zelfs ervaren professionals kunnen kleine tekenen van ziekte missen of van mening verschillen over wat ze zien. Om dit te helpen, hebben onderzoekers zich tot kunstmatige intelligentie gewend, waarbij ze computers leren om deze problemen automatisch te herkennen. De grootste hindernis in dit veld is niet het bouwen van het computerprogramma, maar het vinden van de data om het te onderwijzen. Om een systeem te trainen om een specifieke ziekte te herkennen, moeten experts handmatig dozen rond elke individuele tand in duizenden afbeeldingen tekenen en precies labelen wat er mis mee is. Dit proces is traag, duur en vereist hooggeschoolde menselijke arbeid. Daarom zoeken wetenschappers voortdurend naar manieren om computers slimmer te maken met minder menselijke hulp, in de hoop een methode te vinden die effectief leert, zelfs wanneer er zeer weinig gelabelde voorbeelden zijn om van te bestuderen.

Een team van onderzoekers zette zich scharpe scherp om een specifieke aanpak voor dit probleem te testen met een grote collectie tandheelkundige röntgenfoto's. Ze wilden zien of een modern type kunstmatige intelligentie, dat leert door zelfstandig naar miljoenen ongelabelde foto's te kijken, de oudere, traditionele methoden zou kunnen overtreffen wanneer de hoeveelheid gelabelde trainingsdata strikt beperkt is. Ze concentreerden zich op een taak waarbij de computer naar een specifieke tand in een röntgenfoto moest kijken en moest beslissen of deze één of meer van vier condities vertoonde: een gaatje, een diep gaatje, een infectie aan de wortel, of een geïmpacteerde tand die vastzit. De onderzoekers vergeleken drie verschillende manieren om de "ogen" van de computer voor te bereiden voordat deze begon met leren van de tandheelkundige afbeeldingen. De eerste methode gebruikte een geavanceerd systeem genaamd DINOv2, dat was getraind op een enorme bibliotheek van algemene afbeeldingen zonder enige menselijke labels. De tweede methode gebruikte een standaard systeem dat was getraind op een beroemde collectie alledaagse foto's zoals katten, auto's en bomen, waarbij mensen elke foto hadden gelabeld. De derde methode was een controlegroep, gebruikmakend van een systeem dat nog nooit enige afbeeldingen had gezien en gewoon willekeurig gokte.

De studie begon met het testen van deze systemen met de volledige hoeveelheid beschikbare data. Wanneer de onderzoekers de computers toegang gaven tot alle beschikbare gelabelde voorbeelden die ze konden vinden, waren de resultaten verrassend dicht bij elkaar. Het moderne, zelflerende systeem en het traditionele, door mensen gelabelde systeem presteerden bijna identiek, en identificeerden beide de tandheelkundige condities met een vergelijkbaar niveau van nauwkeurigheid. Het systeem dat nog nooit eerder afbeeldingen had gezien, presteerde aanzienlijk slechter, wat bevestigde dat de computer enige voorkennis nodig had om de taak uit te voeren. Deze initiële bevinding suggereerde dat voor een taak met voldoende data, de oudere, gevestigde methode net zo goed was als de nieuwere, complexere methode.

De echte test kwam toen de onderzoekers een scenario simuleerden waarin menselijke experts erg druk waren en slechts een klein aantal voorbeelden konden labelen. Ze beperkten de trainingsdata tot slechts vijf positieve voorbeelden per conditie, een situatie die vaak voorkomt in medisch onderzoek in de echte wereld waar het verzamelen van data moeilijk is. In deze beperkte omgeving veranderden de resultaten drastisch. Het moderne systeem dat leerde van ongelabelde afbeeldingen presteerde consequent beter dan het traditionele systeem in elke enkele trial. Zelfs met slechts vijf voorbeelden om van te leren, was het zelflerende systeem in staat om de tandheelkundige problemen veel beter te herkennen dan het systeem dat getraind was op door mensen gelabelde foto's. Dit voordeel hield stand, zelfs toen de onderzoekers het aantal voorbeelden verhoogden naar honderd; het zelflerende systeem bleef de sterkere performer. Om er zeker van te zijn dat dit niet kwam doordat het moderne systeem een ander type computerarchitectuur gebruikte, testten de onderzoekers ook een derde, geavanceerder systeem dat op de traditionele manier was getraind maar dezelfde moderne architectuur gebruikte. Zelfs tegen deze eerlijkere tegenstander bleef het zelflerende systeem winnen, wat aantoonde dat het vermogen om van zeer weinig voorbeelden te leren een werkelijke kracht was.

De onderzoekers waren zorgvuldig in het uitleggen van wat hun bevindingen wel en niet bewezen. Ze toonden aan dat het zelflerende systeem beter was in het gebruiken van schaarse data, maar ze konden niet met zekerheid zeggen of dit kwam doordat het leerde zonder labels. De systemen verschilden op veel punten, waaronder de soorten afbeeldingen waarop ze waren getraind en de specifieke wiskundige recepten die werden gebruikt om ze te bouwen. Daarom komt het voordeel waarschijnlijk voort uit de combinatie van al deze factoren in plaats van slechts één factor. Bovendien, hoewel het zelflerende systeem efficiënter was, beweerde de studie niet dat het klaar was voor onmiddellijk gebruik in een tandartsenpraktijk. De prestatieverschillen, hoewel consistent, waren niet groot genoeg om als een klinische doorbraak te worden beschouwd, en de systemen waren niet getest op patiënten uit andere ziekenhuizen of met andere röntgenapparaten. De studie concludeert dat voor onderzoekers die werken met beperkte middelen, het beginnen met een modern, zelflerend systeem een krachtige strategie is. Het biedt een manier om het meeste uit een klein aantal expertlabels te halen, wat een sterke basis legt voor toekomstige tools die tandartsen uiteindelijk kunnen helpen om problemen nauwkeuriger en sneller te diagnosticeren.