Stel je voor dat je een computer leert om een hond te herkennen. Je laat het duizenden foto's zien: een golden retriever in een zonnig park, een poedel in een regenachtig steegje, een husky in de sneeuw. De computer leert goed, maar het kan zijn dat hij gebruikmaakt van sluiproutes. In plaats van te leren wat een hond een hond maakt, leert de computer misschien dat honden in jouw foto's altijd op groen gras of tegen een blauwe lucht verschijnen. Als je de computer dan een foto van een hond op een rode loper laat zien, kan hij er volledig naast zitten omdat hij het dier zelf nooit heeft geleerd, alleen de achtergrond. Dit is een veelvoorkomend probleem in kunstmatige intelligentie dat bekend staat als "domain shift" (domeinverschuiving), waarbij een model dat getraind is in één omgeving moeite heeft wanneer de omstandigheden veranderen. Wetenschappers proberen dit op te lossen door computers te leren de veranderende omgeving te negeren en zich alleen te concentrages op de essentiële kenmerken van het object.

Een team onderzoekers aan de University of Delaware heeft een nieuwe manier voorgesteld om computers precies dat te helpen doen. Ze noemen hun methode FOCUS, wat staat voor Feature Orthogonalization via Contrastive Upper-bound Separation. Het kernidee is om de computer te dwingen zijn begrip van een afbeelding op te splitsen in twee afzonderlijke delen: één deel dat beschrijft wat het object is, en een ander deel dat beschrijft waar de foto is genomen of welke stijl het heeft. Door deze twee stukken informatie strikt gescheiden te houden, wordt de computer veel beter in het herkennen van objecten in nieuwe, onbekende omgevingen. De onderzoekers testten dit idee op vier verschillende sets afbeeldingen, variërend van schetsen en cartoons tot echte foto's van dieren in het wild. Ze ontdekten dat hun methode de nauwkeurigheid van de computer met tussen de 0,70% en 2,70% verbeterde vergeleken met de beste bestaande methoden, waarbij de meest significante winst werd geboekt bij de moeilijke taak van het identificeren van dieren in het wild.

De onderzoekers begonnen met een eenvoudige observatie: standaard computervisiemodellen raken vaak in de war omdat ze de identiteit van een object verwarren met de stijl van de afbeelding. Om dit op te lossen, bouwden ze een systeem met twee duidelijke paden, of "takken", voor het verwerken van informatie. Eén tak is gewijd aan het leren van de inhoud van de afbeelding, zoals de vorm van een hond of de kleur van een auto. De andere tak is gewijd aan het leren van het domein, wat factoren omvat zoals de belichting, de gebruikte camera of de artistieke stijl van de tekening. Het doel is dat de inhoudstak zo goed wordt in het identificeren van het object dat hij de achtergrond of stijl niet meer nodig heeft, terwijl de domeintak al die extra details opvangt.

Echter, alleen het hebben van twee takken is niet genoeg. De onderzoekers realiseerden zich dat als deze twee takken elkaar te vrij laten communiceren, de inhoudstak nog steeds aanwijzingen uit de domeintak zou kunnen binnensluipen, wat leidt tot dezelfde fouten van de computer. Om dit te voorkomen, introduceerden ze een regel die de twee takken dwingt om statistisch onafhankelijk te blijven. In gewone taal betekent dit dat de informatie in de inhoudstak de informatie in de domeintak niet moet kunnen helpen voorspellen, en vice versa. Als de computer leert dat een specifieke vorm altijd met een specifieke achtergrond verschijnt, faalt hij wanneer die achtergrond verandert. Door deze link te verbreken, wordt de computer gedwongen om alleen op de vorm zelf te vertrouwen.

Om deze scheiding af te dwingen, gebruikten de onderzoekers een wiskundig hulpmiddel genaamd wederzijdse informatie (mutual information). Denk aan wederzijnlijke informatie als een maatstaf voor hoeveel twee dingen elkaar vertellen. Als je het weer weet, en dat vertelt je veel over of mensen paraplu's dragen, dan is de wederzijdse informatie tussen het weer en paraplu's hoog. De onderzoekers wilden de wederzijdse informatie tussen het "wat" (het object) en het "waar" (het domein) zo dicht mogelijk bij nul krijgen. Ze ontwikkelden een manier om dit getal te berekenen en gebruikten het vervolgens als een straf (penalty) tijdens de training. Elke keer dat de twee takken te veel informatie deelden, paste het systeem een straf toe, waardoor ze weer uit elkaar werden geduwd.

Het artikel presenteert een interessante wending in hoe deze berekening wordt uitgevoerd. De onderzoekers gebruikten oorspronkelijk een methode die een bovengrens biedt aan hoeveel de takken met elkaar verbonden zijn. Vervolgens testten ze een andere methode die een ondergrens biedt. Het is als het proberen te meten van de afstand tussen twee steden: de ene methode garandeert dat de afstand niet meer is dan een bepaald aantal, terwijl de andere garandeert dat het minstens een bepa wordt. De onderzoekers wilden zien of de specifieke manier waarop ze deze afstand berekenden uitmaakte voor het uiteindelijke resultaat. Ze vonden dat beide methoden erg goed werkten. De methode die een bovengrens stelt, gaf in sommige tests een iets betere score, maar de methie die een ondergrens stelt, presteerde bijna even goed. Dit suggereert dat het belangrijkste deel van de oplossing niet de specifieke wiskunde is die de verbinding meet, maar de daad van het dwingen van de computer om het object van de achtergrond te scheiden.

Het team testte hun systeem op vier belangrijke benchmarks om te verzekeren dat het werkte over verschillende soorten uitdagingen heen. De eerste was een collectie afbeeldingen die objecten in vier verschillende stijlen toonden: foto's, schilderijen, cartoons en schetsen. De tweede betrof afbeeldingen van vier verschillende datasets, die variëren in hoe ze zijn genomen en welke achtergronden ze laten zien. De derde was een grote collectie van kantoor- en huishoudelijke artikelen, variërend van artistieke tekeningen tot realistische productfoto's. De vierde was een bijzonder moeilijke set afbeeldingen gemaakt door cameravallen in het wild, die dieren in hun natuurlijke habitats lieten zien. Deze beelden uit de wildernis zijn lastig omdat de achtergrond, belichting en camerahoek drastisch veranderen van de ene locatie naar de andere, en de computer vaak deze omgevingsaanwijzingen aanziet voor de identiteit van het dier.

In de tests op de artistieke stijlen en kantoorbenodigdheden verbeterde de nieuwe methode de nauwkeurigheid van de computer met ongeveer 0,70% tot 1,26% ten opzichte van de vorige beste methoden. Hoewel deze getallen klein mogen lijken, is zelfs een fractie van een procent verbetering in de wereld van kunstmatige intelligentie aanzienlijk, omdat het een echte stap voorwaarts is in betrouwbaarheid. De meest dramatische verbetering kwam echter bij de taak van het herkennen van wilde dieren. Hier verhoogde de nieuwe methode de nauwkeurigheid met 2,70%. Dit is een substantiële winst, wat suggereert dat de methode vooral goed is in het omgaan met de rommelige, onvoorspelbare variaties die in de natuur worden gevonden. De onderzoekers merkten op dat in het wild, waar een camera een hert kan vastleggen in fel zonlicht of diepe schaduw, de computer vaak op de belichting vertrouwt om het dier te raden. Door de computer te dwingen het licht te negeren en zich alleen op het hert te concentreren, werd het systeem veel robuuster.

De onderzoekers keken ook nauwgezet naar hoe de computer leerde tijdens het trainingsproces. Ze vonden dat de twee verschillende wiskundige methoden die ze gebruikten om de verbinding tussen de takken te meten, heel verschillend gedroegen. De ene methode produceerde getallen die van nature in balans waren met de andere delen van het leerproces, waardoor het makkelijker te trainen was zonder constante aanpassingen. De andere methode produceerde getallen die veel groter waren, waardoor de onderzoekers ze zorgvuldig moesten afschalen zodat ze het leerproces niet zouden overstemmen. Ondanks deze verschillen in hoe de training aanvoelde, leidden beide methoden tot vergelijkbare eindresultaten. Deze bevinding is belangrijk omdat het suggereert dat het succes van de aanpak robuust is. Het hangt niet af van een enkele, fragiele wiskundige truc, maar op het fundamentele principe van het scheiden van het object van zijn context.

De studie concludeert dat de sleutel tot het betrouwbaarder maken van computers in de echte wereld ligt in het leren aan hen om te onderscheiden wat een object is van waar het te zien is. Door de achtergrond en stijl expliciet te modelleren als een aparte entiteit en de computer vervolgens te dwingen die entiteit te negeren bij het identificeren van het object, wordt het systeem veel moeilijker te misleiden. De onderzoekers vonden dat hoewel het specifieke instrument dat gebruikt wordt om de scheiding te meten ertoe doet voor hoe de computer leert, de daad van de scheiding zelf de verbetering drijft. Deze aanpak biedt een veelbelovend pad vooruit voor het bouwen van kunstmatige intelligentie die kan zich aanpassen aan nieuwe omgevingen zonder telkens opnieuw getraind te hoeven worden wanneer het decor verandert.

Uiteindelijk toont het werk aan dat het vermogen van een computer om te generaliseren naar nieuwe situaties niet alleen gaat over het zien van meer voorbeelden, maar over het zien van de juiste soort voorbeelden. Door de machine te leren het onderscheid te maken tussen de permanente kenmerken van een object en de tijdelijke kenmerken van zijn omgeving, hebben de onderzoekers een systeem gecreëerd dat minder snel in de war raakt door een verandering in belichting, een andere camera of een nieuwe artistieke stijl. De resultaten suggereren dat deze strategie van scheiding een krachtig hulpmiddel is om kunstmatige intelligentie betrouwbaarder en in staat te maken in de complexe, veranderende wereld van het echte leven.