🤖 machine learning

Energy-Based Open-Set Active Learning for Object Classification

Deze paper introduceert een nieuw tweestaps energie-gebaseerd kader voor actief leren in open-set omgevingen, dat onbekende klassen filtert en de meest informatieve bekende samples selecteert om labelkosten te minimaliseren en de classificatieprestaties te maximaliseren.

Oorspronkelijke auteurs: Zongyao Lyu, William J. Beksi

Gepubliceerd 2026-04-23

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Zongyao Lyu, William J. Beksi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een groot, rommelig magazijn hebt vol met dozen. Je wilt een nieuwe robot leren om specifieke soorten vruchten te herkennen, zoals appels en peren. Maar er is een probleem: in die dozen zitten niet alleen appels en peren, maar ook vreemde, onbekende objecten zoals stenen, oude schoenen en zelfs een paar rubberen eenden.

In de wereld van kunstmatige intelligentie noemen we dit een "Open-Set" probleem. De robot weet niet alles wat er bestaat; hij moet leren om te onderscheiden tussen wat hij kent (appels/peren) en wat hij niet kent (de rest).

Het oude probleem: De verwarde assistent

Normaal gesproken gebruiken slimme systemen een methode genaamd Actief Leren. Het idee is simpel: in plaats van dat je elke doos in het magazijn opent (wat duur en tijdrovend is), laat je de robot zelf kiezen welke dozen hij wil laten openen om te leren.

Het oude systeem werkt echter alsof de robot een beetje paniekerig is. Als hij een doos ziet met een onbekend object (een rubberen eend), denkt hij: "Ik weet niet wat dit is! Dit is heel verwarrend! Ik moet dit zeker laten openen om te leren!"

Dit is een enorme verspilling. Als je de robot 100 keer vraagt om een rubberen eend te bekijken, leert hij daar niets over appels. Je "leerbudget" (de tijd en geld die je hebt om de dozen te laten openen) wordt verspillen aan onzin.

De nieuwe oplossing: EB-OSAL (De slimme filter)

De auteurs van dit papier, Zongyao Lyu en William Beksi, hebben een nieuwe, slimme manier bedacht om dit op te lossen. Ze noemen hun systeem EB-OSAL. Ze gebruiken een concept uit de natuurkunde genaamd "Energie" (vandaar de naam), maar je kunt het zien als een slimme filter met twee stappen.

Stel je voor dat het systeem uit twee speciale medewerkers bestaat:

Stap 1: De "Vreemdelingen-Filter" (EKUS)

De eerste medewerker is een strenge bewaker. Zijn enige taak is om te kijken naar de dozen en te zeggen: "Dit is een vreemde."

Hij gebruikt een Energie-systeem: Alles wat hij kent (appels en peren) krijgt een laag energieniveau (rustig, veilig). Alles wat hij niet kent (de rubberen eend, de steen) krijgt een hoog energieniveau (onrustig, gevaarlijk).
Als een doos te veel "energie" heeft, gooit de bewaker hem direct weg. Hij zegt: "Nee, dit is geen appel. Dit is iets vreemds. We hoeven dit niet te openen."
Hierdoor blijft er alleen een stapel dozen over die waarschijnlijk appels of peren zijn.

Stap 2: De "Slimme Opleider" (ESS)

Nu hebben we alleen nog maar dozen met waarschijnlijk fruit. Maar welke moeten we nu openen om de robot het snelst te leren?

De tweede medewerker kijkt naar de resterende dozen. Hij zoekt niet naar de makkelijkste appels (die weet de robot al), maar naar de moeilijkste appels.
Bijvoorbeeld: een appel die een beetje groen is en op een peer lijkt. Of een peer die heel klein is.
Deze "moeilijke" voorbeelden geven de robot de meeste informatie. Als hij deze leert te onderscheiden, wordt hij veel slimmer.
Deze medewerker kiest dus alleen de meest leerzame dozen uit de stapel die door de eerste bewaker is geselecteerd.

Waarom is dit zo goed?

In het verleden probeerden systemen alles tegelijk te doen: ze probeerden te filteren én te kiezen, wat vaak leidde tot verwarring.

Dit nieuwe systeem werkt als een twee-traps raket:

Eerst filteren: "Is dit iets wat we kunnen leren?" (Zo nee, weg ermee).
Dan kiezen: "Welk voorbeeld van wat we kunnen leren, is het meest waardevol?" (Kies de moeilijkste).

De auteurs hebben dit getest op twee soorten data:

2D: Gewone foto's (zoals op je telefoon).
3D: Complexe 3D-modellen (zoals 3D-scans van meubels of auto's).

In beide gevallen bleek hun systeem veel beter te werken dan de oude methoden. Het verspilde geen tijd aan onbekende objecten en leerde de robot sneller en accurater.

Samenvatting in één zin

Stel je voor dat je een student wilt leren om auto's te herkennen in een drukke stad. In plaats van hem te laten kijken naar alles wat beweegt (waaronder fietsen, honden en mensen), laat je eerst een filter zien wat geen auto is, en laat je hem daarna alleen kijken naar de auto's die het moeilijkst te herkennen zijn. Zo leer je het snelst en bespaar je tijd. Dat is precies wat dit nieuwe systeem doet.

Titel: Energy-Based Open-Set Active Learning voor Objectclassificatie

Auteurs: Zongyao Lyu en William J. Beksi (University of Texas at Arlington)

1. Het Probleem: Open-Set Active Learning (OSAL)

Traditionele Active Learning (AL) methoden opereren onder de aanname van een "gesloten set" (closed-set), waarbij alle klassen in de ongelabelde dataset al bekend zijn en in het trainingssetje voorkomen. In realistische scenario's is dit echter vaak niet het geval; ongelabelde data bevat vaak ook onbekende klassen (unknown classes).

De uitdaging: Standaard AL-strategieën (zoals die gebaseerd op onzekerheid) kunnen onbewust samples van onbekende klassen selecteren voor annotatie. Dit leidt tot een inefficiënt gebruik van het annotatiebudget en kan de prestaties van het model voor de bekende klassen zelfs verslechteren.
Het doel: Ontwikkelen van een framework dat niet alleen de meest informatieve samples selecteert, maar deze ook effectief filtert op basis van of ze tot een bekende of onbekende klasse behoren.

2. Methodologie: EB-OSAL Framework

De auteurs stellen EB-OSAL voor, een tweestapsframework dat gebruikmaakt van Energy-Based Models (EBM's). Het systeem bestaat uit twee gespecialiseerde modules die samenwerken in een iteratief proces:

A. Tweestaps Architectuur

EKUS (Energy-based Known/Unknown Separator):
- Doel: Het filteren van ongelabelde data om samples die waarschijnlijk tot onbekende klassen behoren, te verwijderen.
- Werking: EKUS leert een energie-landschap waarbij samples van bekende klassen een lage energie krijgen en onbekende samples een hoge energie.
- Training: Het model wordt getraind met een combinatie van:
  - Energy Anchoring: Bekende samples worden verankerd in lage energie-regio's.
  - Negative Learning: Ongelabelde samples krijgen een complementair label om te voorkomen dat ze te zelfverzekerd aan bekende klassen worden toegewezen.
  - Margin Enforcement: Een hinge loss en contrastive loss zorgen voor een duidelijke scheiding tussen bekende samples en een subset van "pseudo-onbekende" samples (de top-% met de hoogste energie).
- Selectie: Samples met een energie boven een bepaalde drempel ( $\delta_k$ ) worden verworpen als onbekend.
ESS (Energy-based Sample Scorer):
- Doel: Het beoordelen van de "waarschijnlijk bekende" samples (die door EKUS zijn gefilterd) op hun informatiewaarde.
- Werking: ESS combineert twee factoren om een score te berekenen:
  - Predictive Uncertainty: Berekend via entropie van de softmax-uitvoer.
  - Energy Score: De energie ten opzichte van de besluitgrenzen van de bekende klassen.
- Selectie: De samples met de hoogste gecombineerde score worden geselecteerd voor annotatie.

B. Toepasbaarheid op 2D en 3D

Het framework is ontworpen om zowel voor 2D-beelden als 3D-puntenwolken te werken:

2D: Gebruikt een ResNet-18 backbone.
3D: Gebruikt PointNet voor het verwerken van ongeordende puntenwolken, met gedeelde MLP-layers en symmetrische pooling voor permutatie-invariantie.

3. Belangrijkste Bijdragen

Nieuw Framework: Een tweestaps EBM-framework specifiek voor Open-Set Active Learning dat zowel filtering als selectie van informatieve samples integreert.
EKUS Component: Een effectieve module om onbekende samples te filteren, waardoor het model zich kan focussen op relevante data.
ESS Component: Een nauwkeurige scorer die de informatiewaarde van bekende samples rangschikt, zodat de meest waardevolle data wordt geselecteerd.
Uitbreiding naar 3D: Het is het eerste werk dat OSAL toepast op 3D-objectclassificatie (een tot nu toe onderbelicht domein met hoge annotatiekosten), naast 2D-taken.
Benchmark Resultaten: Nieuwe resultaten op CIFAR-10, CIFAR-100, TinyImageNet en ModelNet40.

4. Experimentele Resultaten

De auteurs hebben hun methode getest op verschillende benchmarks met variërende "mismatch ratios" (20%, 30%, 40%), wat aangeeft hoeveel procent van de data uit onbekende klassen bestaat.

2D Resultaten (CIFAR-10, CIFAR-100, TinyImageNet):
- EB-OSAL presteert consistent beter dan bestaande methoden (zoals Random, Entropy, MQ-Net, LfOSA, BUAL, EOAL).
- Traditionele AL-methoden (zoals Entropy) presteerden in open-set scenario's soms zelfs slechter dan willekeurige selectie, omdat ze onbekende samples onterecht prioriteit gaven.
- EB-OSAL vermijdt deze valkuil door eerst te filteren en vervolgens de beste bekende samples te kiezen.
3D Resultaten (ModelNet40):
- Het framework toont vergelijkbare superioriteit in 3D-objectclassificatie.
- De resultaten bevestigen dat de tweestapsaanpak effectief is in het voorkomen van "vervuiling" door onbekende klassen en het maximaliseren van de leereffectiviteit voor bekende klassen, zelfs in complexe 3D-ruimtelijke taken.

5. Betekenis en Conclusie

Dit paper is significant omdat het een oplossing biedt voor een veelvoorkomend maar vaak genegeerd probleem in Active Learning: de aanwezigheid van onbekende klassen in de realiteit.

Efficiëntie: Door onbekende samples te filteren voordat annotatie plaatsvindt, wordt het dure menselijke annotatiebudget niet verspild aan irrelevante data.
Robuustheid: Het framework is robuust tegen variaties in de mate van "openheid" van de dataset.
Innovatie: De toepassing van Energy-Based Models op zowel 2D als 3D OSAL vult een belangrijke leemte in de literatuur op en biedt een nieuwe richting voor toekomstig onderzoek in objectdetectie en segmentatie onder onzekere omstandigheden.

Kortom, EB-OSAL zorgt ervoor dat in elke iteratie van het leerproces alleen de meest waardevolle en relevante samples worden geselecteerd, wat leidt tot superieure classificatieprestaties met minder annotatiekosten.