Technische Samenvatting: Aandachtsmechanismen en Transfer Learning voor Robuuste Classificatie van Perenbladbeschadiging onder Domeinverschuiving

1. Probleemstelling

De beoordeling van de gezondheid van perenbomen is cruciaal voor het agrarisch beheer, maar staat voor aanzienlijke uitdagingen door klimaatverandering die zowel abiotische stress (bijv. hitte, droogte) als biotische druk (plagen en ziekten) intensiveert. Deze stressfactoren manifesteren zich vaak als visueel vergelijkbare symptomen aan het blad, waardoor handmatige diagnose zelfs voor experts moeilijk is. Hoewel deep learning (DL) een oplossing biedt, lijden bestaande modellen aan een "domeinverschuivingsprobleem": modellen die getraind zijn op gecureerde, gecontroleerde publieke datasets falen vaak bij toepassing op realistische veldbeelden vanwege variaties in verlichting, achtergrondcomplexiteit, overlappende bladeren en fenologische stadia. Bovendien is onderzoek naar perenbladeren vaak beperkt tot binaire classificatie of kleine, gemengde datasets met diverse organen, wat een gebrek aan de granulariteit betekent die nodig is voor robuuste multi-class schade detectie in heterogene agrarische omgevingen.

2. Methodologie

2.1. Data-acquisitie en Curatie

De studie maakte gebruik van twee verschillende datasets om de uitdaging van domeinverschuiving aan te pakken:

• Publieke Benchmark Dataset: Geconstrueerd uit de PlantDoc-dataset en een Mendeley Data-repository. Na handmatige selectie en annotatie bestond deze uit 1.366 individuele perenbladbeelden, gecategoriseerd in zes klassen: Bacteriële vlek (Bacterial spot), Abiotische stress, Mechanische stress, Mijt aanwezigheid (Mite presence), Kauwend insect (Chewing insects), en Gezond (Healthy). De dataset is sterk ongebalanceerd, gedomineerd door de klasse "Gezond".
• Lokale Velddataset: Een nieuwe dataset van 180 afbeeldingen verzameld in een commerciële boomgaard in Jumilla, Murcia, Spanje. Deze dataset bevat slechts vier van de zes klassen (exclusief Bacteriële vlek en Mijt aanwezigheid vanwege de afwezigheid tijdens de specifieke bemonsteringsperiode). Het dient als een realistisch testbed voor het evalueren van de generalisatie van modellen onder specifieke lokale omstandigheden.

2.2. Modelarchitecturen en Verbeteringen

De studie evalueerde een breed scala aan Convolutional Neural Network (CNN) architecturen, gecategoriseerd naar parametergrootte:

• Lightweight: MobileNetV2, MobileNetV3-Large.
• Medium: EfficientNetB0, EfficientNetB3, DenseNet121, ResNet50.
• Large: EfficientNetB5, ResNet101, VGG16, VGG19, InceptionV3.

Een belangrijke methodologische bijdrage was de integratie van het Convolutional Block Attention Module (CBAM) in geselecteerde backbones. CBAM leidt sequentieel kanaal- en ruimtelijke aandachtskaarten af om de representatie van kenmerken te verfijnen. De auteurs implementeerden CBAM op de output van de laatste convolutionele fase van elke backbone, gevolgd door global average pooling en een classificatiekop.

2.3. Experimenteel Ontwerp

Het onderzoek werd uitgevoerd in twee fasen:

1. Benchmarking: Modellen werden getraind op de publieke dataset met behulp van gestratificeerde 5-voudige kruisvalidatie (3 keer herhaald). Data-augmentatie (rotatie, spiegeling, aanpassingen in helderheid/contrast) en class-weighted categorical cross-entropy loss werden toegepast om de onbalans te mitigeren.
2. Transfer Learning (Domeinadaptatie): Geselecteerde modellen werden gefinetuned op de lokale dataset (180 afbeeldingen) om de aanpasbaarheid te evalueren. Drie strategieën werden vergeleken:
   • Feature Extraction: De backbone bevriezen, alleen de kop trainen.
   • Fine-tune Last: Alleen de laatste lagen bevriezen.
   • Fine-tune All: Het gehele netwerk ontdooien (met een 0.3 unfreeze ratio in de initiële benchmarkfase, maar volledige fine-tuning in de transferfase).

3. Belangrijkste Bijdragen

• Nieuwe Benchmark: Vestiging van een rigoureuze 6-klasse benchmark voor de classificatie van perenbladbeschadiging met handmatig geannoteerde publieke data.
• Release van Lokale Dataset: Verzameling en publieke release van een lokale velddataset (180 afbeeldingen) om de studie van domeinverschuiving tussen publieke benchmarks en real-world condities te faciliteren.
• Architectuur-afhankelijke Aandachtsanalyse: Een systematische evaluatie die aantoont dat de effectiviteit van CBAM sterk afhankelijk is van de onderliggende backbone-architectuur.
• Evaluatie van Transfer Learning Strategieën: Identificatie van optimale fine-tuning strategieën voor verschillende architecturen om domeinverschuiving in scenario's met weinig data te mitigeren.

4. Resultaten

4.1. Benchmarkprestaties (Publieke Dataset)

• Top Performers: De EfficientNet familie presteerde consequent beter dan andere architecturen. EfficientNetB5 behaalde de hoogste algehele nauwkeurigheid (91,9%) en gewogen F1-score (0,922) onder de niet-aandacht modellen. DenseNet121 presteerde ook sterk (92,6% nauwkeurigheid).
• Impact van CBAM: De integratie van CBAM leverde architectuur-afhankelijke resultaten op.
  • EfficientNetB5 + CBAM kwam als het best presterende model uit de bus, met een nauwkeurigheid van 93,3% en een gewogen F1-score van 93,6%. Het vertoonde significante winst in de detectie van minderheidsklassen (bijv. perfecte classificatie van Bacteriële vlek).
  • InceptionV3 + CBAM liet de grootste relatieve verbetering zien, met name in de recall voor minderheidsklassen.
  • EfficientNetB3 + CBAM vertoonde een trade-off: hoewel de macro F1 verbeterde, nam de gewogen F1 licht af, wat wijst op een verschuiving in de focus naar minderheidsklassen ten koste van de geaggregeerde nauwkeurigheid.
  • In sommige gevallen (bijv. DenseNet121) resulteerde het toevoegen van CBAM in verwaarloosbare of negatieve prestatiewinsten.

4.2. Transfer Learning Prestaties (Lokale Dataset)

• Domeingap: Modellen die uitsluitend op publieke data waren getraind, presteerden slecht op de lokale dataset (bijv. basis F1-scores vaak onder de 0,5), wat een significante domeingap bevestigt.
• Fine-tuning Strategieën: "Fine-tune All" (FTA) leverde over het algemeen de beste resultaten op voor diepere architecturen (DenseNet121, ResNet50, EfficientNetB5), terwijl "Fine-tune Last" (FTL) soms superieur was voor lichtere modellen. Feature extraction alleen was onvoldoende.
• Beste Adaptatie: EfficientNetB3 + CBAM bleek de meest robuuste architectuur onder domeinverschuiving, met een nauwkeurigheid van 94,6% en een macro F1-score van 93,0% na fine-tuning op de lokale data.
• Aanpasbaarheid van MobileNet: Het MobileNetV3-Large model vertoonde een uitzonderlijke aanpasbaarheid, waarbij de F1-score verbeterde van 0,39 naar 0,92 (+135% relatieve verbetering), waarmee het grotere modellen in het lokale domein overtrof.
• CBAM in Transfer: CBAM-verbeterde modellen vertoonden over het algemeen grotere transferwinsten vergeleken met hun niet-aandacht tegenhangers, wat suggereert dat aandachtmechanismen het netwerk helpen zich te concentreren op discriminerende kenmerken ondanks distributieverschuivingen.

5. Betekenis en Claims

Het artikel stelt dat hoewel deep learning een kader biedt voor geautomatiseerde beoordeling van gewasschade, de implementatie ervan in de echte landbouw vereist dat er aandacht wordt besteed aan domeinverschuiving en klassenonbalans. De studie toont aan dat:

1. Robuustheid is Architectuur-Afhankelijk: Er is geen enkel model of aandachtmechanisme dat universeel superieur is. De keuze van de backbone (bijv. EfficientNet vs. MobileNet) en de inclusie van aandachtmodules (CBAM) moeten worden afgestemd op de specifieke datadistributie en transfervereisten.
2. Aandachtsmechanismen Helpen bij Minderheidsdetectie: CBAM verbetert de detectie van ondervertegenwoordigde klassen (minderheidsklassen) aanzienlijk door de extractie van kenmerken te verfijnen, hoewel dit gepaard kan gaan met trade-offs in de prestaties van de meerderheidsklasse.
3. Transfer Learning is Essentieel: Eenvoudige feature extraction is onvoldoende om aan te passen aan lokale veldomstandigheden. Systematische fine-tuning strategieën zijn noodzakelijk om de kloof tussen publieke benchmarks en real-world deployment te overbruggen.
4. Haalbaarheid van Implementatie met Weinig Data: Het onderzoek bewijst dat robuuste, inzetbare modellen kunnen worden ontwikkeld met minimale lokale data (180 afbeeldingen) wanneer deze worden gecombineerd met pre-training op grote publieke datasets en geschikte fine-tuning strategieën.

De auteurs concluderen dat hun bevindingen een methodologische basis bieden voor het ontwikkelen van adaptieve systemen voor de classificatie van plantenziekten, hoewel zij opmerken dat toekomstig werk nodig is om de computationele kosten op edge-apparaten te evalueren en om deze bevindingen te generaliseren naar andere gewassen.