Quantifying Geospatial in the Common Crawl Corpus
Dit artikel maakt gebruik van Gemini 1.5 om de prevalentie van geospatiale informatie in het Common Crawl-corpus te kwantificeren, waarbij wordt geschat dat 18,7% van de webdocumenten dergelijke gegevens bevat met minimale variatie tussen Engels en niet-Engelse talen, waardoor een fundament wordt gelegd voor het bestuderen van geospatiale bias in grote taalmodellen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je het internet voor als een enorme, chaotische bibliotheek met miljarden boeken, artikelen en webpagina's. Deze bibliotheek heet Common Crawl. Het is de gigantische stapel ruwe tekst die "superhersenen" (Large Language Models of LLM's), zoals die chatbots aandrijven, tijdens hun "kinderjaren" eten om te leren spreken en denken.
Onlangs merkten wetenschappers op dat deze superhersenen verrassend goed worden in het begrijpen van geografie. Ze kunnen je vertellen hoe ver het is van Londen naar Parijs of beschrijven hoe een stad eruitziet. Maar een grote vraag bleef: Waar hebben ze dit geleerd? Bevatte de bibliotheek die ze bestudeerden eigenlijk genoeg kaarten en adressen om hen dit te leren?
Dit artikel is als een team van bibliothecarissen dat die enorme bibliotheek binnenstapt om precies te tellen hoeveel pagina's locatie-informatie bevatten.
De Missie: Het Tellen van de "Waar"
De onderzoekers wilden weten: Hoeveel webpagina's in deze gigantische bibliotheek noemen daadwerkelijk een specifieke plaats?
Ze definieerden "specifieke plaats" op twee eenvoudige manieren:
- Coördinaten: De exacte nummers (zoals breedte- en lengtegraad) die een punt op een kaart vastpinnen.
- Adressen: Een straatnaam, stad en huisnummer (zoals "Hoofdstraat 123") waarmee je een brief kunt sturen of een gebouw kunt vinden.
Ze besloten om vage verwijzingen zoals "de Eiffeltoren" niet mee te tellen, tenzij er een adres aan gekoppeld was, omdat ze zeker wilden weten dat de locatie precies genoeg was om op een kaart te vinden.
Het Detectivewerk: Een Superscanner Gebruiken
De bibliotheek is te groot voor mensen om pagina voor pagina te lezen. Daarom gebruikten de onderzoekers een krachtige AI-tool genaamd Gemini 1.5 als hun "superscanner".
Stel je Gemini voor als een zeer snelle, zeer slimme stagiair. De onderzoekers gaven hem een stapel willekeurige webpagina's en vroegen: "Hé, heeft deze pagina een straatadres of een set kaartcoördinaten? Zo ja, toon me een voorbeeld."
Omdat de bibliotheek zo groot is, konden ze niet elke enkele pagina controleren. In plaats daarvan gebruikten ze een statistische truc (zoals een peiler die 1.000 mensen vraagt om de mening van een heel land te raden) om een representatieve steekproef van ongeveer 120.000 pagina's te selecteren uit drie verschillende tijdsperiodes (2019, 2021 en 2024).
De Grote Onthulling
Nadat de AI de pagina's had gescand en mensen de resultaten hadden gecontroleerd om zeker te zijn dat de AI niet "hallucineerde" (dingen verzon), vonden ze enkele interessante cijfers:
- De Goudmijn: Ongeveer 18,7% van alle webpagina's in de bibliotheek bevat een soort specifieke locatiegegevens. Dat is ongeveer 1 op de 5 pagina's.
- De Mix:
- Sommige pagina's hadden alleen een adres (16,1%).
- Sommige hadden alleen coördinaten (7,0%).
- Sommige hadden beide (4,3%).
- De Taalbalans: Verrassend maakte het niet uit of de pagina in het Engels of een andere taal was. De "locatiedichtheid" was bijna hetzelfde voor beide. Of de pagina nu in het Spaans, Chinees of Engels was, de kans dat er een adres of coördinaten op stonden, was ongeveer gelijk.
- Het "Google Maps"-effect: Veel van de gevonden coördinaten waren gewoon links naar Google Maps. Dit betekent dat in landen waar Google Maps niet de belangrijkste kaart-app is (zoals China of Rusland), het aantal link-coördinaten lager is, wat mogelijk verklaart waarom sommige locatiegegevens in die talen iets minder vaak voorkomen.
Wat Dit Betekent voor de "Superhersenen"
Het artikel concludeert dat de bibliotheek waar de AI uit leerde eigenlijk vol zit met geografie. Het is niet leeg.
Omdat de AI zoveel pagina's met adressen en coördinaten "at", is het logisch dat het heeft geleerd ruimte, richtingen en afstanden te begrijpen. De onderzoekers merkten echter ook een "smaakonevenwicht" op in de bibliotheek:
- Engelse en .com-websites zijn oververtegenwoordigd (ze vormen een enorm deel van de bibliotheek).
- Dit betekent dat de AI mogelijk "vooringenomen" is naar de wereld zoals die wordt gezien door Engelstalige, Amerikaans gecentreerde websites, en mogelijk de nuances van andere delen van de wereld mist.
De Conclusie
De onderzoekers bouwden geen nieuwe kaart of nieuwe app. Ze namen simpelweg een volkstelling van de ruwe data van het internet. Ze ontdekten dat geografie overal aanwezig is in de data die wordt gebruikt om AI te trainen. Dit verklaart waarom AI goed is in geografie, maar waarschuwt ons ook dat het "beeld" van de wereld van de AI sterk wordt gevormd door welke websites het meest voorkwamen in de bibliotheek die ze bestudeerden.
Het artikel eindigt met de suggestie dat deze enorme verzameling locatiegegevens (ongeveer 46 miljard pagina's!) een "goudmijn" kan zijn voor toekomstige onderzoekers die AI specifiek willen trainen op geografische taken, maar dat is een taak voor toekomstige studies, niet voor deze.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.