Toward a Threat Actor Profiling Taxonomy for Pre-Release Risk Management of Open-Weight Frontier Models
Dit artikel stelt een op empirische gegevens gebaseerde taxonomie met zes attributen voor om dreigingsactoren expliciet te karakteriseren, teneinde risicobeheer voorafgaand aan de release te standaardiseren en de interpreteerbaarheid en getrouwheid van evaluaties voor open-weight frontier AI-modellen te verbeteren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de snel evoluerende wereld van kunstmatige intelligentie is een specifiek type software opgekomen dat functioneert als een krachtig, universeel hulpmiddel. Deze systemen, bekend als frontier-modellen, kunnen code schrijven, complexe gegevens analyseren en problemen oplossen die voorheen menselijke experts vereisten. Jarenlang werden de meest geavanceerde versies van deze tools achter gesloten deuren gehouden, toegankelijk via beveiligde internetverbindingen waar ontwikkelaars konden monitoren hoe ze werden gebruikt. Echter, een nieuwe golf van deze modellen wordt uitgebracht waarbij hun onderliggende "weights"—de kern van de wiskundige instructies die hen laten werken—vrij beschikbaar is voor iedereen om te downloaden. Deze verschuiving is vergelijkbaar met het uitdelen van de blauwdrukken en motoronderdelen van een high-performance auto aan het publiek; hoewel dit ongelofelijke innovatie en onderzoek mogelijk maakt, betekent het ook dat zodra de onderdelen eruit zijn, ze niet meer teruggenomen kunnen worden. Als iemand deze bestanden downloadt, kan diegene de software aanpassen, veiligheidsfuncties verwijderen of het voor schadelijke doeleinden gebruiken zonder dat de oorspronkelijke makers het ooit weten.
De centrale uitdaging voor de mensen die deze systemen bouwen, is uitzoeken hoe gevaarlijk ze kunnen zijn voordat ze worden vrijgegeven. Momenteel voeren veiligheidsteams tests uit om te zien wat een model kan doen, waarbij ze de AI vaak vragen om moeilijke problemen op te lossen of proberen de AI te misleiden om schadelijke informatie te onthullen. Maar er bestaat een aanzienlijke kloof in hoe deze tests worden ontworpen. Veiligheidsonderzoekers gaan er vaak vanuit dat een generieke "slechte actor" de technologie zou kunnen misbruiken, maar ze definiëren zelden precies wie die persoon is. Is het een eenzame tiener met een laptop? Een goed gefinancierde criminele bende? Een door een staat gesponsord team van experts? Zonder een duidelijk beeld van de tegenstander, kunnen de tests te gemakkelijk zijn voor een geraffineerde aanvaller of te moeilijk voor een novice, waardoor ontwikkelaars een vals gevoel van veiligheid of onnodige angst krijgen. De vraag is niet alleen wat de software kan doen, maar wie het waarschijnlijk zal gebruiken en hoeveel inspanning zij nodig hebben om succesvol te zijn.
Een recent artikel ingediend bij de Tsinghua Universiteit pakt deze onzekerheid aan door een nieuwe manier voor te stellen om potentiële dreigingen te beschrijven. De auteur, James Q Zhang, betoogt dat ontwikkelaars, voordat er een veiligheidstest wordt uitgevoerd, expliciet de kenmerken moeten definiëren van de persoon of groep tegen wie ze proberen te beschermen. Om dit te doen, creëerden zij een gestructureerd systeem, of taxonomie, die een dreigingsactor onderverdelen in zes specifieke categorieën. In plaats van vage labels zoals "vaardig" of "goed voorzien", vraagt het systeem om concrete details: Hoe technisch geavanceerd is de actor? Beschikken zij al over kennis over biologie of cyberoorlogvoering? Hoeveel mensen zitten er in hun groep? Welke soort apparatuur hebben zij? Hoeveel geld kunnen zij uitgeven? En hoeveel tijd zijn zij bereid te investeren?
De onderzoekers ontwikkelden dit kader door te kijken naar hoe experts in andere velden, zoals cybersecurity en terrorismebestudering, dreigingen al analyseren. Zij ontdekten dat hoewel deze velden gedetailleerde manieren hebben om aanvallers te beschrijven, de kunstmatige intelligentie-gemeenschap nog geen vergelijkbare standaard heeft overgenomen. Het nieuwe systeem organiseert deze zes attributen in een raster met verschillende niveaus van capaciteit, variërend van een basisgebruiker met minimale middelen tot een zeer geavanceerde, goed gefinancierde instelling. Bijvoorbeeld, onder "financiële capaciteit" variëren de niveaus van minder dan duizend dollar tot meer dan tien miljoen. Onder "tijdshorizon" bestrijken de niveaus impulsen die minder dan een dag duren tot campagnes die zes maanden of langer duren.
Het artikel demonstreert de waarde van deze aanpak door twee verschillende profielen te creëren om aan te tonen hoe verschillende dreigingen verschillende veiligheidstests vereisen. Het eerste profiel beschrijft een "geradicaliseerde onderzoeker in opleiding". Dit individu heeft diepgaande kennis van biologie en werkt al enkele maanden aan een schadelijk doel, maar werkt alleen met zeer weinig geld en slechts basis computervaardigheden. Omdat deze persoon de wetenschap al kent, moet een veiligheidstest voor hen focussen op of de AI hen kan helpen bij het plannen van de logistiek van een aanval, in plaats van hen de wetenschap zelf te leren. Het tweede profiel beschrijft een "kleine, financieel gemotiveerde criminele groep". Deze actoren hebben gemiddelde computervaardigheden en wat geld om apparatuur te huren, maar missen specifieke kennis over hun doelwit. Voor hen is het gevaarlijkste risico dat de AI hun kennis hiaten kan opvullen, optredend als een gids om hen te helpen kwetsbaarheden te vinden die ze uit zichzelf niet zouden hebben gezien.
Door dit gestructureerde systeem te gebruiken, kunnen ontwikkelaars stoppen met gissen en beginnen met het ontwerpen van tests die overeenkomen met de reële risico's waarover zij zich zorgen maken. Als een bedrijf weet dat zij zich zorgen maken over een goed gefinancierde groep met een langetermijnplan, kunnen zij een veiligheidstest opzetten die hun testers een groot budget en voldoende tijd geeft, waarbij een serieuze, langdurige inspanning wordt gesimuleerd. Als zij zich zorgen maken over een individu met beperkte middelen, kan de test worden aangepast om die beperkingen te weerspiegelen. De auteur suggereert dat deze methode een standaard onderdeel van het releaseproces moet worden, vergelijkbaar met hoe medische onderzoekers hun plannen moeten opschrijven voordat ze aan een klinische studie beginnen. Dit zou ervoor zorgen dat veiligheidsevaluaties niet slechts willekeurige controles zijn, maar precieze metingen van risico tegen specifieke, goed gedefinieerde tegenstanders.
Het artikel benadrukt dat dit bijzonder urgent is voor open-weight modellen, waarbij de software aan het publiek wordt vrijgegeven en niet kan worden teruggeroepen. Zodra deze weights buiten zijn, verliezen de ontwikkelaars de controle, waardoor de beslissing vóór de release de enige kans is om schade te voorkomen. De auteur beweert niet dat dit systeem alle veiligheidsproblemen oplost of dat het de toekomst met zekerheid kan voorspellen. In plaats daarvan biedt het een hulpmiddel om de aannames achter veiligheidstests zichtbaar en vergelijkbaar te maken. Door ontwikkelaars te dwingen de details in te vullen van tegen wie zij beschermen, maakt het systeem het moeilijker om gevaarlijke scenario's over het hoofd te zien en gemakkelijker om de veiligheid van verschillende modellen te vergelijken. Het uiteindelijke doel is om de industrie te bewegen van vage waarschuwingen naar helder, actiegericht risicobeheer, waarbij wordt gewaarborgd dat de krachtige mogelijkheden van deze nieuwe technologieën worden begrepen in de context van de mensen die deze zouden kunnen misbruiken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.