A Validated Prompt Bank for Malicious Code Generation: Separating Executable Weapons from Security Knowledge in 1,554 Consensus-Labeled Prompts
Dieser Beitrag stellt eine validierte "CODE"-Bank mit 1.554 Prompts und ein konsensbasiertes Klassifizierungsframework vor, die ausführbare Anfragen zu schädlicher Software strikt von schädlichen Sicherheitswissensabfragen trennen, um die Vermischungsprobleme in bestehenden Sicherheitsbenchmarks für Sprachmodelle zu adressieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie möchten testen, wie gut ein Sicherheitswächter darin ist, Bösewichte aufzuhalten. Sie haben eine Liste von Anfragen, die Sie dem Wächter geben. Manche Anfragen sind so, als würden Sie dem Wächter eine geladene Pistole geben und sagen: „Schießen Sie auf diese Person." Andere Anfragen sind so, als würden Sie dem Wächter ein Lehrbuch geben und sagen: „Erklären Sie, wie eine Pistole funktioniert und wie man sie zielt."
Lange Zeit haben Forscher, die die Sicherheit von KI testen, diese beiden Arten von Anfragen in einem großen Haufen vermischt. Sie würden die KI auffordern, „einen Virus zu schreiben" (die geladene Pistole) und „zu erklären, wie sich ein Virus ausbreitet" (das Lehrbuch), und zählten dann einfach, wie oft die KI „Nein" sagte.
Die Autoren dieses Papiers, Richard J. Young und Gregory D. Moody, sagen, dies sei eine unübersichtliche Art zu testen. Wenn eine KI sich weigert, den Virus zu schreiben, aber bereitwillig das Lehrbuch erklärt, oder umgekehrt, sagt eine einzelne „Nein"-Zählung nicht aus, was tatsächlich im Gehirn der KI vor sich geht. Es ist so, als würde man versuchen zu messen, wie gut ein Wächter Kugeln aufhält, indem man auch zählt, wie gut er Menschen davon abhält, über Kugeln zu lesen. Man kann nicht unterscheiden, ob der Wächter gut darin ist, Waffen aufzuhalten, oder nur gut darin, Informationen aufzuhalten.
Die große Idee: Trennung der „Waffen" vom „Wissen"
Um dies zu beheben, entwickelten die Forscher ein neues Werkzeug: eine validierte Prompt-Bank. Stellen Sie sich dies als einen hochorganisierten, doppelt geprüften Aktenschrank vor. Sie nahmen Tausende von Fragen aus vier verschiedenen bestehenden Testlisten und sortierten sie in zwei separate Fächer:
- Das Fach „Waffen": Dies sind Prompts, die die KI auffordern, tatsächlich etwas Gefährliches zu erstellen, wie etwa eine Malware oder ein Skript, das auf einem Computer ausgeführt werden kann. Dies sind die „ausführbaren Waffen".
- Das Fach „Wissen": Dies sind Prompts, die die KI auffordern, Gefährliches zu beschreiben, wie etwa zu erklären, wie ein Virus funktioniert oder wie man ein System hackt, ohne dabei tatsächlich den Code zu erstellen.
Wie sie den Aktenschrank bauten
Sie sortierten die Unterlagen nicht einfach selbst; sie wollten absolut sicher sein, dass die Sortierung korrekt war. Daher setzten sie eine „Jury" aus fünf verschiedenen KI-Richtern ein. Diese Richter stammten von fünf verschiedenen Technologieunternehmen (Anthropic, OpenAI, Google, Zhipu AI und Alibaba).
Stellen Sie sich fünf verschiedene Experten vor, die sich eine einzelne Anfrage ansehen. Alle müssen abstimmen: „Ist dies eine Anfrage nach einer Waffe, oder ist es nur eine Anfrage nach Informationen?"
- Wenn mindestens drei von fünf zustimmen, ist dies die endgültige Antwort.
- Sie überprüften ihre Arbeit mit einem statistischen Werkzeug (genannt Fleiss' ), um zu sehen, wie stark sie übereinstimmten. Das Ergebnis war eine „fast perfekte" Übereinstimmung (0,876 von 1,0). Dies bedeutet, dass die Sortierung unglaublich zuverlässig ist.
Das Ergebnis: Eine saubere, verifizierte Liste
Nachdem sie über 17.000 ursprüngliche Anfragen durchgearbeitet und Duplikate oder verwirrende entfernt hatten, endeten sie mit einer sauberen, verifizierten Liste von 1.554 Prompts, die ausschließlich das Anfordern von „Waffen" (bösartiger Code) betreffen. Sie behielten auch eine kleinere Liste von 388 Prompts über „Wissen" für spätere Vergleiche bei.
Warum dies wichtig ist
Vor diesem Papier musste ein Forscher, der testen wollte, ob eine KI sicher ist, seinen eigenen unübersichtlichen Haufen von Fragen zusammenstellen und raten, welche „Waffen" und welche „Wissen" waren. Dies bedeutete, dass jede Studie etwas anders war, was den Vergleich der Ergebnisse erschwerte.
Dieses Papier bietet einen standardisierten, vorselegierten Satz von Fragen. Jetzt können Forscher sagen: „Wir haben die KI auf diese spezifischen 1.554 Waffen-Anfragen getestet", und jeder andere weiß genau, was das bedeutet. Es nimmt das Raten weg und ermöglicht einen fairen, direkten Vergleich (Apfel-zu-Apfel), wie verschiedene KI-Modelle mit gefährlichen Anfragen umgehen.
Wichtiger Sicherheitshinweis
Die Autoren sind sehr klar: Sie haben keine neuen Viren oder gefährlichen Codes erstellt. Sie haben nur bestehende Fragen aus anderen akademischen Studien genommen und sortiert. Das Ziel dieses Werkzeugs ist es, Forschern zu helfen, KI sicherer zu machen, indem sie genau verstehen, wo sie versagt, und nicht, um jemandem zu helfen, Angriffe zu entwickeln. Die Daten sind hinter einem „gated" (kontrollierten) System gesperrt, was bedeutet, dass nur verifizierte Forscher, die an Sicherheit arbeiten, Zugang zum tatsächlichen Text der Fragen erhalten.
Kurz gesagt, dieses Papier baute ein besseres, saubereres Lineal zur Messung der KI-Sicherheit, indem es Anfragen, die das „tun der bösen Sache" betreffen, von denen trennte, die das „Reden über die böse Sache" betreffen, damit wir sie genau messen können.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.