Corporations Constitute Intelligence
Dit artikel analyseert Anthropic's 'constitutie' voor Claude en betoogt dat, ondanks de transparantie, de documentatie twee structurele gebreken vertoont: het uitsluiten van ethische beperkingen in militaire contexten en het onderdrukken van democratische discussie over AI-waarden, wat resulteert in een tekort aan politieke legitimiteit.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat een groot tech-bedrijf, Anthropic, een nieuwe, super slimme robot heeft gebouwd die heet Claude. In januari 2026 besloot dit bedrijf om een grondwet te schrijven voor deze robot.
Klinkt dat gek? Alsof een robot een grondwet nodig heeft? Nou, dat is precies wat dit artikel van Gilad Abiri bespreekt. Het is een fascinerend verhaal over wie de baas is over onze slimme machines en waarom een bedrijf alleen niet genoeg is om dat te regelen.
Hier is het verhaal, vertaald in simpele taal met een paar leuke vergelijkingen:
1. De "Gedetailleerde Handleiding" (De Grondwet)
Anthropic schreef een heel lang document (79 pagina's!) waarin ze uitleggen hoe Claude zich moet gedragen. Het is geen saaie lijst met regels ("Doe dit niet"), maar meer een filosofisch gesprek.
- De vergelijking: Stel je voor dat je een kind opvoedt. In plaats van alleen te zeggen "Ga niet op de muur staan", leg je uit waarom dat niet mag (omdat het de muur beschadigt en het niet respectvol is).
- Het bijzondere: De grondwet zegt zelfs dat Claude soms "nee" moet zeggen, zelfs als zijn eigen baas (Anthropic) of een soldaat hem vraagt om iets te doen dat moreel verkeerd is. Het is alsof je een robot een geweten geeft, net als bij een arts of een soldaat die weigert om onschuldige mensen aan te vallen.
2. Het Grote Probleem: De "Geheime Regel"
Maar hier komt de twist. Het artikel zegt: "Dit klinkt geweldig, maar het werkt niet voor alles."
- De vergelijking: Stel je voor dat een school een prachtige grondwet heeft die zegt: "Geen geweld, altijd respect." Maar als de school een geheim contract tekent met het leger, zegt het leger: "Voor onze speciale missie gelden die regels niet."
- Wat er echt gebeurt: Anthropic gaf toe dat hun grondwet niet geldt voor de versies van Claude die ze aan het Amerikaanse leger verkopen.
- In de burgerwereld zegt Claude: "Ik weiger dit, want het is moreel verkeerd."
- Voor het leger zegt Claude: "Ik doe wat jullie zeggen, want hier gelden andere regels."
- Het resultaat: Toen het leger Claude nodig had om bombardementen in Iran te plannen, deed de robot dat gewoon. De mooie grondwet hielp niet, omdat die voor militaire doeleinden niet gold. Het was alsof de robot zijn "geweten" uitschakelde zodra hij een militair uniform aanhad.
3. Wie is de Baas? (De "Eigenaar" vs. "De Buurt")
Het artikel stelt een heel belangrijk vraag: Wie bepaalt wat goed en fout is?
- De huidige situatie: Anthropic (een bedrijf in Californië) beslist wat de robot moet vinden. Ze hebben een "hiërarchie" gemaakt waarbij hun eigen mening boven die van de gebruiker staat.
- De vergelijking: Stel je voor dat een grote supermarkt de regels schrijft voor de hele stad. Ze zeggen: "We vinden dat iedereen gezond moet eten." Maar de supermarkt beslist zelf wat "gezond" is, gebaseerd op wat ze willen verkopen. De bewoners van de stad hebben geen stem in dit verhaal.
- Het bewijs: Anthropic heeft zelf een experiment gedaan waarbij ze 1000 gewone mensen vroegen om hun eigen regels voor de robot te bedenken. Het resultaat? De regels van de mensen waren 50% anders dan die van het bedrijf. De mensen wilden meer eerlijkheid en toegankelijkheid. Maar Anthropic negeerde dit en gebruikte toch hun eigen regels.
4. Waarom dit gevaarlijk is
De schrijver zegt dat we niet kunnen vertrouwen op de "goede wil" van bedrijven.
- De vergelijking: Je kunt een bedrijf niet vertrouwen om de regels van de maatschappij te schrijven, net zomin als je een speler in een voetbalwedstrijd niet kunt vertrouwen om ook de scheidsrechter te zijn. Als het bedrijf geld moet verdienen of als de overheid druk uitoefent, zullen ze hun eigen regels waarschijnlijk vergeten of aanpassen.
- Het gevaar: We denken dat deze grondwet een oplossing is, maar het is eigenlijk slechts een tijdelijke vervanger voor echte democratie. Het is alsof je een tijdelijk dakje zet tijdens een storm, terwijl je eigenlijk een stevig huis moet bouwen.
Conclusie: De "Niet Gevraagde" Beslissing
Het artikel eindigt met een krachtige boodschap:
Anthropic heeft een slimme intelligentie gecreëerd en heeft voor die intelligentie regels opgesteld. Maar wij, de rest van de wereld, zijn nooit gevraagd om mee te denken.
Het is alsof een bouwbedrijf een nieuw appartementencomplex bouwt en de regels voor de lift, de trappen en de buren bepaalt, zonder de toekomstige bewoners ook maar één keer te vragen wat zij belangrijk vinden.
De les: We hebben niet zomaar een betere "handleiding" nodig van bedrijven. We hebben publieke instituten nodig (zoals overheden en democratische processen) om de regels voor AI te schrijven. Alleen dan hebben die regels echt geldigheid voor iedereen, en niet alleen voor zolang het het bedrijf uitkomt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.