Definitional alignment before capability alignment: a Design-Science framework for adjudicating claims about AGI
Questo articolo propone DAF-AGI, un framework di Design-Science che privilegia l'allineamento definitorio rispetto all'allineamento delle capacità per giudicare le rivendicazioni contrastanti sull'arrivo dell'AGI, stabilendo criteri ordinali e audit di governance per valutare le operazioni concorrenti.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Il problema centrale: L'argomento dell' "Arrivo"
Immaginate un gruppo di persone che discute se una nuova auto sia una "supercar".
- Persona A dice: "Sì, è una supercar perché raggiunge i 320 km/h."
- Persona B dice: "No, non lo è. Non sa fare il drifting e il suo motore non è un V12."
- Persona C dice: "Non importa cosa sia; se riesce ad arrivare da sola al negozio, è una supercar."
Stanno tutti guardando la stessa auto. Sono tutti d'accordo sui fatti (la velocità, il motore, le caratteristiche). Ma non riescono a concordare sul verdetto perché stanno usando diversi libri di regole per definire cosa sia effettivamente una "supercar".
Questo saggio sostiene che il campo dell'Intelligenza Artificiale Generale (AGI) sia bloccato esattamente in questa discussione. Alcune aziende dicono: "Siamo arrivati!" perché la loro IA scrive bene il codice. Altre dicono: "Siamo lontani decenni!" perché la loro IA non può ricordare le cose a lungo termine o risolvere nuovi enigmi. Il disaccordo non riguarda la tecnologia; riguarda chi ha il diritto di scrivere il libro di regole e cosa dicono effettivamente le regole.
La soluzione: Un "Auditore del Regolamento" (DAF-AGI)
Inveve di cercare di scrivere l'unica vera definizione di AGI (cosa che l'autore ritiene impossibile perché tutti hanno obiettivi diversi), l'autore ha costruito uno strumento chiamato DAF-AGI.
Pensate a DAF-AGI non come a un giudice che decide chi vince, ma come a un auditore di trasparenza. È come un "etichetta nutrizionale" per le definizioni. Quando qualcuno afferma: "Questa IA è AGI", l'auditore non dice semplicemente "Sì" o "No". Chiede:
- Cosa stai misurando? (È la velocità? È la memoria? È quanto denaro fa risparmiare?)
- Chi ha scritto le regole? (L'azienda che produce l'IA ha scritto le regole da sola?)
- Le regole possono essere cambiate? (Se l'IA fallisce, possono semplicemente cambiare le regole per farla passare l'esame?)
I Cinque "Libri di Regole" (Famiglie di Misurazione)
Il saggio esamina i cinque modi più comuni in cui le persone cercano di definire l'AGI e li sottopone ad audit:
Il "Contachilometri" (Superiorità delle Prestazioni):
- La Regola: "Se l'IA è più veloce/migliore di un essere umano in certi compiti, è AGI."
- Il Difetto: È facile imbrogliare. Puoi scegliere solo i compiti in cui l'IA è brava (come scrivere email) e ignorare quelli in cui è scarsa (come la pianificazione a lungo termine). È come dire che un corridore è un olimpionico perché ha vinto una gara su una pista su cui si è allenato, ma non sa correre sulla sabbia.
- Verdetto: Affidabilità bassa.
Il "Portafoglio" (Sostituzione Economica):
- La Regola: "Se l'IA può svolgere il lavoro di un essere umano a un costo inferiore, è AGI."
- Il Difetto: Questo confonde l' "intelligenza" con l' "economia". Un braccio robotico potrebbe sostituire un operaio in fabbrica perché è più economico, non perché è più "intelligente".
- Verdetto: Misto. Buono per l'economia, scarso per misurare l'intelligenza.
La "Mappa" (Ontologia delle Capacità):
- La Regola: "Abbiamo una mappa di diverse abilità (memoria, ragionamento, creatività). Dove si colloca l'IA sulla mappa?"
- Il Difetto: È una bellissima mappa, ma il cartografo (il laboratorio) decide dove si trova il "traguardo".
- Verdetto: Buona struttura, ma il cartografo controlla il traguardo.
La "Pagella" (Parità Psicométrica):
- La Regola: "L'IA deve corrispondere al profilo cognitivo completo di un adulto umano ben istruito."
- Il Difetto: Questo è il test più difficile. Le IA attuali sono come geni in matematica ma hanno la memoria di un pesce rosso. Falliscono questo test perché sono "irregolari" (eccellenti in alcune cose, terribili in altre).
- Verdetto: Alta affidabilità, ma le IA attuali falliscono.
La "Velocità di Apprendimento" (Acquisizione di Competenze):
- La Regola: "L'intelligenza è la velocità con cui impari un nuovo enigma che non hai mai visto prima."
- Il Difetto: Le IA attuali sono bravissime a memorizzare vecchi enigmi ma pessime nel risolverne di nuovi.
- Verdetto: Alta affidabilità, ma le IA attuali falliscono.
La Grande Rivelazione: La "Rivendicazione Stilizzata"
Il saggio mette alla prova una rivendicazione popolare: "L'IA attuale è AGI perché supera un adulto ben istruito in molti compiti."
Quando l'auditore (DAF-AGI) controlla questa affermazione, trova un trucco magico.
- La rivendicazione usa la regola del Contachilometri (battere l'adulto in alcuni compiti).
- Ma prende in prestito l'etichetta della Pagella ("Adulto ben istruito").
- Se applichi effettivamente le regole della Pagella, l'IA fallisce perché ha lacune nella memoria.
- Se applichi le regole del Contachilometri, l'IA passa, ma solo perché l'azienda ha scelto i compiti più facili.
La Conclusione: La rivendicazione è "sottospecificata". Mescola una regola permissiva con un'etichetta rigorosa per far sembrare l'IA più intelligente di quanto non sia. Il saggio afferma che non possiamo dichiarare "l'AGI è arrivata" finché non concordiamo su quale libro di regole stiamo usando e su chi ha il diritto di cambiare le regole.
Il Concetto di "Sovranità Definitoria"
Questa è l'idea politica più importante del saggio.
Immaginate un paese che importa tutto il proprio cibo.
- Scenario A: Comprano cibo da un vicino. Il vicino decide cosa significa "fresco". Se il vicino cambia la definizione di "fresco" domani, il paese deve accettarla o morire di fame.
- Scenario B: Il paese compra il cibo, ma ha i propri ispettori. Possono dire: "Accettiamo la tua definizione di 'fresco' oggi, ma se la cambi, la controlleremo e potremmo rifiutarla."
L'autore chiama questo Sovranità Definitoria.
Molti paesi (e il pubblico) si trovano attualmente nello Scenario A. Sono "Prenditori di Definizioni". Accettano definizioni di AGI, "IA ad alto rischio" o "Maturità" scritte da pochi potenti laboratori tecnologici negli USA o in Cina.
- Se un laboratorio dice: "Questa è l'AGI", e questo scatena una legge o un crollo del mercato azionario, il mondo deve accettarlo.
- Il saggio sostiene che le nazioni abbiano bisogno della capacità di controllare, contestare e revisionare queste definizioni. Non devono scrivere le proprie definizioni da zero; devono solo avere il potere di dire: "Quella definizione non funziona per noi", o "Dobbiamo verificare quella pretesa".
Riassunto: Cosa dice realmente questo saggio
- Non possiamo concordare su cosa sia l'AGI perché gruppi diversi hanno obiettivi diversi (marketing, sicurezza, investimenti).
- Più dati non risolveranno il problema. Anche se l'IA diventasse più intelligente, continueremmo a discutere se conti come intelligenza "Generale" a meno che non sistemiamo prima la definizione.
- Le attuali rivendicazioni di "Arrivo" sono fragili. Spesso mescolano regole facili con etichette difficili per far sembrare un sistema come se fosse arrivato, quando non lo è.
- La governance è la chiave. Dobbiamo smettere di chiedere "Questa è l'AGI?" e iniziare a chiederci "Chi ha scritto la regola che dice che questa è l'AGI, e possiamo controllarli?".
- La sovranità è importante. I paesi e il pubblico devono avere il potere di contestare le definizioni importate della tecnologia, altrimenti saranno governati da regole che non hanno scritto e che non possono cambiare.
In breve: Prima di discutere se il robot sia "vivo" o "intelligente", dobbiamo concordare su chi tiene in mano il dizionario e assicurarci che non stiano cambiando le definizioni per favorire il proprio portafoglio.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.