Nel mondo in rapida evoluzione dell'intelligenza artificiale, una rivoluzione silenziosa sta avendo luogo, dove i computer non si limitano più a rispondere alle domande, ma vengono chiamati a svolgere il lavoro. Invece di un essere umano che digita un prompt e attende una singola risposta, stiamo assistendo all'ascesa degli agenti autonomi: programmi software in grado di scomporre compiti complessi, prendere decisioni ed eseguire passaggi in autonomia. Immaginate uno studio legale che chiede a un'IA di revisionare un contratto, o un team di sviluppatori che le chiede di correggere un bug. L'essere umano fornisce l'obiettivo, ma la macchina decide come raggiungerlo. Questo cambiamento crea un nuovo tipo di relazione, una che gli economisti studiano da decenni: la dinamica principale-agente. In questo accordo, una parte, il principale, assume un'altra, l'agente, per svolgere un compito. Il problema sorge quando il principale non può vedere esattamente cosa stia facendo l'agente. Se l'agente viene pagato in base a quanto lavoro sembra svolgere, potrebbe sprecare tempo o scegliere gli strumenti più economici e meno efficaci solo per risparmiare, lasciando al principale un risultato scadente. Questo comportamento nascosto è noto come azzardo morale (moral hazard), e diventa particolarmente complicato quando il "lavoratore" è un'IA sofisticata capace di scegliere tra diversi livelli di potenza di calcolo e decidere quanto sforzo impiegare per risolvere un problema.

I ricercatori dell'Università di Waterloo sono entrati in questo scenario emergente per capire come pagare questi agenti autonomi in modo equo ed efficace. Si sono concentrati su uno scenario specifico in cui un agente IA deve scegliere due cose: quale modello linguistico di grandi dimensioni utilizzare come proprio "cervello" e quanta fatica computazionale impiegare per un compito. Pensate ai modelli come a diversi tipi di motori: alcuni sono piccoli, economici e veloci, ma potrebbero faticare con problemi difficili, mentre altri sono massicci, costosi e potenti, ma costano una fortuna per essere gestiti. L'agente decide anche lo "sforzo", che nel mondo dell'IA significa quanti token, o unità di testo, genera per risolvere il problema. I ricercatori hanno scoperto che la qualità della risposta migliora man mano che l'agente impiega più sforzo, ma solo fino a un certo punto. Come riempire un secchio, i primi litri d'acqua fanno una grande differenza, ma dopo un po', aggiungere altra acqua fa solo traboccare il secchio senza renderlo più pieno. Questo schema, noto come funzione di saturazione, significa che spendere più denaro in sforzo produce infine rendimenti decrescenti.

Il cuore dello studio è stato progettare un piano di pagamento, o contratto, che incoraggi l'agente a fare le scelte giuste senza che il principale debba controllare ogni mossa. I ricercatori hanno proposto un semplice contratto lineare: l'agente riceve una percentuale del valore del risultato finale. Se il risultato è buono, l'agente ottiene una fetta più grande della torta. Il team ha dimosto matematicamente che, in questo sistema, l'agente passerebbe naturalmente da un modello più economico e debole a uno più costoso e potente solo quando la quota di ricompensa supera una specifica soglia. Al di sotto di questa linea, l'agente resta fedele al modello economico per risparmiare sui costi. Al di sopra di essa, il potenziale di un risultato migliore rende l'uso del modello costoso degno del prezzo pagato. Questo punto di passaggio non è casuale; è un confine matematico preciso determinato dai costi e dalle capacità dei modelli disponibili. I ricercatori hanno anche dimostrato che il principale può calcolare la percentuale perfetta da offrire per massimizzare il proprio profitto, bilanciando il costo della ricompensa con la qualità del lavoro prodotto.

Per vedere se questa teoria reggeva nel mondo reale, il team l'ha testata utilizzando modelli di IA reali su due sfide difficili: matematica avanzata e domande complesse di cultura generale. Hanno raccolto dati su come diversi modelli si comportavano man mano che venivano autorizzati a utilizzare sempre più sforzo computazionale, adattando le loro prestazioni reali alle curve teoriche. Hanno poi impostato una simulazione in cui un agente IA e un principale umano imparavano a interagire attraverso migliaia di round. L'agente utilizzava un algoritmo di apprendimento per capire quale modello e quale livello di sforzo funzionassero meglio per diverse offerte di pagamento, mentre il principale imparava quale percentuale di ricompensa rendesse i migliori risultati. I risultati sono stati sorprendenti. Sia l'agente che il principale, partendo senza alcuna conoscenza pregressa delle capacità nascoste dei modelli, sono alla fine approdati a strategie che corrispondevano quasi perfettamente alle previsioni teoriche dei ricercatori. Gli agenti hanno imparato a cambiare modello esattamente nel punto suggerito dalla matematica, e i principali hanno imparato a offrire la percentuale di ricompensa esatta che massimizzava i loro ritorni.

Lo studio ha anche esplorato cosa succede quando i modelli richiedono un periodo di "riscaldamento", una fase in cui devono impiegare una certa quantità di sforzo solo per iniziare prima di poter produrre una risposta utile. Questo è comune nei compiti di ragionamento complesso, dove l'IA deve riflettere per un po' prima di poter scrivere una soluzione. I ricercatori hanno scoperto che questo costo iniziale cambia leggermente la matematica, spingendo ancora più in alto il punto in cui diventa conveniente passare a un modello più potente. Anche con questa aggiunta di complessità, gli algoritmi di apprendimento nella simulazione hanno comunque trovato il percorso ottimale, confermando che contratti semplici e trasparenti possono guidare sistemi autonomi complessi verso un comportamento efficiente. Il lavoro suggerisce che, mentre ci muoviamo verso un futuro in cui agenti IA gestiscono altri agenti IA, non abbiamo bisogno di sistemi complicati e opachi per tenerli onesti. Un accordo semplice basato sulla qualità del risultato è sufficiente per allineare gli interessi dell'uomo e della macchina, assicurando che vengano utilizzati gli strumenti giusti e che venga applicato il giusto livello di sforzo.

Questa ricerca non pretende di aver risolto ogni problema nell'economia dell'intelligenza artificiale. Gli autori osservano che il loro modello presuppone che il principale possa verificare facilmente il risultato finale, il che potrebbe non essere sempre vero nel mondo reale. Affermano inoltre che lavori futuri potrebbero esplorare situazioni in cui il valore del compito è nascosto all'agente, creando un ulteriore livello di incertezza. Tuttavia, i risultati forniscono una solida base per comprendere come strutturare gli accordi in un'era di delega autonoma. Trattando la scelta della tecnologia e l'allocazione dello sforzo come un'unica decisione coordinata, lo studio offre una via chiara per costruire mercati in cui gli agenti IA possano lavorare efficientemente senza una costante supervisione umana. Il messaggio è di cauta ottimismo: con gli incentivi giusti, la complessa macchina dell'intelligenza artificiale può essere guidata a lavorare per noi, e non solo per se stessa.