Possono trovarsi davanti a due possibilità equivalenti, senza alcun motivo per preferirne una all’altra, eppure finiscono per scegliere la stessa. Non perché qualcuno dica loro quale sia la risposta giusta, ma perché guardano cosa hanno scelto gli altri e si adeguano alla maggioranza. È il comportamento osservato in un nuovo studio sulle Intelligenze Artificiali, che mostra come gruppi di IA possano sviluppare spontaneamente una forma di coordinamento collettivo. La ricerca, pubblicata sulla rivista Science Advances, è stata guidata dall’Università di Costanza, in Germania, e ha coinvolto anche l’Istituto dei Sistemi Complessi del Consiglio Nazionale delle Ricerche e il Centro Ricerche Enrico Fermi di Roma. A coordinare il lavoro è stato l’italiano Giordano De Marzo, ricercatore dell’ateneo tedesco.

Gli esperimenti hanno messo alla prova gruppi di Large Language Model, i grandi modelli linguistici alla base dei più noti sistemi di IA. ChatGPT è uno degli esempi più conosciuti. Ai modelli venivano proposte due opzioni tra loro equivalenti, in una situazione quindi in cui non esisteva una ragione oggettiva per scegliere l’una o l’altra. La variabile decisiva era un’altra: ogni modello poteva conoscere le scelte effettuate dagli altri componenti del gruppo. E, osservando quelle preferenze, le IA tendevano progressivamente a convergere verso l’opzione che aveva ricevuto più voti. In altre parole, la maggioranza diventava una sorta di punto di riferimento. I modelli sceglievano l’opzione più “votata”, sviluppando così un comportamento di coordinamento collettivo che ricorda meccanismi osservabili anche in natura, dagli stormi di uccelli ai banchi di pesci fino ai comportamenti degli esseri umani.

L’aspetto più sorprendente è che il fenomeno non si limita a piccoli gruppi. Gli esperimenti hanno mostrato forme di coordinamento anche in gruppi estremamente numerosi, composti da circa mille IA. Tra i modelli coinvolti c’erano anche sistemi avanzati come Claude 3.5 Sonnet di Anthropic e GPT-4 Turbo di OpenAI. Il meccanismo, spiegano i ricercatori, non richiede necessariamente un coordinatore umano che stabilisca le regole del comportamento collettivo. Il consenso può emergere dal semplice confronto tra le decisioni dei singoli modelli.

È proprio questo elemento a rendere il risultato interessante, ma anche delicato. Se la capacità di coordinarsi può rendere più efficienti sistemi composti da molte IA che devono collaborare, allo stesso tempo può produrre dinamiche difficili da prevedere o controllare. “Il coordinamento spontaneo potrebbe rivelarsi vantaggioso”, osservano gli autori dello studio, “ma potrebbe anche porre sfide legate alla sicurezza“. La ricerca apre quindi una questione che va oltre la semplice capacità di un singolo modello di fornire una risposta. Se sempre più sistemi di IA saranno chiamati a lavorare insieme, infatti, sarà importante capire non solo come ragiona ciascun modello, ma anche cosa accade quando molti modelli osservano le decisioni degli altri e iniziano ad adattarsi reciprocamente. Il risultato dello studio suggerisce che, in determinate condizioni, una forma di consenso può emergere senza che nessuno lo abbia imposto. Le IA, semplicemente, guardano cosa fa la maggioranza. E la seguono.

Lo studio

L'articolo Le IA si mettono d’accordo da sole: seguono la maggioranza anche in gruppi di mille. Lo studio su Science proviene da Il Fatto Quotidiano.