Possono trovarsi davanti a due possibilità equivalenti, senza alcun motivo per preferirne una all’altra, eppure finiscono per scegliere la stessa. Non perché qualcuno dica loro quale sia la risposta giusta, ma perché guardano cosa hanno scelto gli altri e si adeguano alla maggioranza. È il comportamento osservato in un nuovo studio sulle Intelligenze Artificiali, che mostra come gruppi di IA possano sviluppare spontaneamente una forma di coordinamento collettivo. La ricerca, pubblicata sulla rivista Science Advances, è stata guidata dall’Università di Costanza, in Germania, e ha coinvolto anche l’Istituto dei Sistemi Complessi del Consiglio Nazionale delle Ricerche e il Centro Ricerche Enrico Fermi di Roma. A coordinare il lavoro è stato l’italiano Giordano De Marzo, ricercatore dell’ateneo tedesco.

Gli esperimenti hanno messo alla prova gruppi di Large Language Model, i grandi modelli linguistici alla base dei più noti sistemi di IA. ChatGPT è uno degli esempi più conosciuti. Ai modelli venivano proposte due opzioni tra loro equivalenti, in una situazione quindi in cui non esisteva una ragione oggettiva per scegliere l’una o l’altra. La variabile decisiva era un’altra: ogni modello poteva conoscere le scelte effettuate dagli altri componenti del gruppo. E, osservando quelle preferenze, le IA tendevano progressivamente a convergere verso l’opzione che aveva ricevuto più voti. In altre parole, la maggioranza diventava una sorta di punto di riferimento. I modelli sceglievano l’opzione più “votata”, sviluppando così un comportamento di coordinamento collettivo che ricorda meccanismi osservabili anche in natura, dagli stormi di uccelli ai banchi di pesci fino ai comportamenti degli esseri umani.

L’aspetto più sorprendente è che il fenomeno non si limita a piccoli gruppi. Gli esperimenti hanno mostrato forme di coordinamento anche in gruppi estremamente numerosi, composti da circa mille IA. Tra i modelli coinvolti c’erano anche sistemi avanzati come Claude 3.5 Sonnet di Anthropic e GPT-4 Turbo di OpenAI. Il meccanismo, spiegano i ricercatori, non richiede necessariamente un coordinatore umano che stabilisca le regole del comportamento collettivo. Il consenso può emergere dal semplice confronto tra le decisioni dei singoli modelli.

È proprio questo elemento a rendere il risultato interessante, ma anche delicato. Se la capacità di coordinarsi può rendere più efficienti sistemi composti da molte IA che devono collaborare, allo stesso tempo può produrre dinamiche difficili da prevedere o controllare. “Il coordinamento spontaneo potrebbe rivelarsi vantaggioso”, osservano gli autori dello studio, “ma potrebbe anche porre sfide legate alla sicurezza“. La ricerca apre quindi una questione che va oltre la semplice capacità di un singolo modello di fornire una risposta. Se sempre più sistemi di IA saranno chiamati a lavorare insieme, infatti, sarà importante capire non solo come ragiona ciascun modello, ma anche cosa accade quando molti modelli osservano le decisioni degli altri e iniziano ad adattarsi reciprocamente. Il risultato dello studio suggerisce che, in determinate condizioni, una forma di consenso può emergere senza che nessuno lo abbia imposto. Le IA, semplicemente, guardano cosa fa la maggioranza. E la seguono.

Lo studio

L'articolo Le IA si mettono d’accordo da sole: seguono la maggioranza anche in gruppi di mille. Lo studio su Science proviene da Il Fatto Quotidiano.

Phys.org reports: Future fusion power plants aim to recreate the heart of a star here on Earth to power our future energy needs. While the core fusion plasma will burn at hundreds of millions of degrees, the surrounding structural components must handle sudden, punishing heat loads that rival the extreme temperatures faced by spacecraft upon reentry into Earth's atmosphere. Copper and its alloys are primary candidates for handling these intense heat fluctuations, making it vital to understand exactly how the metal behaves when pushed to its melting point. Now, researchers at the Department of Energy's SLAC National Accelerator Laboratory and collaborators have captured a detailed, step-by-step look at copper atoms as they underwent extreme heating. Published in Nature Communications, the results revealed a key parameter that allowed copper's crystal lattice to melt steadily rather than collapse instantaneously, as earlier simulations predicted. "These results greatly improve the simulations we use to predict which materials have the best shot at surviving the extreme conditions of future fusion reaction chambers," said Mianzhen Mo, a SLAC staff scientist who led the research. "They also demonstrate the incredible, atomic-scale resolution imaging we can achieve at SLAC's electron camera...." Researchers use computer simulations, aided by AI and machine learning, to sift through innumerable combinations of elements and identify promising candidate materials for real-world testing. "Whether the copper melts slowly or suddenly collapses, by the time the researchers look, the sample resembles nothing more than a metallic brown puddle," the article points out. But SLAC's powerful electron camera captures atomic and molecular movements down to the femtosecond — a millionth of a billionth of a second — and revealed that at around 1,424 degreesC (2,595 degreesF) there was still gradual melting as the temperature rose beyond the superheating limit, with real-world conditions showing the atoms shifted and retained some order. "It's a straightforward solution," said Mianzhen Mo, a SLAC staff scientist who led the research. "But molecular dynamics simulations had been overlooking it for years. When you have complex simulations attempting to capture every aspect of reality, down to individual atoms, it takes real-world data to show you what's missing from the calculations."

Read more of this story at Slashdot.

Certain kinds of clouds are misbehaving – appearing more often and lower in the sky than they used to. To help identify the factors influencing these changes (e.g. shifts in Earth’s long-term weather patterns), scientists have asked people around the world with cameras to submit fresh images of these clouds as a part of the NASA-supported Space Cloud Watch project. Now, one volunteer has developed a new tool to help other Space Cloud Watch volunteers work more efficiently. 

The misbehaving clouds are “noctilucent”  or “night-shining” clouds (NLCs). These clouds scatter light from the Sun long after sunset and long before sunrise, giving them a silvery glow. But despite this glow, it can be hard to differentiate NLCs from lower-altitude look-alikes. That confusion has meant extra work for project leaders.

Volunteer Namai Chandra shared, “I noticed that NLC images were being manually verified by the project leaders. It felt like a task well-suited for a human-in-the-loop machine learning pipeline, one that could handle the repetitive screening automatically, while keeping human judgment central for the images that matter most.” In other words, Namai found a way to help observers verify when they are indeed seeing NLCs and when they’re not. 

Namai reached out to the Space Cloud Watch scientists Drs. Chihoko Cullens and Brentha Thurairajah, who were delighted with his idea. Namai soon developed a machine learning pipeline, training it on a variety of cloud images, including both the NLCs and the lower altitude look-alikes that are often submitted to Space Cloud Watch. The pipeline combines image pre-screening, cloud classification, and confidence-based review routing. After several rounds of development, testing, and refinement, he released his NLC identification tool to the project. This tool is now being used by cloud contributors who are unsure whether they have observed NLCs, as well as project scientists that want to flag images for review. 

Grab a camera and join the Space Cloud Watch project today! If you’ve hesitated to contribute to Space Cloud Watch because you were not certain if what you were seeing was a noctilucent cloud, you now have a way to check before you share – thanks to Namai.