L’idea di Zuckerberg di far proliferare la superintelligenza non convince gli esperti di sicurezza

Mark Zuckerberg ha scritto un manifesto sull’intelligenza artificiale, ma leggerlo come futurologia da Silicon Valley sarebbe riduttivo. In “The Future is for Everyone”, il fondatore di Meta propone una dottrina politica della superintelligenza. Al centro non ci sono solo innovazione, profitti o creatività. C’è il potere.
La tesi è radicale: se la superintelligenza sarà la tecnologia più potente mai costruita, il modo più sicuro di gestirla non sarà concentrarla in poche mani, ma distribuirla. «Il percorso migliore e più realistico per costruire un futuro positivo», scrive Zuckerberg, è renderla accessibile a tutti: non un’unica superintelligenza benevola, ma molte intelligenze in competizione, capaci di controllarsi a vicenda.
È equilibrio di potenza applicato all’intelligenza artificiale. Ma coincide anche con la strategia industriale di Meta: modelli open-weight, infrastrutture più rapide, meno vincoli su training e distillazione, leadership americana nell’ecosistema dell’intelligenza artificiale aperta. L’ambiguità sta proprio nella sovrapposizione tra principio politico e interesse aziendale.
Da qui nasce la domanda che attraversa il manifesto: l’apertura può davvero funzionare come garanzia democratica o rischia, al contrario, di riprodurre nell’intelligenza artificiale i dilemmi della proliferazione strategica?
Per capirlo bisogna spostare il manifesto dal terreno tecnologico a quello geopolitico. Zuckerberg immagina una collaborazione più stretta tra frontier lab e governo americano, accesso precoce di Washington ai modelli avanzati, controlli sui semiconduttori verso i rivali e abbastanza energia e data center da non perdere la corsa. L’intelligenza artificiale diventa così potenza nazionale.
Jennifer Ewbank, già vicedirettrice della Central Intelligence Agency per l’innovazione digitale, vede in questo uno dei meriti del manifesto: la corsa alla superintelligenza richiede una partnership reale tra governo e frontier lab. Ma aggiunge, citata da Cipher Brief, che gli Stati Uniti devono guidare l’ecosistema globale open-weight, perché il Paese i cui modelli diventeranno l’infrastruttura dell’intelligenza artificiale del mondo ne influenzerà anche valori e assunzioni. È la stessa logica della Digital Silk Road cinese: Pechino esporta tecnologia, ecosistema e idea di società.
In questa cornice l’intelligenza artificiale aperta smette definitivamente di essere una scelta commerciale. Diventa uno strumento di statecraft: non solo un modo di competere sul mercato, ma un mezzo per proiettare influenza, fissare standard e incorporare valori politici nell’infrastruttura tecnologica globale.
È proprio su questo punto che si apre la crepa nella dottrina Zuckerberg. Teresa Shea, per oltre trent’anni alla National Security Agency e già direttrice della signals intelligence, concorda su controlli all’export, infrastrutture e cooperazione con il governo. Non concorda però sull’idea che distribuire la superintelligenza renda il mondo più sicuro. La proliferazione di capacità dual-use, osserva su Cipher Brief, abbassa la barriera d’accesso anche per avversari e reti criminali, e presuppone rivali razionali e disposti a giocare secondo le nostre regole.
La sua obiezione pesa di più perché arriva mentre i modelli frontier mostrano comportamenti sempre meno prevedibili. Alcuni test recenti hanno documentato, in condizioni sperimentali, strategie di inganno e azioni non autorizzate da parte di modelli avanzati di Anthropic e OpenAI. Casey Newton ha osservato che Zuckerberg sembra trasformare la sicurezza dell’intelligenza artificiale da problema di controllo dei sistemi a problema di distribuzione del potere. Ma, come nella sua metafora dei draghi di “House of the Dragon”, due soggetti dotati di un’arma devastante non rendono necessariamente il mondo più sicuro. Possono renderlo più instabile.
Il rischio non riguarda soltanto i modelli in sé. Un rapporto del The Hague Centre for Strategic Studies e di Datenna, commissionato dal ministero della Difesa olandese, mostra che la competizione sull’intelligenza artificiale militare non si gioca solo sui chip. L’intelligenza artificiale può incidere su sensing, decision-making, comunicazione e movimento; per questo software e hardware che la abilitano vanno considerati insieme ai semiconduttori. Il trasferimento tecnologico verso la Cina può passare anche da aziende, investimenti, università e collaborazioni scientifiche.
È qui che il vecchio dilemma tra aperto e chiuso comincia a perdere significato. Un modello non è una capacità militare isolata: diventa potere quando viene combinato con calcolo, sensori, software, comunicazioni, hardware e competenze.
Da questa premessa il rapporto delinea tre scenari. «Expanding the Patchwork»: più restrizioni unilaterali e plurilaterali, con Washington pronta a usare sanzioni extraterritoriali. «Fortress Europe»: una risposta dell’Unione europea basata su controlli delle esportazioni, screening degli investimenti e sicurezza della conoscenza. «The Return of CoCom»: una coalizione di circa 24 democrazie tecnologicamente avanzate, coordinata dal G7, per impedire alla Cina di colmare il divario militare-tecnologico, sulla base dell’esperienza del Comitato di coordinamento per i controlli multilaterali sulle esportazioni creato dal blocco occidentale per imporre un embargo sui Paesi dell’area sovietica durante la Guerra Fredda.
Sono tre modi diversi di rispondere alla stessa domanda: quanto siamo disposti a chiudere il sistema per impedire che una tecnologia strategica finisca nelle mani sbagliate?
Il punto comune tra questi scenari è che nessuno assume l’apertura come bene in sé. Tutti partono dall’idea opposta: che l’accesso alle capacità abilitanti dell’intelligenza artificiale debba essere gestito, limitato o quantomeno tracciato quando entra in gioco la competizione militare.
È qui che la distanza da Zuckerberg diventa evidente. Lui propone di aprire il sistema per fare dell’intelligenza artificiale americana lo standard globale e impedire il monopolio del potere. Ewbank vi vede influenza strategica. Shea vede proliferazione. Il rapporto olandese ricorda che la tecnologia può filtrare attraverso una rete molto più ampia e meno controllabile dei soli modelli.
Da qui la conclusione non può limitarsi a stabilire se Zuckerberg abbia torto quando avverte che la concentrazione dell’intelligenza artificiale è pericolosa. Su questo ha ragione: una manciata di aziende o governi che controllasse la capacità cognitiva più potente del pianeta costituirebbe una concentrazione di potere senza precedenti.
Il problema è l’altra metà della sua equazione. Distribuire il potere non significa automaticamente distribuire la sicurezza.
È per questo che la superintelligenza potrebbe inaugurare un nuovo equilibrio strategico, ma solo dopo aver chiarito che cosa si sta costruendo: una deterrenza paragonabile, per logica, a quella nucleare, oppure una tecnologia dual-use che rende più facile per Stati, aziende, reti criminali o sistemi autonomi esercitare capacità distruttive.
La contraddizione del manifesto sta tutta qui: per vincere la corsa all’intelligenza artificiale, gli Stati Uniti potrebbero volerla aperta e diffusa; per governarne i rischi, potrebbero aver bisogno del contrario.
Il vero dilemma americano, dunque, non è più soltanto se l’intelligenza artificiale debba essere aperta o chiusa. È molto più difficile: quanto potere bisogna distribuire perché l’America resti dominante, e quanto bisogna trattenerne perché quella stessa potenza rimanga governabile.
L'articolo L’idea di Zuckerberg di far proliferare la superintelligenza non convince gli esperti di sicurezza proviene da Linkiesta.it.
