Prima un incendio, poi un boato violento. Una colonna di fumo e fuoco si è alzata giovedì pomeriggio sopra lo stabilimento di Knds Ammo Italy a Colleferro, alle porte di Roma. L’esplosione è stata sentita a chilometri di distanza e ha fatto ricadere detriti incandescenti nell’area dell’impianto. Per fortuna non ci sono stati morti né feriti: i ventiquattro dipendenti presenti sono stati messi in sicurezza prima della deflagrazione.

Lo stabilimento è quello che per decenni è stato conosciuto come Simmel Difesa. Oggi appartiene a Knds, il gruppo franco-tedesco che produce sistemi d’arma, carri armati, munizioni e artiglieria. A Colleferro si producono munizioni di medio e grosso calibro per la difesa terrestre e navale e propellenti solidi per il settore aerospaziale. L’incidente, secondo le prime ricostruzioni, è partito dal reparto di pressatura delle polveri, dopo lo sviluppo di un incendio. Le cause precise, però, devono ancora essere accertate.

La Procura di Velletri ha aperto un’inchiesta per incendio. I vigili del fuoco devono ancora completare la messa in sicurezza dell’area prima di poter effettuare tutti i rilievi. Per ora gli investigatori hanno escluso una pista eversiva e un sabotaggio: non ci sono elementi pubblici che permettano di sostenere che l’esplosione sia stata provocata dall’esterno.

Non è però la prima volta che qualcosa esplode nello stabilimento di Colleferro. Nell’ottobre del 2007 un incidente alla Simmel Difesa provocò la morte di un operaio e il ferimento di altre tredici persone. La differenza, questa volta, è che nessuno è rimasto coinvolto. I sistemi di sicurezza e l’allarme hanno consentito di allontanare i lavoratori prima della deflagrazione.

La fabbrica di Colleferro è diventata uno dei nodi della nuova industria europea della difesa. Knds Ammo Italy figura tra le aziende coinvolte nei programmi europei per la produzione di munizioni da 155 millimetri, il calibro utilizzato dall’artiglieria occidentale e diventato centrale nella guerra in Ucraina. Nel 2024 la Commissione europea ha inoltre assegnato 41,39 milioni di euro a un progetto coordinato da Simmel Difesa per aumentare la capacità produttiva di munizioni, esplosivi e propellenti.

Proprio a fine giugno avevamo raccontato della decisione di Berlino di acquisire il quaranta per cento di Knds attraverso la banca pubblica KfW, portandosi a una posizione paritaria con Parigi. La Germania vuole avere un peso diretto nelle decisioni di uno dei gruppi destinati a essere centrali nel riarmo europeo (e nel pacchetto c’è anche lo stabilimento di Colleferro).

Tra l’altro, l’episodio di giovedì non è un caso completamente isolato, in Europa. Il 10 agosto, quindi appena tre giorni prima, alcune esplosioni avevano interessato un deposito di munizioni della Emco a Belitsa, in Bulgaria. Negli ultimi anni altre esplosioni e incendi hanno riguardato stabilimenti dell’industria della difesa in diversi Paesi europei. In alcuni casi si è pensato a tentativi di sabotaggio, non accertati.

C’è poi un altro elemento da aggiungere all’equazione. Mentre gli investigatori cercano ancora di capire che cosa sia successo, alcuni dei più attivi propagandisti filorussi sui social hanno accolto la notizia dell’esplosione con evidente soddisfazione. Tra gli account che hanno rilanciato la vicenda ci sono anche profili riconducibili all’ecosistema mediatico russo: Elisabeth Eliseeva, corrispondente di Sputnik, e il canale italiano Donbass Italia, curato da Vincenzo Lorusso. E questo dice qualcosa sul modo in cui la nuova guerra industriale europea viene guardata dall’altra parte del fronte.

L'articolo L’esplosione nella fabbrica di Colleferro, e l’esultanza dei propagandisti del Cremlino proviene da Linkiesta.it.

Di intelligenza artificiale si inizia a parlare con quei toni solenni di solito associati alla religione e alla spiritualità. Le grandi aziende del settore parlano delle nuove tecnologie come della più grande invenzione della storia, qualcosa che potrebbe cambiare per sempre ciò che significa essere umani. Demis Hassabis, cofondatore di Google DeepMind, l’ha definita «la più importante invenzione che l’umanità farà mai». Alcuni ricercatori assegnano probabilità tutt’altro che trascurabili alla possibilità che una macchina possa arrivare a costruire da sola una versione più intelligente di sé entro pochi anni. Yann LeCun ha detto che l’enorme investimento finanziario nella corsa alla superintelligenza «è una grandissima stronzata». E per ora va benissimo così.

In alcuni casi il linguaggio si fa apocalittico, com’è normale che sia di fronte a una tecnologia in grado di sparare da sola e di bucare i sistemi di sicurezza di diverse aziende. Anche per questo c’è stato chi ha fondato una vera chiesa dedicata al futuro Dio dell’intelligenza artificiale. Un ingegnere di Google, dopo avere interagito con un chatbot che gli era sembrato dotato di coscienza, si è chiesto: «Chi sono io per dire a Dio dove può e dove non può mettere le anime?». E Ilya Sutskever, uno dei fondatori di OpenAI, è arrivato a bruciare simbolicamente un’effigie che rappresentava un’intelligenza artificiale non allineata con gli esseri umani, come in una sorta di rito medievale.

È dentro questa atmosfera che è intervenuta la Chiesa cattolica. Nell’enciclica Magnifica Humanitas, Leone XIV difende l’idea che l’essere umano occupi una posizione irriducibile nel creato e sostiene che le macchine, per quanto sofisticate, possano soltanto imitare alcune funzioni dell’intelligenza umana. È una visione che Sebastian Mallaby – autore del libro “The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence” – prova a scandagliare in una lunga analisi su Foreign Affairs intitolata “God From the Machine. AI and the Future of Humanity” chiedendosi: siamo davvero sicuri che distinguere tra imitare l’intelligenza e possederla sia così semplice?

Il problema risale a molto prima delle ultimissime tencologie. Nel 1980 il filosofo John Searle propose il celebre esperimento mentale della «stanza cinese»: immaginiamo un uomo chiuso in una stanza che non conosce il cinese e che riceve istruzioni per manipolare simboli cinesi secondo precise regole. Dall’esterno, le sue risposte sembrerebbero quelle di una persona che comprende perfettamente la lingua. Ma l’uomo non comprende nulla: sta semplicemente applicando un insieme di istruzioni. Per Searle, era la dimostrazione che manipolare correttamente informazioni non equivale necessariamente a capire ciò che significano.

L’argomento è diventato uno dei pilastri della distinzione tra intelligenza artificiale e intelligenza umana. Una macchina può produrre una risposta convincente, riconoscere un volto, tradurre una frase o scrivere un saggio senza che questo significhi che provi qualcosa o che comprenda davvero ciò che sta facendo. Il corpo umano, ricorda Mallaby riprendendo un’obiezione dello scrittore di fantascienza Ted Chiang, non è un dettaglio trascurabile: «Avere un corpo è un prerequisito per avere emozioni». La disperazione, per esempio, non sarebbe separabile dall’esperienza fisica degli ormoni dello stress che attraversano il corpo.

È una distinzione intuitiva perché gli esseri umani nascono, soffrono, amano, si ammalano, muoiono; le macchine no, non sanguinano, non provano dolore e possono essere semplicemente spente. Esistono, scrive Mallaby, non dentro un universo morale ma dentro una matrice di ottimizzazione. Da questo punto di vista, si può sostenere che anche il più sofisticato modello di intelligenza artificiale resti soltanto una macchina che esegue operazioni straordinariamente complesse.

Anche il cervello umano è una macchina fisica. È fatto di materia biologica, obbedisce alle leggi della fisica e funziona attraverso impulsi elettrici e processi di elaborazione delle informazioni. «L’idea che la massa molle dentro il cranio contenga un’essenza ineffabile e non programmabile – la coscienza, lo spirito o qualcos’altro – può essere intuitivamente seducente. Ma dal punto di vista analitico è fragile», scrive Mallaby. E più l’intelligenza artificiale migliora, più quella distinzione diventa difficile da difendere. Gli ultimi modelli di IA non si limitano a consultare un gigantesco archivio di frasi e a scegliere meccanicamente quella successiva: costruiscono rappresentazioni matematiche dei concetti e delle loro relazioni, e possono associare parole, idee, emozioni e situazioni anche quando queste non sono mai state esplicitamente collegate nei dati di addestramento. Non significa che siano coscienti. Significa però che l’argomento «la macchina sta solo seguendo delle regole, quindi non può comprendere» diventa sempre meno risolutivo.

Quindi forse non arriveremo mai stabilire con certezza se una macchina abbia una coscienza. La buona notizia è che non abbiamo bisogno di risolvere questo problema per decidere come governarla. E anzi, concentrarsi troppo sulla domanda potrebbe farci perdere di vista quelle che sono già oggi le questioni più urgenti.

La Chiesa, nelle parole di Leone XIV, secondo Mallaby, ha ragione su una cosa fondamentale: l’intelligenza artificiale deve essere regolata. Può amplificare le disuguaglianze economiche, trasformare il mercato del lavoro, modificare il modo in cui impariamo, alterare le relazioni umane e rendere più facile l’uso della forza militare. Può perfino rendere più difficile stabilire chi sia responsabile di una decisione quando una parte crescente del processo viene affidata a una macchina.

Ma il Papa non inquadra per intero lo scenario. Magnifica Humanitas trascura alcuni elementi fondamentali. Ad esempio, invoca una gestione dei dati come «bene comune o condiviso», mentre il problema più urgente dovrebbe essere impedire che i dati vengano sottratti e utilizzati senza autorizzazione. E sul terreno militare l’enciclica afferma che «la decisione di usare la forza letale non può essere delegata a processi opachi o automatizzati», una posizione moralmente comprensibile ma che Mallaby nel suo breve saggio su Foreign Affairs considera difficile da applicare quando le macchine saranno in grado di prendere decisioni sul campo di battaglia più rapidamente e accuratamente degli esseri umani.

Per questo Mallaby trova almeno tre lacune nell’attuale risposta politica all’intelligenza artificiale. La prima lacuna riguarda la proliferazione. Se i modelli di IA più potenti finiranno per essere capaci di compiere attacchi informatici sofisticati, progettare nuove armi biologiche o svolgere altre attività oggi accessibili soltanto a Stati e grandi organizzazioni, il problema non sarà più soltanto chi controlla le aziende che li sviluppano: sarà che cosa succederà quando quelle capacità diventeranno disponibili in tutto il mondo, anche a criminali e terroristi. Per questo servirebbe arrivare a qualcosa di simile a un trattato di non proliferazione nucleare dell’intelligenza artificiale: un accordo internazionale che stabilisca che cosa gli Stati siano disposti a fare quando i modelli più pericolosi non saranno più nelle mani di pochi laboratori.

La seconda lacuna è economica. I sistemi fiscali dei Paesi occidentali sono costruiti anche sull’idea che il capitale serva a rendere più produttivo il lavoro umano. Per questo i governi hanno storicamente tassato il lavoro più del capitale. Ma se l’IA dovesse cominciare a sostituire i lavoratori anziché semplicemente aiutarli, questa impostazione rischierebbe di produrre l’effetto opposto a quello desiderato: tassare pesantemente il lavoro renderebbe infatti ancora più conveniente per le aziende sostituirlo con le macchine, proprio mentre diminuirebbero le entrate fiscali necessarie per sostenere chi perde il proprio impiego. Per ovviare a questo problema si potrebbe spostare una parte della pressione fiscale dal lavoro al capitale, introdurre forme di assicurazione salariale per chi viene sostituito e perfino distribuire ai cittadini una piccola quota della ricchezza generata dalle aziende di intelligenza artificiale.

La terza lacuna è quella che riporta Mallaby al punto da cui era partito: non sappiamo ancora abbastanza di ciò che accade dentro i modelli di intelligenza artificiale. È il problema dell’interpretabilità. I laboratori stanno cercando di capire come le reti neurali arrivino alle loro conclusioni, ma la ricerca è ancora lontana dal fornire una spiegazione completa dei processi interni dei sistemi più avanzati. E qui Mallaby rovescia l’argomento della Chiesa. Magnifica Humanitas sostiene che non possiamo conoscere il pensiero delle macchine perché nelle macchine non c’è un pensiero da conoscere. Ma forse è vero il contrario: se vogliamo controllarle, dobbiamo capire che cosa stanno facendo.

È probabilmente questo il punto più interessante dell’articolo di Foreign Affairs. Possiamo discutere all’infinito se le macchine abbiano una coscienza, ma nel frattempo l’intelligenza artificiale continuerà a entrare nel lavoro, nella finanza, nella guerra e nelle istituzioni. Non serve sapere se abbia un’anima per capire che ha già abbastanza potere da richiedere regole. «Le macchine non entreranno mai nel nostro universo morale – scrive Mallaby in conclusione del suo articolo – ma se gli esseri umani aspirano a controllarle, dobbiamo prima di tutto comprenderle».

L'articolo L’intelligenza artificiale non ha bisogno di un’anima per cambiare il mondo (o distruggerlo) proviene da Linkiesta.it.