Immagine in evidenza rielaborata con AI

Si può prendere una tecnologia nata e sviluppata nei centri di potere e riadattarla alle necessità di un gruppo marginalizzato? La domanda, potenzialmente, riguarda tutte le innovazioni tecnologiche. Il caso dell’intelligenza artificiale generativa è però oggi particolarmente discusso assieme alle molteplici problematiche etiche che i grandi modelli linguistici, come anche le tecnologie text-to-image o text-to-video, sollevano: dal rischio di disinformazione, all’impatto ambientale, fino agli utilizzi di questi strumenti a scopi bellici.

Alla radice c’è la questione del controllo, economico e politico, delle infrastrutture tecnologiche, che resta saldamente nelle mani delle grandi aziende, in gran parte statunitensi. Fuori dal mondo occidentale stanno però nascendo iniziative che mirano a riappropriarsi dei sistemi di generative AI per perseguire l’interesse pubblico o a scopi di giustizia sociale. Queste realtà stanno riorganizzando i dataset per l’addestramento degli algoritmi, modificando alcune delle loro caratteristiche tecniche e riorientando gli usi finali degli strumenti. Arrivando in alcuni casi a immaginare infrastrutture pubbliche gestite localmente.

I limiti e i bias dei modelli commerciali

L’AI generativa commerciale – per intenderci, quella di chatbot come Gemini o ChatGPT – si presenta come un archivio di conoscenza universale e neutrale. Ma le cose non stanno così: i dati impiegati per addestrare questi sistemi provengono da Internet e sono tutt’altro che neutrali. I dati di qualità disponibili sono in gran parte in inglese o in altre lingue europee, escludendo inevitabilmente la conoscenza, e quindi la rappresentazione, di una larga parte del mondo. 

In un saggio intitolato Decolonizing LLMs: An Ethnographic Framework for AI in African Contexts, gli autori (tra cui figurano, peraltro, anche esponenti di Google) spiegano: “La lingua è intrinsecamente fluida, flessibile e multiculturale. I grandi modelli linguistici (LLM) più diffusi e utilizzati oggi, invece, non lo sono. Sono in gran parte addestrati da team dislocati negli Stati Uniti e istruiti per operare su varianti non specificate di testi in inglese”. 

“La diffusione globale degli LLM, un prodotto ‘WEIRD’ (western, educated, industrialised, rich and democratic) rischia quindi di perpetuare i pregiudizi inconsci e i punti ciechi dei suoi creatori”, proseguono gli autori. “Il pericolo è che la loro visione del mondo venga presentata come la visione del mondo a una base di utenti globale, che si aspetta invece risultati neutrali da un programma informatico. Ma che dire del resto della popolazione mondiale, i cui repertori linguistici scritti e parlati non includono l’inglese? E che dire di quegli aspetti della cultura, della lingua e dell’esperienza che non sono ancora stati digitalizzati?”

Di opinione simile è Dima Saber, direttrice esecutiva di Meedan, un’organizzazione non-profit che sviluppa strumenti open source, programmi e ricerche per un’infrastruttura digitale più efficace ed etica. “Internet è fatto per uomini bianchi, della classe media, che parlano inglese. Di conseguenza, gli LLM o i bot vengono addestrati sugli stessi dati presenti in rete, riproducendo così le medesime disuguaglianze”, spiega Saber a Guerre di rete. “Esistono prove del fatto che gli LLM non solo funzionano meno bene nelle lingue diverse dall’inglese, ma anche che le risposte fornite sono piuttosto distorte e riproducono le disuguaglianze già esistenti sul web”.

Riprogettare i sistemi

Proprio per offrire alternative tecnologiche più trasparenti, situate e rispettose delle diversità, Dima Saber e il suo team hanno creato Suwali, un servizio di chatbot pensato per organizzazioni della società civile, redazioni indipendenti e altre realtà di pubblico interesse. L’obiettivo è permettere a queste organizzazioni di archiviare, valorizzare e rendere interrogabili patrimoni di conoscenza spesso sottorappresentati nei modelli mainstream, anche in lingue diverse dall’inglese. Utenti e lettori possono così rivolgere domande al chatbot e ottenere risposte in linguaggio naturale, basate però su un corpus circoscritto e verificabile.

È qui che Suwali si distingue dai servizi commerciali. Il sistema non attinge indistintamente a tutto il materiale disponibile online, ma lavora su una selezione di dati appartenenti alle singole organizzazioni: archivi, report, articoli e altri documenti da loro prodotti o scelti. Suwali è già utilizzato da diverse realtà, soprattutto nel Sud globale. In Libano, la non-profit OMGYNO lo impiega per fornire informazioni affidabili sulla salute riproduttiva delle donne; in India, la redazione di The Quint lo usa per rispondere ai dubbi dei lettori su disinformazione e truffe.

“Un chatbot che utilizza i dati dell’organizzazione e il suo corpus di conoscenze per formulare le risposte permette di aggirare la riproduzione delle stesse disuguaglianze che esistono online”, spiega Saber. “È qualcosa di cui abbiamo assolutamente bisogno. Inoltre, non stiamo cedendo i dati a nessuno, non cerchiamo di venderli agli inserzionisti e le organizzazioni mantengono la proprietà delle informazioni. Questo è un altro aspetto che, per quanto riguarda la sovranità dei dati, per noi è davvero imprescindibile”. I server di Meedan sono ospitati in Irlanda, in modo che la legislazione applicabile sia quella del GDPR europeo, al momento la più avanzata al mondo in termini di tutela dei dati personali.

L’obiettivo centrale è quello di restituire alle organizzazioni, anche quelle con poche risorse, una agency nell’uso di strumenti di intelligenza artificiale, offrendo al contempo elevati standard di trasparenza. Suwali permette infatti, attraverso la dashboard degli amministratori, di analizzare il percorso logico compiuto dal chatbot, risalendo al “ragionamento” effettuato dal modello per capire quali fonti ha utilizzato e che sintesi ha compiuto. Si può insomma guardare dentro la “black box” del pensiero algoritmico.

Meedan non ha costruito un proprio large language model da zero, ma si appoggia a quelli commercialmente disponibili. “Facciamo uso dei modelli linguistici, tra cui quello di OpenAI, esclusivamente per la formulazione finale delle risposte” spiega Haramoun Hamieh, senior partnership manager. “Il corpus di riferimento, il recupero delle informazioni e il processo con cui vengono selezionate le fonti restano invece interamente gestiti dai sistemi di Meedan. L’ottimizzazione dei modelli open-weight è nei nostri piani per il prossimo futuro”. 

Un’intelligenza artificiale femminista?

Su una filosofia simile è costruito il chatbot AfroféminasGPT, sviluppato dal collettivo omonimo con l’obiettivo di raccogliere e rendere accessibile il pensiero femminista decoloniale. La postura delle sviluppatrici è molto chiara: usare gli strumenti attualmente disponibili e sfruttarne le potenzialità per raggiungere i propri obiettivi. 

“L’IA convenzionale ha come norma implicita la persona bianca e riproduce questo pregiudizio in modo sistematico”, spiega la fondatrice Antoinette Torres Soler. “AfroféminasGPT rompe questa logica. Col tempo abbiamo osservato che il pubblico apprezza molto anche la capacità di basarsi sul lavoro di pensatrici e pensatori afrodiscendenti e afro-femministi. Un elemento particolarmente significativo è che, quando le persone del Sud globale interagiscono con lo strumento, questo assume una prospettiva più vicina alla loro esperienza e restituisce risposte con una precisione e una pertinenza che il mainstream dell’IA non offre”.

“La critica più ricorrente è che lo strumento operi all’interno dell’ecosistema di OpenAI, il che pone limiti reali in termini di sovranità tecnologica. È una critica legittima e me ne assumo la responsabilità” continua Torres Soler. “La posizione da cui lavoro è pragmatica e strategica: bisogna utilizzare gli strumenti disponibili e scalare, progressivamente, verso maggiori livelli di autonomia.”.

Afroféminas è un “ecosistema” (così lo definisce Torres Soler)  composto da quattro strumenti con funzioni diverse: AfroféminasGPT, il GPT Socratico di Afroféminas (pensato per studenti e insegnanti, che invita a “pensare prima di creare, applicando una conoscenza etica, affettiva e consapevole”), il GPT di Assistenza per i Reati d’Odio e Parla con Afroféminas (Habla con Afroféminas). Quest’ultimo è integrato direttamente su afrofeminas.com ed è accessibile senza la necessità di un account ChatGPT, il che, secondo la fondatrice “rappresenta un primo passo verso una maggiore sovranità rispetto all’infrastruttura di OpenAI”.

Anche AfroféminasGPT non ha accesso a Internet: “Ciò significa che non assorbe continuamente nuovi dati e bias a ogni aggiornamento di ChatGPT. Al contrario, quando cerca una risposta, attinge a una base di conoscenza volutamente circoscritta: un corpus curato di circa venti testi e autorialità fondamentali del pensiero nero e decoloniale. È questo a determinare come argomenta, come ragiona e da quale prospettiva risponde. È ciò che la rende diversa”, conclude Torres Soler.

Costruire un LLM pubblico: il caso di LatamGPT

Nel caso di Meedan e del collettivo Afroféminas, la parziale riprogettazione dei sistemi di AI ha dei chiari limiti di scala: si tratta di piccole organizzazioni, con risorse limitate. Cosa succede, invece, se si ragiona in termini di intelligenze artificiali come infrastruttura pubblica?

Una possibile risposta è stata testata da un consorzio latinoamericano di enti pubblici, università e centri di ricerca con il lancio di LatamGPT, il grande esperimento di modello linguistico collaborativo e open source della regione. LatamGPT è stato lanciato ufficialmente il 26 febbraio 2026 dall’allora presidente cileno Gabriel Boric. Il progetto è coordinato dal Centro Nazionale per l’Intelligenza Artificiale del Cile (CENIA) e ad esso partecipano quindici paesi e oltre 200 ricercatori di varie nazionalità.

Il modello è addestrato su un corpus regionale di oltre 300 miliardi di token (gli elementi linguistici alla base dell’addestramento della IA) provenienti da venti paesi dell’America Latina e dei Caraibi. L’obiettivo è anche quello di colmare un divario linguistico. Al momento, per i modelli commerciali, la percentuale di dati in lingua spagnola e portoghese si attesta infatti intorno al 2-3%.

LatamGPT non è un chatbot direttamente utilizzabile con un’interfaccia, ma un’infrastruttura open source che enti governativi, sviluppatori e istituzioni possono adattare alle loro esigenze educative, sanitarie o di protezione del patrimonio culturale. Si tratta di una base per lo sviluppo di applicazioni, prima che di un’applicazione in sé.

Il valore del progetto sta anche nel suo contributo alla ricerca. Alvaro Soto, direttore del CENIA, ha spiegato, parlando con Wired: “Siamo noi i soggetti indicati per occuparci delle nostre stesse necessità. Non possiamo stare seduti ad aspettare che gli altri abbiano il tempo di chiederci di che cosa abbiamo bisogno. Oggi gli accademici dell’America Latina hanno poche opportunità di interagire profondamente con questi modelli. È come voler studiare la risonanza magnetica senza avere a disposizione un risonatore. LatamGPT vuole essere lo strumento fondamentale che consente alla comunità scientifica di sperimentare e progredire”.

Il ricercatore Eduardo Levy Yeyati ha commentato, in un articolo su Brookings: “Ciò che rende straordinario LatamGPT non è la sua architettura tecnica, ma la sua coordinazione istituzionale. In una regione in cui la collaborazione transfrontaliera spesso si arena, la progettazione di LatamGPT riflette la diversità istituzionale del territorio. Fornisce una base condivisa che può essere ottimizzata per le priorità nazionali, come per esempio documenti legali argentini, cartelle cliniche colombiane e programmi scolastici messicani”.

I limiti dei modelli alternativi

Più che la volontà politica, il problema principale resta l’accesso alle risorse. LatamGPT è stato costruito a partire da Llama 3.1, il modello open-weight di Meta e, nella sua prima fase di sviluppo, ha fatto ricorso anche all’infrastruttura cloud di Amazon Web Services. La dipendenza, almeno iniziale, dalle tecnologie e dalle infrastrutture delle Big Tech appare quindi difficile da evitare.

Non solo: un corpus regionale di oltre 300 miliardi di token è notevolmente più piccolo rispetto alla mole di dati a disposizione dei principali laboratori statunitensi e cinesi. Lo stesso vale per i finanziamenti: il progetto LatamGPT ha raccolto circa 550mila dollari (tra fondi CENIA e quelli della Latin America Development Bank) di investimenti iniziali. Si tratta di cifre irrisorie se paragonate agli investimenti da svariati miliardi di dollari delle aziende statunitensi e cinesi.

Infine, c’è un dilemma simile a quello dell’uovo e della gallina, ma in versione tecnologica: “Gli sviluppatori costruiscono solo se gli utenti cambiano piattaforma, e gli utenti cambiano piattaforma solo se gli strumenti sono migliori”, spiega ancora Levy Yeyati su Brookings. “Risolvere questo problema richiede qualcosa in più delle semplici prestazioni: servono un sostegno istituzionale e un ecosistema regionale, specialmente da parte dei paesi che lavorano per progettare e integrare queste scelte strutturali”.

Insomma, prima di poter davvero costruire alternative concrete a Big Tech ci sono vari ostacoli da superare, sia tecnici che economici. Le pratiche di riappropriazione, da quelle più piccole a quelle più ambiziose, hanno un significato politico ed etico innegabile. Ma continuano a scontrarsi con un divario di potere, risorse tecniche e investimenti che al momento appare difficile da colmare.