“Anche questa mi doveva capitare”, pensa,“di parlare a una macchina come se fosse un essere umano.”
Dino Buzzati, Il grande ritratto
Informatiche del dominio
La comparsa dell’Intelligenza Artificiale (d’ora in poi IA) ha cambiato in maniera significativa gli scenari del possibile, e qualche volta dell’impossibile, invadendo i luoghi del digitale in una inarrestabile corsa verso un futuro che non sappiamo esattamente cosa prometta.
Ormai parte imprescindibile del nostro immaginario collettivo, l’IA percorre senza sosta il dedalo di Internet che credevamo realtà virtuale pronta a soddisfare ogni nostro desiderio, mettendo saperi e conoscenza a disposizione di ciascuno in uno scambio totalmente orizzontale e democratico, e soprattutto perfettamente gratuito, all’insegna di una piena condivisione. Ma non è andata così, come era abbastanza prevedibile, nel momento in cui le piattaforme commerciali hanno preso possesso della Rete, trasformandola in un lucroso affare di proporzioni planetarie.
L’IA si distingue in due principali tipologie: generativa e discriminativa. Quest’ultima è incentrata su compiti di classificazione e previsione statistica mentre quella generativa è decisamente più complessa poiché prevede che si possano realizzare contenuti originali, quali testo, foto, musica, audio e video sulla base di modelli di apprendimento automatico addestrati a questo scopo. In risposta a precise richieste, i cosiddetti prompt, la macchina fornisce altrettanto precise risposte, o quanto più precise possibili, basandosi su set di dati di enormi dimensioni per comprendere, riassumere e produrre nuovi contenuti. Maggiore la quantità di dati a disposizione, maggiori le possibilità che l’elaborazione dell’IA sia efficace su ogni questione riguardante lo scibile umano.
Spesso è stato detto che i dati sono il nuovo petrolio, carburante che alimenta questi oracoli al silicio virtuosi e dottissimi, riflesso sempre più abbagliante di ciò che sta al di là dello schermo. Eppure, i dati non sono presenti in natura, bisogna appropriarsene dopo averli strutturati e resi tali; impadronirsene ed elaborarli significa costruire “relazioni di dati” che assicurano la conversione quasi spontanea della vita quotidiana in una corrente continua di informazioni. Il risultato è ineluttabile: un nuovo ordine sociale fondato su un monitoraggio costante, che offre incalcolabili opportunità per la selezione e l’influenza comportamentale.
Le “relazioni di dati”, tuttavia, sono sottoposte anche ad un rinnovato colonialismo, mettendo “a profitto” gli stessi esseri umani che ne facilitano la strutturazione interagendo con i loro dispositivi – computer, tablet, telefoni, smartwatch e via dicendo –, proprio come il colonialismo europeo si è appropriato, lungo un arco di alcuni secoli, di territori e risorse d’oltremare per ricavarne favolosi guadagni.
Il “colonialismo dei dati”, neologismo coniato per indicare questo recente processo di espropriazione, combina pratiche predatorie tipiche del colonialismo storico, utilizzando metodi di quantificazione del calcolo per mezzo di algoritmi. Non si tratta più, come un tempo, di occupare nuove terre e sottomettere le popolazioni native per allargare i confini metropolitani e rendere più ricca la propria nazione; piuttosto, di invadere gli spazi virtuali di Internet, per farli diventare veri e propri siti di sfruttamento, geografie immateriali nelle quali esercitare un potere “digitale-territoriale”.
I dati sono, dunque, una forma di appropriazione fondamentale di risorse. In questo caso, però, non si tratta semplicemente di impossessarsi di materie prime allo stato naturale, come poteva accadere con l’argento delle miniere del Sud America, il cotone delle piantagioni schiaviste degli Stati Uniti o la gomma del Congo belga. É la vita, adesso, che deve essere configurata in modo da facilitare la produzione di queste ricchezze digitali; i dati sui comportamenti o sulle caratteristiche di un individuo si combinano con i dati relativi a quelli di altri individui collegati in Rete per dare origine a connessioni “informazionali” tra punti prestabiliti che le piattaforme digitali intendono governare. Principali protagoniste del “colonialismo dei dati” sono le grandi aziende, che oggi conosciamo con l’appellativo di Big Tech, coinvolte nell’incetta di atti sociali quotidiani, tramutati poi in dati quantificabili che vengono analizzati e conservati per creare profitti: Amazon, Google, Apple, Meta con Facebook, Instagram e Whatsapp, ma anche, in Cina, Baidu, Alibaba, Tencent.
Stiamo assistendo, in buona sostanza, ad una riorganizzazione della comunità umana tramite un’ampia trasformazione dei rapporti sociali. La recentissima tecnologia informatica, grazie all’insieme delle conoscenze, abilità e competenze che incarna – con particolare riferimento alle infrastrutture digitali innervate dalle IA algoritmiche – sta approntando giorno dopo giorno un nuovo tipo di società “tradotta” in un flusso di dati che sarà continuamente monitorato, catturato e ordinato per valore.
Ora, rappresentando noi stessi quella società, ne consegue, irrimediabilmente, che ne sta andando della nostra esistenza personale e della nostra identità. Il nostro stesso “sé” risulta compromesso e veniamo indebitamente “espropriati” come collettività e come individualità nel medesimo momento. Il “colonialismo dei dati” tramuta la nostra vita in un costrutto sociale virtuale, ormai maturo per la mercificazione.
I pregiudizi degli algoritmi
Riproposizione, in qualche misura, della vecchia colonial mind, l’IA generativa sembra perpetuare stereotipi che amplificano i preconcetti sul genere e sulle etnie, forse mettendo perfino in pericolo l’incolumità delle persone.
Interessante e drammatica la testimonianza di Joy Buolamwini dalle pagine del Time nel 2019. Scienziata, attivista e fondatrice dell’Algorithmic Justice League, Buolamwini scrive: “Le macchine possono discriminare in modo dannoso. L’ho sperimentato in prima persona, quando ero una studentessa laureata al MIT nel 2015 e ho scoperto che alcuni software di analisi facciale non potevano rilevare il mio viso dalla pelle scura fino a quando non ho indossato una maschera bianca. Questi sistemi sono spesso addestrati su immagini di uomini prevalentemente dalla pelle chiara”.
Le IA vengono istruite a partire da insiemi di dati che riflettono i pregiudizi tipici della cultura occidentale ad ogni livello. Questo significa che l’IA propone modelli di interpretazione della realtà ingannevoli e fortemente orientati a privilegiare i bianchi e la loro cultura. Un aspetto, quest’ultimo, da non sottovalutare. Vengono fabbricati veri e propri cliché improntati al più schietto razzismo: le donne asiatiche sono iper-sessualizzate; le africane e gli africani vengono per lo più rappresentati come primitivi, al contrario degli europei che appaiono solidamente evoluti; i leaders appartengono sempre al sesso maschile e i detenuti nella maggioranza dei casi sono persone di colore. Esempi eclatanti di colonizzazione algoritmica li ritroviamo in Sud Africa o in Indonesia, dove si sperimentano modelli di sorveglianza digitale utili all’industria globale del controllo per esportare quelle tecnologie altrove, vendendole in tutto il mondo.
Il “colonialismo dei dati” nutre sé stesso divorando senza sosta informazioni con modalità che possono apparire scontate e quel che è peggio neutrali, allo scopo di promuovere, ci viene ripetuto ossessivamente, indiscutibili miglioramenti favoriti dall’uso di tecnologie che sembrano davvero miracolose e alla portata di tutti e non, invece, persistenti tentativi di coercizione dello sviluppo umano.
Ma non è soltanto questione di Big data o di piattaforme concepite per impiegarne lo straordinario potenziale. La materialità dell’IA, un elemento che non dobbiamo trascurare e su cui vale la pena riflettere, ci racconta un’altra storia, fatta di corpi e terre rare: basti pensare soltanto al litio senza il quale non funzionerebbero le batterie dei nostri cellulari oppure al lavoro in condizione quasi servile di coloro che “ripuliscono” i pacchetti di dati per eliminarne i contenuti cruenti, pornografici o particolarmente sgradevoli, la cosiddetta “etichettatura”, facendo sì che l’IA non sia in grado di proporli in risposta a una delle tante domande che le vengono formulate sugli argomenti più disparati e l’utente finale non li riceva. Sottopagati e traumatizzati da ciò che vedono e sentono con conseguenze dirette sulla loro salute mentale, i data cleaners, principalmente del Sud globale (l’insieme dei Paesi in via di sviluppo collocati perlopiù nell’emisfero meridionale), conducono un’attività “fantasma”, occultata a sguardi indiscreti, di cui i consumatori occidentali non hanno nemmeno lontanamente conoscenza.
L’Impero dell’IA, se così possiamo definirlo, è ben più tangibile di quanto si possa credere mentre, per altro verso, siamo sedotti dallo spettacolo del digitale che ci promette scenografie maestose e pirotecniche: basterà, a questo proposito, citare gli archivi di informazioni depositati nei potenti server, unità fisiche di cui si evita il surriscaldamento con appositi circuiti di raffreddamento ad acqua, conservati in molte aree del pianeta con maggior concentrazione negli Stati Uniti, che vengono alimentate da semplice energia elettrica, al pari di ciò che accade per una qualsiasi lampadina.
Nel labirinto irrequieto di Internet, pieno di intense suggestioni ma al tempo stesso di molti anfratti oscuri, il Minotauro aspetta un Teseo che liberi i prigionieri dalle loro catene virtuali. Probabilmente noi tutte e noi tutti.
L'articolo IA e colonialismo dei dati sembra essere il primo su Sbilanciamoci - L’economia com’è e come può essere. Per un’Italia capace di futuro.
Accedi
