L’intelligenza artificiale non è un’innovazione emersa dal nulla, semmai un’accelerazione di un processo già in corso, l’ultimo capitolo di una storia, quella dell’automazione che comincia con il telaio Jacquard e la macchina analitica di Babbage (1837). Lo stesso termine AI è del 1956, e sono di poco successive le espressioni machine learning, deep learning e reti neurali. Non sono “strumenti”, utensili, non sono semplici protesi ma mondi, abiti che mediano relazioni. Sono epistemologie che diventano infrastruttura.

L’intelligenza artificiale non è intelligente. Quello a cui assistiamo è un gioco di prestigio: un complicato modello statistico in cui un software sembra darci una risposta a una domanda, ma in realtà questa cosa non è vera: da Alan Turing in poi è stato chiarito come la macchina non può “capire” nel senso che intendiamo noi la comprensione. Non c’è capacità di discernimento, non c’è capacità di giudizio, solo complicati calcoli statistici, probabilistici e algoritmi.

Tra le prime dieci imprese per capitalizzazione a livello globale, sette sono del settore digitale e un’ottava è Tesla (che produce auto & computer). Il digitale è, oggi, il principale motore di profitti e di accumulazione del capitale, come nel secolo scorso il principale motore erano le società del settore manifatturiero / automobilistico / fossile, soppiantate a inizio secolo dalle aziende della distribuzione.

La tecnologia non è neutrale. Serve, dai tempi di Ned Ludd, per aumentare la produttività e abbassare i salari. La tecnologia ovviamente sortisce effetti positivi, infatti la critica non è sullo strumento in sé ma sulle finalità. Come diceva Keynes ci sarebbe la possibilità di lavorare quindici ore alla settimana, ma negli ultimi trent’anni le caratteristiche fondamentali del fordismo e del taylorismo, e cioè agganciare incrementi di produttività a incrementi di salari per garantire i consumi, non sta più funzionando. Sicuramente intelligenza artificiale e occupazione hanno delle correlazioni di breve periodo, ma la grande questione è collegare le innovazioni tecnologiche a un aumento dei redditi.

Le nuove tecnologie, gli algoritmi di seconda generazione, l’AI generativa creano un’ibridazione tra l’elemento macchinico e quello umano, abbiamo un divenire umano della macchina e un divenire macchinico dell’uomo, una sorta di neo-taylorizzazione. Nella discussione sugli effetti occupazionali di queste tecnologie ci dimentichiamo spesso che queste tecnologie devono essere allenate, ovvero nutrite di dati per svolgere ogni compito. Possiamo dire provocatoriamente che la disoccupazione non esiste, la dicotomia vera è tra chi è occupato e percepisce un reddito e chi no.

Come dice Kate Crawford nel suo saggio “Né intelligenti, né artificiali”, oggi il digitale e, nello specifico, l’intelligenza artificiale è uno strumento al servizio del potere economico: per i profitti prodotti, i dispositivi di sorveglianza sui lavoratori, la finanziarizzazione; e politico: per sorvegliare il dissenso, reprimere, chiudere le frontiere, fare la guerra.

L’intelligenza artificiale non esiste separata dal mondo, bensì dipende interamente da un insieme molto ampio di strutture politiche e sociali. Non c'è nessuna intelligenza artificiale senza Big Tech. L’intelligenza artificiale non è una tecnica computazionale oggettiva, universale o neutrale. A causa del capitale necessario per istruire l’AI su larga scala e dei modi per ottimizzarla, i sistemi di AI sono in definitiva progettati per servire gli interessi dominanti.

I pozzi sono avvelenati. L’intelligenza artificiale è addestrata su dati che sono tutt’altro che oggettivi e imparziali, perciò contiene dei bias o “pregiudizi” e, funzionando su vasta scala, sistematizza questi bias amplificando così gli errori umani su una portata globale. L’algoritmo dell’AI non è in sé prevenuto, ma eredita delle discriminazioni che già avvenivano negli algoritmi dei social network e non solo (basti pensare all’algoritmo Hummingbird e alla google bubble) che, volutamente, non sono stati corretti. L’intelligenza artificiale è avvelenata dalle discriminazioni presenti nei dati che la alimentano. Il “data poisoning”, che è un termine che appartiene alla sicurezza informatica, ben descrive la realtà attuale fatta di output discriminatori che sono figli diretti delle discriminazioni originarie con cui l’AI è stata alimentata. La politica classificatoria è una prassi fondamentale nell’intelligenza artificiale. Le pratiche di classificazione danno forma al modo in cui l’intelligenza artificiale viene riconosciuta e prodotta, dai laboratori universitari all’industria tecnologica.

Abbiamo bisogno di provare a scardinare questo sistema di potere centralizzato senza buttare via i benefici che potremmo ottenere dall’accelerazione della tecnologia. Dobbiamo chiedere e pretendere l’open access e la trasparenza. Chiedere che queste macchine siano progettate per essere ispezionabili: dobbiamo sapere con quale codice sono scritte e come sono state programmate. Chiedere che sia disponibile e ispezionabile il dataset: queste macchine sono addestrate con la conoscenza umana e alla conoscenza umana devono appartenere. Chiedere che siano decodificati gli algoritmi e tutti i percorsi che la macchina sceglie per prendere decisioni. Abbiamo bisogno di sapere che cosa c’è dentro per evitare i pregiudizi che possono generare. Aprire la “black box” e con essa i segreti industriali che contiene e che gli enormi valori industriali vengano redistribuiti, abbiamo diritto alla nostra cedola come azionisti della cittadinanza egualitaria nel mondo.

Dobbiamo chiedere che le macchine siano messe al servizio della collettività. Necessitiamo un approccio molto più radicale della battaglia molto umana, molto capitalistica, molto estrattiva, ma molto di retroguardia che è il tema del “proteggere le mie idee”. Le cause che sono state intentate, per esempio, dal New York Times e da altri soggetti che afferiscono al mondo intellettuale e culturale contro queste macchine sono rivolte prevalentemente ad ottenere una remunerazione per i loro materiali usati per addestrarle. È un modo per replicare i meccanismi del capitalismo estrattivo e non c’è alcuna pratica reale di attacco alle distorsioni di fondo del sistema. Dobbiamo rivendicare la trasparenza su quando vengono utilizzati i sistemi di intelligenza artificiale e che in una serie di ambiti le decisioni non siano automatiche ma mediate dall’essere umano.

L’intelligenza artificiale nasce con una funzione che è principalmente coloniale ed estrattiva. Senza correttivi in termini di tutela dei diritti, di ribaltamento dei bias nei sistemi predittivi, avremo un meccanismo di de-responsabilizzazione che aumenterà le forme discriminatorie. L’industria dell’AI ha tradizionalmente inteso il problema del pregiudizio (bias) alla stregua di un bug da correggere anziché come una caratteristica insita nella classificazione stessa. L’attenzione per una maggiore “equità” dei set di addestramento attraverso l’eliminazione dei termini escludenti e discriminatori, e quindi razzisti, sessisti, abilisti ecc., elude le dinamiche di potere della classificazione e preclude una valutazione più approfondita delle logiche sottostanti.