Proviamo a tenere insieme la trama e l’ordito del tessuto tecnopolitico che sta dando forma alle nostre società. Alcuni mesi fa, il cofondatore di Microsoft, Bill Gates, lanciò l’allarme sull’intelligenza artificiale, affermando che «l’era turbolenta dell’IA è ormai iniziata». Diceva che i modelli di IA sono «in grado di comportare rischi legati agli attacchi informatici, al bioterrorismo e alla sfera psicosociale». Pochi giorni fa, Jacob Coxon, un ingegnere di Anthropic, si è dimesso dall’azienda, dichiarando che il settore dell’intelligenza artificiale “sta giocando d’azzardo con le nostre vite”: “Più spaventoso è che l’intelligenza artificiale venga utilizzata per rendersi più intelligente” (AI generative). Coxon avvertiva che queste aziende sono “costrette a lanciarsi in una corsa sfrenata verso la creazione di una tecnologia letale”.
È di questi giorni la notizia che il CEO di Anthropic, Dario Amodei, esorta il settore tecnologico a rallentareil ritmo dello sviluppo dell’intelligenza artificiale, un appello che i suoi principali concorrenti, il CEO di OpenAI, Sam Altman, ed Elon Musk, hanno condiviso. Alcuni anni fa, Amidei aveva scritto sul New York Times un articolo dal tono ottimistico sull’IA, sostenendo che la democrazia ci avrebbe guadagnato in termini di informazione e controllo del potere. E intanto fiorivano ricerche e pubblicazioni, alcune dirette da intellettuali di punta, sulle potenzialità democratiche dell’IA. Le dichiarazioni allarmate dei capi delle aziende che sviluppano AI sono una vera doccia fredda.
Se dalle aziende che producono automi capaci di ribellarsi ai produttori e di aggredirli, come è successo in un laboratorio cinese, passiamo alle comunità sociali, l’allarme assume un sapore ancora più acre. Bill Gates diceva, come abbiamo visto, che i modelli di IA possono comportare rischi nella “sfera psicosociale”. La sfera psicosociale è quella che più interessa alla politica democratica, che si fonda sul presupposto che ciascuno di noi sia parte del sovrano collettivo e partecipi, con le opinioni (liberamente formate nella società) e con le decisioni (il voto), al governo del proprio paese. Questo principio riposa su una premessa che, fino all’invenzione dell’IA, aveva il seguente corollario: l’opinione è permanentemente oggetto di manipolazione e di demagogia, costruzioni retoriche che si alimentano della capacità umana di ragionare, di recitare e di creare mondi fantastici. Gli studi sulla “sfera psicosociale” divennero centrali a partire dall’800, in concomitanza con la stabilizzazione del governo rappresentativo. Lo studioso francese Gustave Le Bon ha ammaliato i demagoghi totalitari, come Benito Mussolini e Adolf Hitler, desiderosi di esercitare un potere ipnotico sulle folle per far scomparire, diceva Sigmund Freud, le opinioni “del singolo”. Fino al XXI secolo la propaganda era un prodotto artigianale. Oggi è sempre più opera di laboratori di AI. E veniamo così alla politica nel nostro tempo.
Le elezioni in Sassonia-Anhalt della scorsa settimana hanno portato l’AfD alle soglie del governo di quel land con il 44% dei voti. I timori per questo esito, che fa di fatto saltare la massima “mai più” nazismo, hanno occultato un fatto di cui non si parla, o non si parla abbastanza: questo partito di estrema destra e anti-immigrazione ha accumulato voti soprattutto grazie ai social media, dove sono state diffuse con insistenza immagini generate dall’IA incentrate sugli effetti positivi del timore della vittoria di questo partito: mostravano la partenza già in corso di migranti dalla Germania. Immagini fabbricate con questo messaggio: è vero che la Sassonia-Anhalt è piccola e con pochissimi immigrati, ma questo voto ne fa un modello per l’intero paese, perché induce gli immigrati a lasciare la Germania (numerosi i post falsi che assicuravano che una persona su quattro con un background migratorio diceva di voler lasciare la Germania se avesse vinto l’AfD in quel land).
I boss delle aziende AI non hanno simpatia per la democrazia anche se nessuno di loro sa indicare un sistema politico più funzionale. Che anche Musk, critico radicale della democrazia, convenga con Amodei per una moratoria sulla ricerca di modelli di AI dimostra che la manipolazione della sfera psicosociale è imprevedibile anche per chi la produce e magari la usa per far vincere le destre. I creatori di realtà false sono a loro volta esposti al rischio di manipolazione. È questo che li preoccupa, non il declino della democrazia. Qualunque sia la decisione dei boss sulla moratoria sull’AI, è un fatto che i modelli esistenti sono al servizio di un disegno eversivo. Le democrazie dovrebbero imporre un fermo su ciò che esiste già e approvare norme severissime sul finanziamento e sull’uso dell’AI, cercando di emanciparsi dal potere dei padroni del psicosociale.
Ottorino Cappelli
