C’è un equivoco che accompagna ogni grande salto tecnologico: credere che, poiché una macchina fa qualcosa che prima faceva solo l’uomo, allora quella macchina faccia davvero la stessa cosa dell’uomo. Ma come attraversare il crinale tra scosceso tra tecnoentusiasmo distopico e neoluddismo a-storico ?
Quando il telaio meccanico accelerò la produzione dei tessuti, non diventò un artigiano. Quando la fotografia imparò a fissare un volto meglio di un pittore mediocre, non divenne uno sguardo. Oggi l’intelligenza artificiale scrive, risponde, riassume, traduce, consola, suggerisce, corregge, organizza. A volte sembra capire. Ed è proprio questo “sembra” il luogo filosoficamente più delicato del nostro tempo.
L’enciclica Magnifica Humanitas di Leone XIV si inserisce (tra i tanti angoli che esplora) anche qui, in questo spazio da disambiguare tra prestazione e comprensione. Sua Santità non scrive un testo contro la tecnica. Sarebbe una lettura comoda, e anche sbagliata. Il documento riconosce che la tecnologia appartiene alla storia dell’uomo, ne prolunga le capacità, può curare, educare, connettere, migliorare le condizioni materiali della vita. Il problema nasce quando la tecnica smette di essere uno strumento e diventa il linguaggio attraverso cui interpretiamo l’uomo. L’enciclica usa un’immagine forte: la “sindrome di Babele”, cioè la pretesa di un linguaggio unico, anche digitale, capace di tradurre tutto, persino il mistero della persona, in dati e prestazioni. È una frase decisiva, perché sposta la discussione dal piano dell’efficienza al piano dell’antropologia. Non chiede solo se l’IA funzioni. Chiede che idea di uomo stia producendo una società che affida al calcolo porzioni sempre più ampie della parola, della decisione, della cura.
A questo punto torna attualissimo John Searle. E non per una citazione ornamentale da mettere in apertura, ma perché Searle ci consegna una grammatica concettuale ancora utilissima per non cadere nell’incantesimo della superficie.
Nel 1980, con il celebre Chinese Room Argument, l’argomento della stanza cinese, Searle prende di mira la cosiddetta “intelligenza artificiale forte”: l’idea secondo cui un computer opportunamente programmato non si limita a simulare la mente, ma possiede davvero una mente. Comprende. Pensa. Ha stati mentali. Non “come se”, ma in senso proprio.
L’esperimento mentale è noto, ma vale la pena raccontarlo bene. Immaginiamo una persona chiusa in una stanza. Questa persona non conosce il cinese. Non ne capisce una parola. Dall’esterno arrivano fogli pieni di caratteri cinesi. Nella stanza, però, c’è un manuale di istruzioni scritto in una lingua che la persona comprende. Il manuale dice quali simboli associare ad altri simboli, quali sequenze restituire, quali risposte produrre. La persona segue le regole. Non capisce il cinese, ma manipola correttamente i segni. Dall’esterno, le risposte appaiono perfette. Chi legge potrebbe dire: “Dentro quella stanza c’è qualcuno che comprende il cinese”. E invece no. Dentro la stanza c’è qualcuno che esegue una procedura.
Il punto non è che la procedura sia banale. Può essere sofisticatissima. Può generare risposte indistinguibili da quelle di un parlante competente. Ma la correttezza dell’output non basta a dimostrare la presenza del significato. Searle formula così una distinzione diventata classica: la sintassi non produce, da sola, semantica. Manipolare simboli secondo regole formali non equivale a comprendere ciò che quei simboli significano. La Stanford Encyclopedia of Philosophy ricorda giustamente che Searle non stava negando ogni utilità dell’IA come strumento di simulazione o ricerca; stava contestando l’identificazione tra esecuzione di un programma e comprensione mentale autentica.
Per anni la stanza cinese è sembrata un raffinato esercizio di filosofia analitica. Brillante, controverso, discusso in corsi universitari, seminari, manuali. Poi è arrivata l’IA generativa, e la stanza è uscita dai libri. Si è fatta interfaccia. Chat. Assistente personale. Voce sintetica. Avatar. Non ci sono più schedari, fogli e manuali, ma reti neurali addestrate su quantità immense di testi, capaci di produrre risposte fluide, adattive, spesso sorprendenti. L’effetto esterno è ancora più potente di quello immaginato da Searle. La macchina non restituisce solo simboli cinesi. Modula il tono. Si scusa. Incoraggia. Sembra prudente. A volte appare perfino empatica.
Qui l’enciclica coglie un rischio molto concreto. Nel paragrafo dedicato all’uso personale dell’IA, Leone XIV richiama tre aspetti da considerare: la facilità di ottenere un risultato, l’impressione di oggettività e la simulazione della comunicazione umana. Questa triade non è decorativa. Descrive esattamente il modo in cui l’IA entra nella vita quotidiana. La risposta è immediata, quindi seduce. Ha un’aria neutrale, quindi convince. Usa il linguaggio umano, quindi crea familiarità. Il documento aggiunge che questa facilità può abituarci a delegare troppo, indebolendo giudizio personale e creatività.
L’enciclica dice una cosa inquietante: l’imitazione artificiale della cura può diventare pericolosa quando si inserisce in contesti poveri di relazioni reali
È un punto enorme. Perché il problema non è solo la macchina che finge di capire. È l’uomo che, lentamente, si abitua a non esercitare più alcune facoltà. Scrivere una lettera difficile, argomentare una posizione, trovare le parole per un lutto, formulare una domanda, sostenere il disagio di un pensiero non ancora chiaro: tutto questo non è mera produzione testuale. È formazione della soggettività. Pensiamo mentre cerchiamo le parole. Diventiamo più precisi mentre lottiamo con una frase. Capiamo ciò che sentiamo mentre tentiamo di dirlo. Se deleghiamo sempre questo lavoro, non perdiamo soltanto tempo di esercizio. Perdiamo una parte del nostro rapporto con noi stessi.
Searle aiuta a vedere il lato cognitivo del problema. L’enciclica ne mostra il lato umano. La macchina può produrre il linguaggio della cura senza vivere la cura. Può parlare di dolore senza patire. Può generare una frase sul perdono senza essere attraversata dalla colpa. Può simulare attenzione senza esporsi alla fatica dell’altro. Eppure, proprio perché il linguaggio è per noi il segno più immediato della presenza mentale, tendiamo a umanizzare ciò che parla bene. Siamo fatti così. Non incontriamo mai “testi” in astratto; incontriamo voci, intenzioni, caratteri, presenze. Quando qualcuno risponde con garbo, ricorda il contesto, sembra modulare la parola sul nostro stato emotivo, noi immaginiamo un soggetto. L’IA generativa abita questa inclinazione naturale e la porta al limite.
L’enciclica, infatti, non si limita a dire che una persona può credere di parlare con un’altra persona. Dice qualcosa di più inquietante: l’imitazione artificiale della cura può diventare pericolosa quando si inserisce in contesti poveri di relazioni reali; in quel caso il rischio è perdere il desiderio stesso di cercare davvero l’altro. Questa è una delle intuizioni più forti del testo. Non la paura ingenua che la macchina diventi umana, ma il timore che l’umano si abitui a relazioni senza alterità. Una presenza docile. Una risposta senza volto. Una compagnia che non chiede nulla.
Qui Searle va portato oltre Searle. Il filosofo americano voleva mostrare che la computazione, in quanto manipolazione formale di simboli, non basta a generare intenzionalità. Leone XIV prende quella distinzione e la sposta nel campo della vita comune. Se la macchina non comprende, chi risponde delle sue parole? Se un sistema suggerisce una diagnosi, orienta una sentenza, filtra una graduatoria, produce un contenuto politico, dove si colloca la responsabilità? Nel codice? Nell’azienda? Nell’ente che lo utilizza? Nel funzionario che firma? In chi ha addestrato il modello? La responsabilità non è un accessorio morale da aggiungere dopo. È la condizione stessa perché un atto umano sia tale.
A questo proposito torna utile anche l’altro Searle, quello meno popolare ma forse ancora più importante per capire il presente: il teorico degli atti linguistici e della realtà sociale. Prima della stanza cinese, Searle aveva lavorato sul linguaggio a partire da J. L. Austin. Il linguaggio non serve solo a descrivere il mondo. A volte lo trasforma. “Prometto”, “nomino”, “dichiaro”, “condanno”, “autorizzo”: certe parole non fotografano una realtà già data; producono effetti dentro istituzioni, pratiche, ruoli, riconoscimenti collettivi. Più tardi, in The Construction of Social Reality e Making the Social World, Searle svilupperà questa intuizione mostrando che molti fatti sociali (denaro, proprietà, confini, cariche, elezioni) esistono perché una comunità attribuisce funzioni di status a persone, oggetti, procedure. The Guardian, nel profilo dedicato a Searle dopo la sua morte, ha ricordato proprio questa linea della sua opera: accanto alla filosofia della mente, Searle ha costruito una teoria della realtà sociale fondata su linguaggio e intenzionalità collettiva.1
Ora pensiamo all’IA dentro questo quadro. Una macchina può generare una promessa, ma non promette. Può scrivere una sentenza, ma non giudica. Può formulare una scusa, ma non si pente. Può produrre una dichiarazione istituzionale, ma non appartiene a una comunità politica. Le parole, certo, possono avere effetti se un soggetto umano o un’istituzione le assume. Ma questo conferma il punto: il centro della responsabilità resta fuori dalla macchina. L’IA può entrare nella catena dell’atto linguistico; non può, da sola, fondarne la normatività morale e sociale.
Questo passaggio è fondamentale per non restare prigionieri di una discussione povera, tutta concentrata sulla domanda “l’IA è intelligente oppure no?”. La questione vera è più sottile. L’IA è in grado di produrre prestazioni che imitano forme alte dell’intelligenza umana. Proprio per questo costringe a distinguere meglio ciò che prima confondevamo. Calcolare non è giudicare. Generare un testo non è assumere una parola. Simulare empatia non è prendersi cura. Produrre una spiegazione non significa comprendere dall’interno il mondo a cui quella spiegazione si riferisce.
L’enciclica porta questa distinzione dentro la Dottrina sociale della Chiesa. Al centro c’è la dignità della persona, una dignità che non dipende dalle capacità possedute, dalla produttività, dal ruolo sociale, dalla performance. Il testo insiste sul fatto che la persona non deve guadagnarsi il proprio valore attraverso efficienza e risultati; quando accade, viene ridotta a mezzo, a risorsa, a funzione. In questo senso, il problema dell’IA non riguarda solo le macchine “troppo intelligenti”. Riguarda le società troppo pronte a misurare gli esseri umani come macchine.
Qui si vede la profondità filosofica del documento. La minaccia non è semplicemente un futuro popolato da robot coscienti. Molto prima di quel futuro, ammesso che sia possibile, c’è un presente in cui l’uomo viene interpretato secondo categorie computazionali: dati, profili, prestazioni, predizioni, ranking, compatibilità, metriche. La cultura digitale non rischia soltanto di produrre macchine antropomorfe. Rischia di produrre un’antropologia macchinica. Una visione dell’uomo come sistema ottimizzabile, classificabile, prevedibile, sostituibile quando rende poco. In questo senso il richiamo dell’enciclica al lavoro è particolarmente importante: gli attuali approcci tecnologici possono dequalificare i lavoratori, sottoporli a sorveglianza automatizzata, ridurre la capacità di agire. La risposta proposta è chiara: sistemi centrati sulla persona, non solo sulla prestazione.
Searle, da filosofo naturalista, non avrebbe fondato tutto questo sulla teologia della creazione o sull’immagine di Dio. La sua prospettiva resta diversa: la coscienza è per lui un fenomeno biologico reale, soggettivo, causato dal cervello. Una posizione discussa, spesso criticata, ma mai banale. Leone XIV parte invece da una visione cristiana dell’uomo: creatura fatta per la relazione, dotata di dignità incondizionata, chiamata a una libertà che non coincide con l’autopotenza. Le due vie non si sovrappongono. Tuttavia si incontrano in un punto decisivo: rifiutano entrambe la riduzione dell’umano a procedura.
La stanza cinese diventa allora una parabola del nostro tempo. Non perché i modelli contemporanei funzionino come il manuale immaginato da Searle (sarebbe una semplificazione tecnica), ma perché il suo esperimento mentale continua a porre la domanda giusta: che cosa stiamo vedendo quando vediamo una risposta intelligente? Una mente? Una simulazione? Una correlazione statistica? Una prestazione linguistica assunta poi da un soggetto umano? La distinzione conta. Conta a scuola, quando uno studente consegna un tema scritto da una macchina e perde l’occasione di formare il proprio pensiero. Conta in medicina, quando il paziente rischia di diventare un fascicolo predittivo prima ancora che un volto. Conta nella politica, quando la comunicazione viene ottimizzata per catturare attenzione invece che per costruire giudizio pubblico. Conta nel giornalismo, dove la velocità della produzione può divorare la responsabilità della verifica.
Per questo il nesso tra Magnifica Humanitas e Searle è fecondo. L’enciclica offre l’orizzonte antropologico e sociale; Searle fornisce gli strumenti concettuali per non confondere la forma esterna della comprensione con la sua realtà interna. Insieme aiutano a formulare una tesi sobria, ma decisiva: l’intelligenza artificiale può ampliare enormemente le possibilità dell’uomo, purché l’uomo non dimentichi che la propria intelligenza non coincide con l’efficienza della risposta.
Il punto non è tornare indietro. Nessuna società complessa rinuncerà all’IA, e non sarebbe neppure auspicabile. Il punto è custodire differenze. Tra parola e presenza. Tra informazione e verità. Tra automatismo e giudizio. Tra assistenza tecnica e cura. Tra prestazione e dignità. Quando queste differenze vengono cancellate, la macchina non diventa necessariamente più umana; siamo noi a diventare meno capaci di riconoscere ciò che nell’umano eccede la macchina.
Searle torna necessario per questo: perché ci costringe a domandare se dietro la frase ben formata ci sia davvero comprensione. L’enciclica rende quella domanda ancora più urgente: ci chiede se, circondati da macchine capaci di imitare il linguaggio della mente, sapremo ancora difendere l’esperienza della persona. Non come reliquia sentimentale. Come fondamento della vita comune.
- https://www.theguardian.com/world/2025/oct/05/john-searle-obituary ↩︎
Daniela Padoan
Gustavo Zagrebelsky
Nadia Urbinati
