Negli ultimi mesi mi è capitato più volte di scrivere di intelligenza artificiale in contesti diversi, introduzioni a libri, riflessioni pubbliche, documenti istituzionali, testi più teorici e testi più divulgativi. Ogni volta mi sono trovato davanti allo stesso problema: come possiamo parlare di AI senza restare intrappolati nella superficie dei suoi effetti più visibili? Come possiamo evitare che il discorso si riduca all’ennesima oscillazione tra l’entusiasmo e la paura, tra una fascinazione crescente per gli strumenti generativi e l’allarme costante per la loro pervasività? E quindi, in definitiva, come possiamo orientarci tra la promessa di efficienza dell’IA e la persistente nostalgia dell’umano?
È a partire da questa domanda che ho letto Magnifica Humanitas, l’enciclica di Leone XIV sulla custodia della persona umana nel tempo dell’intelligenza artificiale. Il testo è stato firmato in occasione del 135° anniversario della Rerum Novarum, e la scelta non è soltanto simbolica, perché l’intelligenza artificiale viene collocata nel solco della questione sociale (più esattamente: della dottrina sociale), cioè dentro il rapporto tra tecnica, lavoro, potere, giustizia, dignità e forme della vita comune. E questo è certamente il punto più interessante del documento. L’IA non viene trattata come un semplice problema di uso degli strumenti, né come una minaccia morale da contenere attraverso richiami generici alla responsabilità individuale, ma viene riconosciuta come una trasformazione capace di incidere sulle strutture profonde della società.
L’IA come nuova questione sociale
Questa posizione è importante perché il dibattito pubblico sull’intelligenza artificiale tende spesso a fermarsi troppo presto. Il discorso pubblico tende infatti spesso a concentrarsi sugli effetti più immediatamente riconoscibili dell’AI: il modo in cui scriviamo, studiamo, lavoriamo, produciamo immagini, misuriamo la produttività o immaginiamo la trasformazione delle professioni. Sono questioni reali, perché toccano pratiche quotidiane e assetti sociali già in movimento, ma rischiano di restare insufficienti quando vengono separate dalle infrastrutture, dai modelli economici e culturali, e dalle forme di potere che rendono possibile quella trasformazione. L’IA non è soltanto quello che vediamo quando interagiamo con un chatbot, generiamo un’immagine o chiediamo a un sistema di riassumere un documento. È anche quello che resta sullo sfondo: infrastrutture di calcolo, piattaforme proprietarie, modelli addestrati su enormi quantità di dati, catene globali del lavoro, consumo energetico, estrazione di risorse, concentrazione economica, dipendenza delle istituzioni pubbliche da attori privati.
Qui l’enciclica coglie elementi che sono in continuità con la letteratura critica sul digitale che parte dalla non neutrlaità della tecnica, fatto che dovremmo avere ormai acquisito. Non lo è perché incorpora le condizioni in cui viene prodotta, finanziata, addestrata, distribuita e governata. Un sistema di IA non arriva nel mondo come pura capacità computazionale, arriva già carico di modelli economici, scelte progettuali, regimi di proprietà, visioni implicite dell’efficienza, dell’errore, della normalità, del rischio. Per questo la domanda “come usiamo l’IA?” è necessaria, e insieme non sufficiente. Bisogna chiedersi anche chi la costruisce, con quali dati, a quali costi, per quali mercati, dentro quali dipendenze e con quali possibilità effettive di controllo democratico.
I dati come “terre rare” del potere
Il richiamo più forte di Magnifica Humanitas riguarda forse proprio questo punto: i dati come nuove “terre rare” del potere. L’immagine è efficace perché consente di vedere l’intelligenza artificiale non come tecnologia immateriale, ma come economia dell’estrazione. I dati non sono semplici tracce lasciate dagli individui nel corso della loro vita digitale. Sono vite rese computabili, relazioni trasformate in risorse predittive, esperienze convertite in valore informativo. Quando vengono raccolti, correlati e integrati in modelli, non descrivono soltanto il presente, ma rendono possibile anticipare comportamenti, classificare bisogni, orientare mercati, decidere quali vulnerabilità contino e quali restino invisibili.
Il colonialismo ai nostri giorni mostra un volto inedito. Non domina solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili. Interi territori, soprattutto quelli con minore rilevanza geopolitica e maggiore fragilità strutturale, vengono al presente attraversati da una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici. Sono queste le nuove “terre rare” del potere: informazioni vitali che, una volta correlate, possono essere usate per addestrare modelli predittivi, guidare strategie di investimento, anticipare le crisi e soprattutto selezionare chi e che cosa conta. (178)
È qui che la questione della privacy individuale mostra tutta la sua importanza e anche il suo limite. Proteggere i dati personali è indispensabile. Ma se la riflessione si ferma alla privacy, rischia di non vedere la dimensione collettiva dell’estrazione. Il problema non è soltanto che un individuo venga profilato, è che intere popolazioni, territori, comunità, archivi culturali e patrimoni cognitivi possano diventare materia prima di sistemi che producono valore altrove, sotto il controllo di soggetti (per lo più privati) che non restituiscono potere decisionale a chi ha contribuito, spesso senza saperlo, a renderli possibili.
Da questo punto di vista, Magnifica Humanitas è un testo utile perché allarga il campo morale dell’IA. Non si limita a chiedere sistemi più sicuri, più trasparenti, più rispettosi della persona; chiede di pensare l’intelligenza artificiale in rapporto al bene comune, alla giustizia sociale, alla dignità del lavoro, alla libertà, alla pace, alla democrazia. È un passaggio significativo, soprattutto in un tempo in cui molta comunicazione sull’IA resta dominata dalla logica del lancio di prodotto: l’innovazione viene raccontata come sequenza di avanzamenti inevitabili, mentre resta spesso sullo sfondo la discussione sulle condizioni sociali, economiche e politiche che ne orientano lo sviluppo.
Eppure proprio qui si apre anche la questione più critica e da discutere dell’enciclica. Parlare di bene comune, dignità, responsabilità e custodia della persona è necessario, ma rischia di restare insufficiente se non si traduce in una domanda più esigente sulle strutture che governano l’IA. La regolazione è indispensabile, e l’AI Act europeo ha mostrato quanto sia importante costruire cornici giuridiche capaci di classificare i rischi, imporre obblighi, definire responsabilità e limitare alcuni usi incompatibili con i diritti fondamentali. E tuttavia regolare una tecnologia concentrata non significa necessariamente trasformarne la struttura di potere. Può persino accadere il contrario: le grandi imprese sono spesso quelle più capaci di assorbire la regolazione come costo organizzativo, rafforzando la propria posizione rispetto ad attori più piccoli, pubblici o cooperativi.
Dall’appello morale alla grammatica politica
Il problema, allora, non è scegliere tra etica e politica, tra regolazione e innovazione, tra persona e infrastrutture. Il problema è tenere insieme questi piani. Un umanesimo dell’IA che parli della persona deve parlare anche delle condizioni materiali della tecnologia per non rischiare di diventare troppo astratto. La persona da custodire non vive infatti fuori dalle filiere che rendono possibile l’intelligenza artificiale. È dentro rapporti di lavoro, piattaforme, archivi di dati, costi ambientali, asimmetrie geopolitiche, sistemi educativi, mercati professionali, istituzioni pubbliche che delegano funzioni cognitive e decisionali a infrastrutture private.
Per questo una riflessione critica sull’IA deve guardare anche a ciò che la sua narrazione tende a nascondere. Dietro l’apparente fluidità dei sistemi generativi ci sono persone che etichettano dati, moderano contenuti, puliscono dataset, valutano risposte, subiscono le conseguenze psicologiche di lavori invisibili e spesso precarizzati. Dietro l’apparente immaterialità del cloud ci sono data center, consumo di energia e acqua, materie prime, dispositivi, logistica, territori. Dietro l’idea di una conoscenza generata automaticamente ci sono testi, immagini, suoni, codici e archivi prodotti da comunità umane, spesso assorbiti in modelli proprietari senza una reale discussione sulle forme della restituzione, del consenso e della redistribuzione del valore.
Qui la domanda diventa allora ancora più scomoda: quali alternative sono pensabili? Non basta chiedere sistemi più responsabili se resta intatta l’architettura che concentra dati, modelli e potere decisionale. Servono infrastrutture pubbliche, dataset governati come beni comuni, modelli aperti e verificabili, forme cooperative di produzione tecnologica, filiere sottoposte a scrutinio sociale e ambientale. Queste prospettive non risolvono automaticamente il problema, né vanno idealizzate. Ma consentono almeno di spostare la discussione dal piano dell’uso individuale al piano delle condizioni collettive della tecnologia.
È qui che Magnifica Humanitas può essere letta in modo utile e critico, secondo me. Utile, perché ricorda che l’IA è ormai una questione antropologica e sociale, non soltanto tecnica. Critico, perché ogni richiamo all’umano deve essere messo alla prova delle infrastrutture che oggi organizzano la vita digitale. L’umano non può essere invocato come essenza da proteggere dopo che l’innovazione ha già deciso le proprie forme. Deve diventare criterio di conflitto, di progettazione, di governo, di redistribuzione.
Forse il punto è proprio questo. L’intelligenza artificiale non ci chiede soltanto di decidere quanto spazio lasciare alle macchine; Ci chiede di decidere quale società vogliamo costruire attorno alle macchine, sapendo che questa decisione riguarda anche la capacità di limitare le concentrazioni di potere, ridurre le dipendenze infrastrutturali, sottrarre alcuni beni alla sola logica proprietaria e mantenere la conoscenza dentro uno spazio discutibile, condiviso e governabile.
Per questo la domanda più importante non è se l’IA sia buona o cattiva. È troppo poco. La domanda è chi la rende possibile, chi ne trae valore, chi ne sopporta i costi, chi può contestarla, chi può modificarla, chi può decidere i suoi limiti. Magnifica Humanitas ha il merito di riportare questa domanda al centro del discorso pubblico. Il compito, adesso, è non lasciarla diventare soltanto un appello morale. Deve diventare una grammatica politica dell’intelligenza artificiale.