Il Papa lo capisce. I nostri governi?

Portiamo l'IA in politica prima che sia troppo tardi.

Non sono una persona religiosa, e ho riserve significative sul comportamento istituzionale della Chiesa cattolica su molte delle questioni che mi stanno più a cuore. Lo dico subito, perché ciò che segue potrebbe altrimenti sembrare incongruo: l’enciclica pubblicata ieri da Papa Leone XIV, Magnifica Humanitas, è uno dei documenti politici più lucidi sull’intelligenza artificiale che qualsiasi grande istituzione abbia prodotto, e merita di essere letto ben al di là degli ambienti cattolici.

Il documento - 245 paragrafi, pubblicato nel 135° anniversario della Rerum Novarum, l’enciclica che per prima impegnò la Chiesa con le conseguenze sociali del capitalismo industriale - sviluppa argomenti che saranno familiari ai lettori di questa serie. L’IA ha un peso morale non solo nel modo in cui viene utilizzata, ma nel modo in cui viene progettata. Il progresso tecnologico produrrà inevitabilmente disuguaglianze strutturali se lasciato senza governo. Un’IA più etica non significa nulla se l’etica è determinata da una manciata di persone in una manciata di sale riunioni. L’enciclica mette in guardia da una “cultura del potere” alimentata dalla rivoluzione digitale, chiede che l’IA venga sottratta agli interessi militari ed economici, assoggettata a regolamentazioni statali e internazionali più stringenti, e plasmata dalla partecipazione ampia di individui e comunità, piuttosto che lasciata nelle mani di chi trae maggior profitto dal suo sviluppo.

La tempistica è deliberata. La Rerum Novarum di Leone XIII nel 1891 fu una risposta al capitalismo industriale - l’ultima volta che una trasformazione tecnologica di questa portata ridisegnò le condizioni dell’esistenza umana. Leone XIV compie la stessa mossa, e il parallelo non è velato: ciò che sta accadendo ora esige una risposta di civiltà, non un aggiustamento tecnico ai margini.

Ciò che mi colpisce di più è la formulazione del problema centrale: “Stiamo davvero vivendo un’eclissi del senso di cosa significa essere umani”, guidata dalla promozione sfrenata della tecnologia a scapito della dignità umana. Quella formula - un’eclissi dell’umano - coglie qualcosa che la maggior parte dei documenti politici sull’IA non ha saputo o voluto dire: che la posta in gioco non è principalmente economica ma esistenziale, e che una società che permette che i termini della propria trasformazione vengano scritti esclusivamente da chi ne trae profitto ha già ceduto qualcosa che farà fatica a recuperare.

La concentrazione del potere dell’IA in una manciata di aziende, l’estrazione di dati senza consenso né compensazione, il displacement dei lavoratori senza protezione, il rischio di sistemi progettati per servire interessi oligarchici piuttosto che interessi comuni - sono problemi politici con soluzioni politiche, e un documento del Vaticano li ha articolati con più chiarezza e più forza di quanto la maggior parte dei governi eletti sia riuscita a fare. L’enciclica traccia una direzione che l’Unione Europea, i governi nazionali e gli organismi internazionali hanno gli strumenti giuridici e istituzionali per perseguire, se la volontà politica esistesse.

Quella volontà politica non esiste attualmente alla scala necessaria. I partiti esistenti sono troppo radicati nelle relazioni con i propri finanziatori e nei quadri ideologici del mondo pre-IA per prendere queste questioni sul serio come priorità elettorale. Ciò che il momento richiede - con urgenza, non in futuro - è un movimento politico organizzato specificamente attorno all’autonomia umana sull’intelligenza artificiale: capace di competere nelle elezioni, di incidere sulla regolamentazione e di fare della difesa dell’umano contro la macchina una questione politica viva, non un esercizio accademico.

Il documento del Papa non cambierà da solo la traiettoria dello sviluppo dell’IA. Ma fa qualcosa di importante: stabilisce, con l’autorità morale di un’istituzione che parla a più di un miliardo di persone, che difendere l’umano nell’era dell’IA non è una posizione reazionaria né marginale. È, per usare il linguaggio di questa pubblicazione, l’avanguardia.

L’argomento per organizzarsi non è mai stato più forte. Quel lavoro sta cominciando.