“Allineare gli interessi di chi costruisce questi sistemi al bene pubblico e al bene comune è il compito più decisivo”. Eli Pariser, autore di The Filter Bubble e co-direttore di New_ Public, organizzazione statunitense che studia e progetta spazi digitali capaci di sostenere la vita civile, legge per il Sir la prima enciclica di Papa Leone XIV, Magnifica humanitas, firmata il 15 maggio e dedicata alla custodia della persona umana nel tempo dell’intelligenza artificiale. Dalla personalizzazione spinta dell’IA generativa alle immagini di Babele e Gerusalemme, dall’opacità delle logiche che governano i modelli alla possibilità di un’economia diversa: il magistero a confronto con lo sguardo di uno dei più noti critici delle piattaforme.
Anni fa lei ha coniato l’espressione “filter bubble”. Con i sistemi generativi siamo davanti a una bolla di nuovo tipo o a qualcosa di ancora più radicale?
L’IA generativa consente un livello di personalizzazione dell’informazione che non avrei mai immaginato quando scrivevo The Filter Bubble. L’intelligenza artificiale può attingere a un contesto personale profondissimo – le mail, la musica che ascoltiamo, i documenti, le identità che assumiamo, il modo in cui interagiamo – per cucire i contenuti su misura delle nostre convinzioni e del nostro carattere. E può farlo in modo interattivo, giorno dopo giorno.
Il rischio è che queste tecnologie, se costruite per compiacerci, per assecondarci, finiscano per deformare ciò che sappiamo.
E se qualcuno se ne impossessa per orientarci, o se interessi economici le usano per venderci qualcosa, la loro capacità di persuasione può essere enorme.
Magnifica humanitas non si chiede anzitutto se l’intelligenza artificiale sia buona o cattiva, ma quale idea di persona sia incorporata nella tecnologia. È il punto di partenza giusto?
Penso proprio di sì. Quando si parla di tecnologia, protagonista è quasi sempre la tecnologia stessa. L’enciclica invece chiede di rimettere al centro l’umanità e di domandarsi: in che modo tutto questo ci serve? Molti temono, e con buone ragioni, che questi strumenti non siano davvero pensati per le persone: per migliorare le nostre vite, rendere più pieno il nostro lavoro, avvicinare le nostre famiglie. Chiedersi per chi siano, a che cosa mirino e quale idea di umanità abbiano in mente mi sembra un ottimo punto di partenza.
Papa Leone XIV ricorre a due immagini: Babele e Gerusalemme. Da una parte la tecnica come dominio e uniformità, dall’altra la ricostruzione come responsabilità condivisa. Questo schema può parlare anche a chi non ha una prospettiva religiosa?
Per me queste metafore sono nuove, eppure le ho trovate vivide e convincenti. Anche perché raccontano entrambe un’impresa umana, un cantiere, che prende però due direzioni opposte: una centralizzata e dominatrice, l’altra decentrata e condivisa. Nel nostro lavoro ci imbattiamo continuamente in queste due tendenze. Ho passato molto tempo a riflettere sui social media e una delle mie critiche è che non esiste un algoritmo capace di funzionare per miliardi di persone e milioni di comunità in tutto il mondo. La società umana è troppo varia, troppo plurale, troppo sfaccettata.
Servono sistemi governati da chi li abita, costruiti dal basso come Gerusalemme, non progettati dal centro come Babele.
Cominciamo a vederlo in realtà come Bluesky o in servizi come Signal, nati su protocolli aperti e guidati da valori pubblici, non privati. Credo che questo modo di fare tecnologia, il modo di Gerusalemme, stia prendendo slancio.
Lei ha sostenuto che molte piattaforme digitali non nascono per servire la collettività ma per la pubblicità, il profitto e l’engagement. L’IA rischia di replicare lo stesso modello?
Di certo è la strada che stiamo percorrendo. Le grandi aziende del settore – Anthropic, OpenAI, Google – hanno speso miliardi di dollari, spesso denaro di altri, e chi lo ha investito si aspetta di rivederlo. Lo recupereranno estraendo valore dagli utenti, ed è lì che i prodotti digitali cominciano a guastarsi.
Ma tengo a dirlo: non è un destino.
Non c’è nulla, in questa tecnologia, che la obblighi a reggersi sulla pubblicità o sul profitto. Anzi, sta crescendo un ecosistema open source che propone modelli economici molto diversi. Come andrà a finire non lo sappiamo ancora, ed è importante custodire la consapevolezza che davanti a noi c’è un bivio. La scelta su come costruire questi sistemi, e su come inserirli nell’economia, non è ancora stata fatta.
Alla presentazione dell’enciclica il Papa ha chiesto che questa tecnologia sia “disarmata”, “liberata dalle logiche che la trasformano in uno strumento di dominazione, esclusione e morte”. Che cosa va disarmato per primo: le macchine, gli incentivi economici che le sostengono o il modo in cui plasmano il linguaggio pubblico?
Gli incentivi economici: nel mondo tecnologico sono il vero motore. È lì che i social media sono deragliati, quando hanno cominciato a monetizzare con la pubblicità e a trasformare i dati personali in un’arma per vendere. Allineare gli interessi di chi costruisce questi sistemi al bene pubblico e al bene comune è il compito più decisivo.
Se dovesse indicare una scelta concreta per orientare gli algoritmi verso la verità, la dignità umana e il bene comune, quale sarebbe?
Mi interessa molto aiutare le persone a capire e a verificare gli incentivi che stanno dietro all’intelligenza artificiale che usano.
Oggi è tutto opaco: non è chiaro perché un servizio di IA mi stia mostrando una cosa piuttosto che un’altra.
Non so se qualcuno mi stia manipolando, come siano stati raccolti ed elaborati i dati che alimentano il modello, chi stia cercando di persuadermi o di influenzarmi. Rendere più trasparente come questi sistemi sono fatti, quali logiche li muovono e con quale intenzione, mi pare il modo migliore per cominciare.
