Papa Francesco: "algoritmi rischiano di distorcere le informazioni", no al "sistema tecnocratico" e alla "dittatura tecnologica"

“La grande quantità di dati analizzati dalle intelligenze artificiali non è di per sé garanzia di imparzialità”. Ne è convinto il Papa, che nel Messaggio per la Giornata mondiale della pace osserva: “Quando gli algoritmi estrapolano informazioni, corrono sempre il rischio di distorcerle, replicando le ingiustizie e i pregiudizi degli ambienti in cui esse hanno origine. Più diventano veloci e complessi, più è difficile comprendere perché abbiano prodotto un determinato risultato”. “Le macchine ‘intelligenti’ possono svolgere i compiti loro assegnati con sempre maggiore efficienza, ma lo scopo e il significato delle loro operazioni continueranno a essere determinati o abilitati da esseri umani in possesso di un proprio universo di valori”, fa notare Francesco, secondo il quale “il rischio è che i criteri alla base di certe scelte diventino meno chiari, che la responsabilità decisionale venga nascosta e che i produttori possano sottrarsi all’obbligo di agire per il bene della comunità”. Per il Papa, “ciò è favorito dal sistema tecnocratico, che allea l’economia con la tecnologia e privilegia il criterio dell’efficienza, tendendo a ignorare tutto ciò che non è legato ai suoi interessi immediati”: di qui la necessità di riflettere sul “senso del limite, un aspetto tanto spesso trascurato nella mentalità attuale, tecnocratica ed efficientista, quanto decisivo per lo sviluppo personale e sociale” e di dire no alla “dittatura tecnologica”.
M.Michela Nicolais