“Più potente non significa necessariamente migliore”. Ne è convinto il Papa, che nel terzo capitolo della Magnifica Humanitas stigmatizza, sulla scia del suo predecessore, il paradigma tecnocratico, invocando “un discernimento sulla visione antropologica che lo guida e sui fini che persegue”. “Quando un potere di tale portata si concentra in poche mani, tende a farsi opaco e a sfuggire al controllo pubblico, e cresce il rischio di uno sviluppo distorto, che genera nuove dipendenze, esclusioni, manipolazioni e disuguaglianze”, il grido d’allarme di Leone XIV. Se è vero che l’intelligenza artificiale e le nuove tecnologie semplificano le nostre vite, è altrettanto vero che “possono anche abituarci a delegare troppo e a cercare risposte pronte, indebolendo il giudizio personale e la creatività. L’impressione di oggettività che le risposte e le proposte di questi sistemi possono suscitare rischia di farci dimenticare che esse riflettono i dati con cui sono addestrati, con tutti i loro pregi e difetti, e i parametri culturali di chi li ha progettati”. No, allora, ad “usi evidentemente antiumani” dell’intelligenza artificiale: “Il discernimento etico – la raccomandazione – non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che la guidano”.