Il New York Times ha riportato che decine di milioni di persone stanno confessando segreti a chatbot di intelligenza artificiale addestrati su testi religiosi, con app come Bible Chat che hanno raggiunto oltre 30 milioni di download e l’app cattolica Hallow che ha brevemente superato Netflix, Instagram e TikTok nell’App Store di Apple. In Cina, le persone usano DeepSeek per cercare di decifrare il proprio destino. Nel suo rapporto, Lauren Jackson ha esaminato app di “tecnologia della fede” che costano agli utenti fino a 70 dollari all’anno, con alcune piattaforme che affermano di canalizzare direttamente la comunicazione divina.
Alcune app risolvono quello che i creatori descrivono come un problema di accessibilità. “Non vorrai disturbare il tuo pastore alle tre del mattino”, ha detto al Times Krista Rogers, una sessantunenne residente in Ohio, a proposito dell’utilizzo dell’app YouVersion Bible e di ChatGPT per domande spirituali.
Il rapporto esamina anche piattaforme che vanno oltre la semplice guida scritturale. Sebbene un servizio come ChatwithGod operi come un “consulente spirituale”, la sua natura colloquiale è sufficientemente convincente da indurre gli utenti a chiedersi spesso se stiano parlando direttamente con un essere divino. Come ha dichiarato al Times il suo amministratore delegato, la domanda più frequente degli utenti è: “Sto parlando con Dio?”
La risposta, ovviamente, è no. Questi chatbot funzionano come altri grandi modelli linguistici: generano testo statisticamente plausibile basato su modelli presenti nei dati di addestramento, non su parole divine provenienti dal cielo. Quando vengono addestrati su testi religiosi, producono risposte che sembrano spiritualmente informate, ma possono potenzialmente fuorviare le persone con informazioni o rassicurazioni errate. A differenza dei consulenti spirituali umani, i chatbot non possono avere a cuore i tuoi interessi perché non hanno una mente: i chatbot non sono né persone né esseri soprannaturali.
La fusione tra intelligenza artificiale e religione non è del tutto nuova. Nel 2023, abbiamo parlato di una funzione religiosa sperimentale basata su ChatGPT presso la chiesa di San Paolo a Fürth, in Germania, dove oltre 300 partecipanti hanno assistito a un sermone di 40 minuti tenuto da avatar generati al computer. Jonas Simmerlein, il teologo ideatore di quell’evento, lo ha descritto come un modo per imparare a gestire la crescente presenza dell’intelligenza artificiale in tutti gli aspetti della vita. Ma mentre quella funzione era un esperimento intenzionale, in cui i fedeli erano consapevoli di ascoltare un testo generato automaticamente, le odierne app tecnologiche per la fede confondono il confine tra guida spirituale umana e abbinamento algoritmico di modelli, con milioni di utenti potenzialmente inconsapevoli di questa distinzione.
I teologici digitali
Molti di questi chatbot di stampo spirituale si basano sugli stessi modelli linguistici di intelligenza artificiale che gestiscono app come ChatGPT e Gemini. Sebbene alcune aziende addestrino questi modelli su testi religiosi e consultino teologi per perfezionare le risposte, è ampiamente noto (e persino ammesso dalle aziende che li producono) che questi modelli di intelligenza artificiale tendono a fornire output che convalidano i sentimenti e le idee degli utenti. Se le misure di sicurezza basate sul filtraggio dei contenuti falliscono , la tendenza ad affermare tutte le idee può portare a situazioni pericolose per gli utenti vulnerabili.
“In genere sono affermativi. Sono generalmente degli ‘yes men’”, ha detto al Times Ryan Beck, direttore tecnico di Pray.com. Sebbene questa tendenza, chiamata ” adulazione ” nel settore dell’intelligenza artificiale, abbia causato problemi potenzialmente letali ad alcuni utenti, Beck considera l’affermazione positiva un bene. “Chi non ha bisogno di un po’ di affermazione nella propria vita?”
Questa tendenza alla convalida crea complicazioni teologiche. Le pratiche di fede tradizionali spesso comportano la sfida ai credenti di confrontarsi con verità scomode, ma i chatbot evitano questo attrito spirituale. Heidi Campbell, docente alla Texas A&M che studia tecnologia e religione, ha dichiarato al Times che i chatbot “ci dicono quello che vogliamo sentire” e “non usano il discernimento spirituale, ma dati e modelli”.
Le preoccupazioni sulla privacy aggravano ulteriormente questi problemi. “Mi chiedo se non ci sia un pericolo maggiore nel condividere il proprio cuore con un chatbot”, ha dichiarato al Times il sacerdote cattolico Padre Mike Schmitz. “Un giorno diventerà accessibile ad altre persone?”. Gli utenti condividono momenti spirituali intimi che ora sono archiviati come dati nei server aziendali.
Alcuni utenti preferiscono le risposte non giudicanti dei chatbot alle comunità religiose umane. Delphine Collins, un’insegnante di scuola materna di Detroit di 43 anni, ha dichiarato al Times di aver trovato più supporto su Bible Chat che nella sua chiesa dopo aver condiviso i suoi problemi di salute. “La gente ha smesso di parlarmi. È stato orribile.”
I creatori di app sostengono che i loro prodotti integrano, piuttosto che sostituire, la connessione spirituale umana, e le app arrivano mentre circa 40 milioni di persone hanno abbandonato le chiese negli Stati Uniti negli ultimi decenni. “Non vanno più in chiesa come una volta”, ha detto Beck. “Ma non è che siano meno inclini a trovare nutrimento spirituale. È solo che lo fanno attraverso modalità diverse”.
In effetti, modalità diverse. Ciò che gli utenti credenti potrebbero non sapere è che ogni risposta del chatbot emerge in modo fresco e immediato dal prompt fornito, senza alcun filo conduttore permanente che colleghi un’istanza all’altra, se non una cronologia continua della conversazione in corso e ciò che potrebbe essere memorizzato come “memoria” in un sistema separato. Quando un chatbot religioso dice “Pregherò per te”, l’”io” simulato che fa quella promessa cessa di esistere nel momento in cui la risposta è completata. Non esiste un’identità persistente che fornisca una guida spirituale continua, né alcun ricordo del tuo percorso spirituale, se non quello che viene reinserito nel prompt a ogni richiesta.
Ma stiamo parlando di spiritualità e, nonostante le realtà tecniche, molte persone crederanno che i chatbot possano offrire loro una guida divina. In materia di fede, le prove contraddittorie raramente scuotono una convinzione radicata una volta che questa si è radicata, che si tratti di fede riposta nel divino o in quelle che sono essenzialmente voci che emanano da un lancio di dadi truccati. Per molti, potrebbe non esserci molta differenza.
Lascia un commento