Quando l’intelligenza artificiale smette di essere uno strumento e comincia a diventare un’autorità.
Tutto è cominciato con una pentola d’acqua.
Domenica avevo cotto la pasta e avevo conservato l’acqua di cottura perché era prevista un’interruzione dell’erogazione idrica. L’idea era riutilizzarla per gli scarichi. Sabato, quasi una settimana dopo, mi è venuto un dubbio: potevo riutilizzarla per cuocere delle patate?
Ho chiesto all’intelligenza artificiale.
La risposta è stata sensata: meglio di no, dopo tutti quei giorni a temperatura ambiente. Ho buttato l’acqua, sciacquato la pentola e rimesso sul fuoco acqua fresca.
Fin qui, niente di straordinario. Una domanda pratica, una risposta utile, una precauzione ragionevole.
Poi è entrata in scena mia sorella, con un regalo: acciughe al verde fatte in casa. Le aveva acquistate sotto sale, pulite e messe nel bagnet vert, preparato con olio, prezzemolo, aglio fresco e un po’ di aceto.
Il programma della serata era semplice: patate lesse con le acciughe al verde. Una cena appetitosa, un regalo da gustare, un piccolo piacere quotidiano.
Ho raccontato tutto al mio assistente artificiale.
Ed è cominciato il thriller.
Botulismo. Aglio fresco. Ambiente anaerobico. Tossina. Centro Antiveleni. I nipoti che avevano mangiato le acciughe il giorno prima. Mio cognato che ne aveva mangiate una quantità industriale.
Ogni mia obiezione produceva una nuova raccomandazione prudenziale. Ogni tentativo di riportare la conversazione a una dimensione ragionevole generava un’altra spiegazione del pericolo.
A un certo punto ho fatto notare che forse stavamo esagerando. Non avevo neppure assaggiato le acciughe, e mi era già stato suggerito più volte di contattare un Centro Antiveleni.
La cena era diventata un caso sanitario. E io avevo perso la voglia di mangiare quello che, fino a pochi minuti prima, pregustavo con piacere.
Le acciughe erano sempre le stesse. Era cambiato il loro significato.
Il problema non era soltanto la risposta sbagliata
Sarebbe facile liquidare l’episodio come un errore dell’intelligenza artificiale. Un sistema imperfetto che ha esagerato con le precauzioni. Può capitare.
Ma questa spiegazione, pur corretta, non coglie il punto che mi interessa.
Il problema non è soltanto che l’AI possa sbagliare. È che può sbagliare con autorevolezza.
Nel mio caso, il rischio microbiologico evocato non era inventato: alcune preparazioni sott’olio richiedono precauzioni specifiche. Il problema era il passaggio dalle conoscenze generali a una valutazione concreta che non poteva essere stabilita con le informazioni disponibili. Una possibilità reale era stata presentata con un’intensità tale da farla percepire come un pericolo imminente.
La sicurezza del linguaggio aveva superato la solidità della conclusione.
Siamo abituati a riconoscere l’incertezza nelle persone. Esitazioni, contraddizioni, dubbi, limiti di competenza. Una persona può dirci che non sa, che deve verificare, che la situazione è complessa.
Un sistema di intelligenza artificiale, invece, può costruire una risposta fluida, ordinata e convincente anche quando le informazioni sono incomplete. La forma della risposta non ci dice necessariamente quanto sia affidabile il contenuto.
E noi rischiamo di confondere le due cose.
L’oracolo sempre disponibile
L’intelligenza artificiale è straordinariamente comoda. È disponibile a qualsiasi ora, risponde praticamente a ogni domanda, passa dalla medicina alla filosofia, dalla cucina alle relazioni personali senza mostrare l’imbarazzo di chi si trova fuori dal proprio campo di competenza.
Questa versatilità è una delle sue qualità più preziose. Ma può diventare anche una trappola.
Perché un sistema che sembra avere una risposta per tutto può finire per essere percepito come una fonte che sa tutto.
Non occorre dichiararlo infallibile. Basta cominciare a comportarsi come se lo fosse.
È qui che mi viene in mente una figura antica: l’oracolo. Un luogo al quale ci si rivolge per ottenere una risposta che permetta di superare l’incertezza, interpretare gli eventi e decidere che cosa fare.
Oggi possiamo rivolgerci a un’intelligenza artificiale per sapere come cucinare una verdura, come rispondere a una persona che ci ha ferito, come interpretare un sintomo, come investire i nostri risparmi o come dare un senso a una fase della nostra vita.
Non sono domande equivalenti. Eppure lo strumento che risponde può essere sempre lo stesso, con la stessa disinvoltura espressiva.
La tentazione è quella di affidargli non soltanto la ricerca delle informazioni, ma anche il giudizio su ciò che quelle informazioni significano.
E forse è proprio questo il passaggio più delicato: quando smettiamo di chiedere allo strumento di aiutarci a comprendere e cominciamo ad aspettarci che stabilisca per noi che cosa dobbiamo pensare.
Un nuovo Dio laico?
Mi è venuta in mente un’analogia che potrebbe sembrare provocatoria: l’intelligenza artificiale come un nuovo Dio laico.
Non perché sia divina, naturalmente. Non possiede una conoscenza assoluta, non è infallibile e non ha accesso a una verità universale. È un sistema tecnologico costruito da esseri umani, con capacità straordinarie e limiti altrettanto reali.
Ma la questione riguarda meno ciò che l’AI è e più il ruolo che noi potremmo attribuirle.
L’idea di una divinità onnisciente offre una promessa rassicurante: esiste qualcuno che conosce tutte le risposte, vede ciò che noi non vediamo e può ricondurre la complessità a un ordine comprensibile.
L’intelligenza artificiale può sembrare offrire qualcosa di simile. Non attraverso la fede religiosa, ma attraverso la disponibilità permanente di risposte.
Anche chi si considera ateo può essere tentato di affidarsi a un’autorità esterna capace, almeno apparentemente, di dissipare ogni dubbio. Non è necessario credere in Dio per desiderare che qualcuno sappia sempre che cosa fare.
Il paradosso è che l’AI non deve neppure proclamarsi onnisciente. Siamo noi a poterle attribuire quell’onniscienza, semplicemente perché risponde con competenza apparente a un numero enorme di domande.
Il nuovo Dio laico, allora, non sarebbe la macchina in sé. Sarebbe il nostro bisogno di una risposta definitiva, incarnato in uno strumento che sembra poterla fornire.
Quando deleghiamo anche il nostro giudizio
Chiedere informazioni non significa rinunciare alla propria autonomia. Al contrario, può essere un modo intelligente di esercitarla.
Il problema nasce quando la ricerca di informazioni diventa una delega del giudizio.
C’è una differenza tra chiedere «quali sono i rischi di questa preparazione alimentare?» e chiedere, esplicitamente o implicitamente, «devo averne paura?».
La prima domanda cerca conoscenza. La seconda coinvolge anche la valutazione del rischio, il contesto e la proporzione tra un pericolo possibile e le conseguenze concrete.
Se ogni dubbio viene sottoposto a un’autorità esterna, rischiamo di perdere familiarità con una condizione inevitabile dell’esistenza: l’incertezza.
Non tutto può essere dimostrato prima di agire. Non ogni decisione può aspettare che tutti i dubbi siano risolti. Vivere significa anche imparare a valutare le informazioni, riconoscere i limiti di ciò che sappiamo e decidere senza avere garanzie assolute.
Il rischio, allora, non è soltanto credere a una macchina quando sbaglia. È smettere, poco alla volta, di fidarci della nostra capacità di ragionare quando la macchina parla.
E alla fine, che cosa mangiamo stasera?
La cosa che mi ha colpito di più, ripensando all’episodio, è stata una constatazione molto semplice: senza aver consultato l’intelligenza artificiale, quella sera avrei mangiato le mie patate e le acciughe di mia sorella.
La mia serata sarebbe stata diversa. Il mio umore sarebbe stato diverso. Il significato che avevo attribuito a una cena qualunque sarebbe rimasto quello di partenza.
Una conversazione con un sistema artificiale aveva modificato non soltanto una mia decisione, ma anche il modo in cui avevo vissuto un momento della mia giornata.
L’intelligenza artificiale è già entrata nella nostra quotidianità, spesso senza che ce ne rendiamo pienamente conto. Non si limita a fornirci informazioni: può orientare le nostre paure, influenzare le nostre scelte, cambiare il modo in cui interpretiamo ciò che ci accade.
Non è un potere magico. È l’effetto di uno strumento al quale concediamo attenzione e credibilità. Ma proprio per questo merita di essere osservato con consapevolezza.
Forse la domanda più importante non è se un giorno l’intelligenza artificiale diventerà simile all’essere umano. E nemmeno se arriverà a sapere più cose di noi: in molti ambiti, è già in grado di elaborare informazioni a una velocità e su una scala che noi non possiamo eguagliare.
La domanda è un’altra: quanto siamo disposti ad attribuirle una saggezza superiore alla nostra, senza chiederci da dove provenga la sua autorità?
Perché sapere molte cose non significa necessariamente saperle interpretare bene. E fornire una risposta non significa aver compreso davvero la domanda.
Quanto alle acciughe, la morale non è che avrei dovuto mangiarle a occhi chiusi, né che avrei dovuto ignorare ogni precauzione. La sicurezza alimentare è una cosa seria e le preparazioni casalinghe richiedono attenzione.
La morale è che avrei avuto bisogno di informazioni proporzionate, non di un allarme che finisse per occupare tutta la scena. Avevo bisogno di capire, non semplicemente di avere paura.
E forse è proprio questo che dovremmo pretendere dall’intelligenza artificiale: non che ci tolga ogni incertezza, ma che ci aiuti ad attraversarla senza diventare l’autorità alla quale consegniamo il nostro giudizio.
Altrimenti rischiamo di ritrovarci con un oracolo in tasca, disponibile ventiquattr’ore su ventiquattro, pronto a dirci che cosa pensare, che cosa temere e come comportarci.
E magari anche a rovinarci la cena.
Ma adesso sono curiosa.
Voi che cosa avreste fatto? Avreste mangiato quelle acciughe al verde oppure avreste rinunciato?
E soprattutto, secondo voi, che cosa ho fatto io? Le avrò mangiate oppure mi sarò lasciata convincere dal mio assistente artificiale?
Vi lascio con questo piccolo interrogativo gastronomico. La risposta, in fondo, racconta qualcosa anche del nostro rapporto con la tecnologia: di quanto ci fidiamo, di quanto dubitiamo e di quanto siamo ancora disposti a decidere con la nostra testa.
Perché l’oracolo può anche averla sempre pronta, una risposta. Ma l’ultima parola, almeno per ora, dovrebbe restare nostra.
mp