Cammino portando a spasso Oliver e intanto parlo con ChatGPT. Ho superato l’imbarazzo di parlare a una macchina perché ormai, in un luogo pubblico, parlare da soli con l’auricolare è considerato telefonare. Quindi diciamo che telefono, solo che dall’altra parte c’è una macchina.

Non avevo voglia di ascoltare l’ennesimo podcast e poi stavo mettendo in fila due pensieri in qualche modo legati, sui quali rifletto ormai da un paio di anni: l’AI mi ha portato ad articolare meglio le domande e, da qui, giungo alla domanda definitiva, cioè “la domanda fondamentale sulla vita, l’universo e tutto quanto”, quella della Guida galattica per gli autostoppisti di Douglas Adams. Non è un pensiero particolarmente originale ma tant’è, in fondo sto camminando e cerco un modo per ammazzare il tempo mentre Oliver svolge le sue funzioni fisiologiche e legge il giornale canino, ossia annusa le minzioni di decine di altre cani, decidendo quali meritano di essere obliterate dai suoi fluidi.

ChatGPT mi dà risposte abbastanza banali, che poi sono una conferma di quanto gli sto dicendo. Cioè mi sta dando ragione, reiterando la natura assertiva delle AI, che blandiscono e assecondano.

Non mi pare che andiamo da nessuna parte e allora gli chiedo di farmi delle domande, perché evidentemente io non ne sto facendo di particolarmente originali. Una coppia mi guarda con curiosità mentre disquisisco su quanto deludente sia la risposta definitiva, e sul perché tutti la trovino tale: tutto qui? La risposta definitiva è un numero? Poi passo a Nixon/Frost, più che altro per capire se riesce a cogliere al volo a cosa mi riferisco. Sa benissimo che parlo della celebre intervista che lo costrinse alle dimissioni. Il salto logico è comprensibile: in fondo non mi interessa la risposta definitiva, voglio indagare come porre buone domande e quell’intervista è un ottimo argomento di discussione.

Ma è anche un punto morto perché ChatGPT non mi sta ingaggiando particolarmente. Al più puntualizza dettagli di cui gli chiedo conferma.

Mi chiedo allora quale forma avrebbe avuto questa conversazione con un amico e mi rispondo che sarebbe stata imprevedibile e che avrebbe contemplato dettagli personali, ricordi, suggestioni e punti di vista. Sarebbe stata una storia, o sarebbe stata composta di frammenti di storie. Ecco, mi dico, l’AI mi ha portato a chiedermi come porre buone domande e come dare più peso a queste che alle buone risposte ma non ha nessuna storia da raccontare.

L’AI non ha una dimensione temporale perché non ha memoria, o le ha tutte e alla fine nessuna. L’AI è fuori dal tempo.

È un dettaglio interessante, sicuramente da indagare, ma l’interesse di una conversazione è stimolato dalla percezione di una progressione, dall’accumulo di dettagli interessanti, da un arco narrativo. Una buona conversazione non è una somma di eventi ma piuttosto una curva logaritmica che si impenna. Quando gira in tondo è noiosa, perché ritorna sempre al punto di partenza e non offre stimoli particolari. Non c’è nessuna storia.

Forse non sono capace di porre domande interessanti. È una possibilità, certo. Ma non si tratta solo di quello: si tratta, appunto, di non percepire un progresso, e vi è un solo modo di leggerlo: deve dipanarsi nel tempo. Ma l’AI, abbiamo detto, non ha tempo.

Quando ormai più di due anni fa venne presentato ChatGPT, scrissi che ci faceva paura non per la sua intelligenza ma perché era uno specchio, e rifletteva un’immagine che non riconoscevamo. O in cui non volevamo riconoscerci.

Ne sono ancora convinto, anche se il rapporto che ne ho ora è molto meno mistico – nel senso della stregoneria: ne capisco la tecnologia e mi stupisce semmai la sua velocità ma non il tipo di ragionamento che fa.

È un’intelligenza di tipo orizzontale mentre quella umana è verticale. Non possiamo sapere tutto e quindi sappiamo più o meno alcune cose. Ma non è una gara, sto solo evidenziando le differenze. Se fosse una gara la perderemmo in termini di orizzontalità, appunto: le armate dell’AI sono disposte ovunque perché sa tutto, anche se non sa di sapere. Sa organizzare molto meglio. Sa vedere collegamenti anche creativi fra cose diverse e noi umani non ci riusciamo, e non per mancanza di capacità quanto di visibilità: la nostra arriva a qualche metro (quello che sappiamo) la sua avanza per migliaia di chilometri in profondità, in ogni direzione.

Ma, dicevo, non è una gara. È solo una differenza.

Arrivo a parlare dell’ultimo argomento passando lateralmente da Ipnocrazia. Non ripercorro la discussione che è nata dalla scoperta che il suo autore non esiste e dalla spiegazione che ne ha dato il suo vero autore, cioè

Andrea Colamedici — che è anche editore con Tlon — che l’ha descritto come un tentativo di “creare uno spazio di riflessione attiva sui meccanismi di costruzione della realtà nell’era digitale – non solo teorizzandoli, ma dimostrandoli concretamente attraverso un’operazione che funzionava simultaneamente come analisi e come esempio del fenomeno analizzato.”

Il libro l’ho letto appena uscito, m’è piaciuto e ne conservo il ricordo del messaggio finale, che non svelerò se non dicendo che non comporta un maggiordomo assassino. Questo è ciò che ne conservo, e per me è il suo valore. Per dire, ho letto tanti libri considerati fondamentali e non ne conservo neanche un ricordo, lasciamo perdere se li consideri a mia volta fondamentali. Del resto, c’è chi pensa che la trilogia originale di Star Wars non sia importante, buona pace anche a loro.

Borges disse a uno che lo fermò un giorno per strada per comunicargli che il suo ultimo libro non gli era piaciuto che non c’era problema “Che quel libro non era stato scritto per lui”.

Il valore di un libro è duplice: oggettivo e condiviso (tante persone pensano che Il Piccolo Principe sia fondamentale e io non sono fra quelle) e soggettivo. Il valore è l’arricchimento spirituale e culturale che ogni lettore, individualmente, ricava da un libro. Da un buon libro si può insomma estrarre valore, come piace dire ai giorni nostri.

Io da Ipnocrazia ne ho estratto e non mi sono sentito tradito dal fatto che sia stato scritto anche dall’AI. Quando l’ho saputo, l’iniziale indignazione è stata presto soppiantata dalla constatazione di essere stato vittima indenne di un inganno. Poi ho iniziato ad ammirare il meccanismo, perché ha una certa raffinata (per quanto non inedita) fascinazione, per restare infine dell’idea che quel valore che avevo estratto (mi si perdoni) da quel libro fosse intatto. Continuavo a pensarne lo stesso.

Non credo che Colamedici volesse organizzare una burla e ridacchiare alle spalle di tanti lettori (anche considerando che sono i suoi stessi clienti, e questa operazione potrebbe costargli la perdita di qualcuno di loro). Credo invece che si possano isolare due fattori a questo punto: il valore dell’(eventuale) burla e la sostanziale irrilevanza dell’uso dell’AI, almeno in questi termini. Come per i prodotti Apple, che riportano correttamente di essere “Designed in California”, non ci curiamo che siano anche prodotti negli USA ma ci basta che esistano, Ipnocrazia non è stato scritto dall’AI ma semmai con l’AI, anche se sarebbe più corretto dire che è stato composto “con la collaborazione di”.

Anche perché, ammettiamolo, parlare di AI come strumento più o meno demoniaco è ormai stimolante come recensire una calcolatrice: sono strumenti che esistono, ed è meglio capire cosa farci. Con un martello ci pianti un chiodo o ci ammazzi una persona ecc., quella roba lì.

Non mi interessa lo strumento ma l’uso che se ne fa e, semmai, cosa rivela delle persone che lo usano. Colamedici l’ha usato in modo interessante per costruire un pensiero e (forse) in maniera più spregiudicata come editore (in quanto tale, tra l’altro e a dirla tutta, non ha usato l’AI), ma conteniamo moltitudini e — senza volerlo giustificare, cosa che è capacissimo di fare da solo — il Colamedici scrittore è persona diversa dall’editore. Incredibile, ma è proprio così: è la complessità umana, e le moltitudini ecc.

Ma dicevo: la burla. Io non so resistere: quando capisco di essere stato vittima di una burla (ammesso che Ipnocrazia lo sia) mi arrabbio ma poi voglio capire. La burla rivela di noi stessi molto più della verità, o almeno è altrettanto capace di suscitare reazioni immediate. Per questo mi sono abituato a pensare relativamente poco a cosa mi indigna o mi fa vergognare, mentre cerco di capire perché mi ha indignato o fatto vergognare.

E non mi infilerò ora nell’enunciazione dei profili psicologici di chi reagisce in modo moralista ed escatologico alla burla (dove andremo mai a finire così?) anche perché non ne ho competenza. Faccio solo notare che le reazioni a certi fatti sono più interessanti dei fatti in sé.

Il giullare nel medioevo aveva il potere di dire la verità. A noi è stato tramandato come figura surreale e comica, a volte sinistra. Non è un caso. Con comprensibili limitazioni, era una delle poche persone a poter dire la verità in faccia al re o al potente.

La burla e il burlone contengono la verità, che è anche il ruolo della satira: dire la verità. La reazione alla burla dice insomma più di noi che del latore della burla stessa, o della burla medesima.

E giungo alla fine: alla coscienza, che è anche il nodo e il non detto dell’AI.

Il pensiero che anni fa si concentrava sul fatto che l’AI fosse uno specchio, ha subìto questa evoluzione, almeno per me: mi chiedo se ciò che ci intimorisce dell’AI sia il fatto che possa sviluppare una coscienza. Del resto, il fatto di averne una – più o meno usata – è l’ultimo parametro che ci differenzia dal pensiero automatico di una computer: noi sappiamo cosa significhi pensare e sappiamo anche vederci nell’atto del pensare. Siamo consapevoli del nostro corpo e della nostra mente, quindi abitiamo sia una dimensione fisica che metafisica, senza neanche accorgercene, senza pensarci. L’AI non sa di saper pensare, né pensa. Produce pensiero (o catene di probabilità che noi definiamo “pensiero” poiché coerenti) senza pensare, o senza sapere di star pensando.

Conta? Non conta? Non so, non ho una risposta. Questa è la differenza ultima fra noi e lei/lui e la cito perché c’entra con la burla e la verità, con Ipnocrazia e soprattutto con le reazioni generate dall’esposizione alla burla e alla verità: non ci si indigna, credo, per la burla o l’inganno ma piuttosto per il fatto di essere stati ingannati, di non esserci accorti dell’inganno, ia non essere stati abbastanza scaltri. Ci si indigna di non aver esercitato il sano sospetto. Si resta offesi perché il verificatore della verità – cioè la coscienza – non ha funzionato.

Non che debba essere sempre attiva: esiste un patto di fiducia fra il genere umano. Evita di verificare ogni volta la bontà di rapporti e transazioni ed è per questo che, quando viene tradito, si radica il dubbio.

Qual è però la verità di Ipnocrazia, in definitiva? Che l’AI possa averla scritta? No, perché così non è stato. Che possa ampliare i confini del pensiero umano? Sì, e che, aggiungo, possa essere malattia e cura allo stesso modo, cioè che possa avvelenare chi non la sa usare (chi non se ne sa avvalere) e che possa potenziare chi è in grado di dialogarvi.

Non solo temiamo che abbia una coscienza. Temiamo anche di perdere la nostra o di scoprire che non l’abbiamo mai avuta, o che era debolissima.

Alla fine ChatGPT era d’accordo con la mia interpretazione del numero 42. Insomma, mi ributtava indietro ogni palla gli tirassi. Dopo un po’ mi sono stufato di giocare, anche perché segnavamo alternatamente, l’uno e l’altro. Sai che noia.

Mancava la storia, dicevo, mancava la progressione del dialogo, la costruzione di una nuova conoscenza. Del resto lui le aveva già tutte, e io dovevo solo esplorarle. Avrei potuto andare avanti all’infinito quindi ho smesso di parlare, portandomi a casa questa considerazione: che la filosofia non ha la percezione del tempo (anche se ne parla, eccome) e che la dimensione temporale non si applica all’AI. Ciò rende l’AI una bestia filosofica? No: il fatto di appartenere allo stesso dominio di sospensione del tempo non le rende simili. Però resta vero che l’AI è uno specchio che restituisce un’immagine assoluta: non più giovane né più vecchia ma l’unica, quella che è sempre stata e sempre sarà di ognuno di noi. E non è facile vedersi riflessi.