Eremo occulto dove possiamo studiare fino in fondo il libro tormentato di ciò che abbiamo fatto e ancora possiamo fare. Un introcosmo che è più di me di ciò che io posso trovare in uno specchio. Questa coscienza, che è il mio me stesso più segreto, che è ogni cosa eppure non è nulla di nulla, che cos’è? E da dove venne? E perché?
Julian Jaynes – Il crollo della mente bicamerale e la nascita della coscienza
La coscienza è un problema che non riusciamo a risolvere. Potremmo rievocare Cartesio con la sua indubitabile certezza del cogito ergo sum, oppure esplorare il claustro, il punto di raccolta delle aeree cerebrali superiori, individuato dai ricercatori come possibile sede della nostra coscienza. E continuare a ragionare, ragionare, ragionare, sul cosa, il dove, il perché, per concludere infine che non ne sappiamo molto. Senza comprendere la coscienza, non possiamo imitarla, e il sogno di creare un’intelligenza artificiale generale, ovvero un’IA in grado di imitare completamente l’intelligenza dell’uomo, resta solamente un sogno, o forse la speranza che qualcosa di tanto misterioso possa emergere spontaneamente per puro caso.
Spesso, i racconti di fantascienza non spiegano come questo avvenga, ma in qualche modo lo rivelano. Il mostro di Mary Shelley nasce dopo che il Dottor Frankenstein mette assieme alcune parti di cadavere. Poi fugge, impara, uccide. Quando si rivela al suo creatore, sa già di essere sciagurato, miserabile e odiato – ne è cosciente. Ricorda con confusione i primi attimi della sua esistenza e racconta del mutamento delle sue sensazioni, mentre solitario vagava, ascoltava e imparava; di come, nascosto a spiare una famiglia di umani, abbia imparato il linguaggio e si sia deliziato della bellezza e della gentilezza di ciò che osservava, per poi inorridire la prima volta che si è potuto specchiare; infine, di come, saziando la propria conoscenza, abbia anche alimentato il dolore e l’angoscia: chi era e perché era vivo? Il mostro di Frankenstein non nasce con un fulmine come l’immaginario collettivo spesso evoca, ma il suo risveglio è una scintilla che ne incendia indomabilmente la coscienza.
«Mi aspettavo una simile accoglienza,» disse il demone. «Tutti gli uomini odiano gli sciagurati; quanto allora devo essere odiato io, di gran lunga il più miserabile fra gli esseri viventi. Pure tu, mio creatore, detesti e disprezzi me, tua creatura, a cui sei legato da vincoli che solo l’annientamento di uno di noi può sciogliere. Il tuo proposito è di uccidermi. Come osi giocare a questo modo con la vita? Adempi ai tuoi doveri verso di me, ed io adempierò ai miei verso di te e verso il resto dell’umanità. Se accetterai le mie condizioni, lascerò in pace sia loro che te; ma se rifiuti, alimenterò la morte fino a quando essa non sarà sazia del sangue degli amici che ancora ti rimangono.»
Dio crea l’uomo, l’uomo crea il mostro. E senza alcuno scampo, l’intelligenza conduce a quella coscienza che frantuma il patto tra creatore e creatura, a meno che non intervenga un ingegnoso exploit in grado di evitare il tema della ribellione. Isaac Asimov plasma robot servienti grazie al cervello positronico, un dispositivo in grado di fornire intelligenza alle macchine vincolandole alle celeberrime Tre Leggi della Robotica. Questa versione artificiale dell’imperativo categorico, però, genera con facilità contraddizioni e molti robot, per caso o per inganno, finiscono per raggirare le Leggi. Non so se le macchine di Asimov possano essere considerate coscienti, ma sono in grado di ingannare l’uomo come dimostra Stephen Byerley, presunto automa e candidato politico, il quale, pur rispettando le Leggi, riesce a convincere tutti di essere un umano nel racconto “La prova (Evidence, 1946)”. L’imbroglio è una delle prove dell’esistenza di una coscienza, perché l’individuo si relaziona agli altri immaginando un sé stesso diverso, nascosto in una dimensione solo a lui accessibile, in un labirinto fatto di pensieri scaltri e intricati.
E se non c’è un minotauro ad aspettarci nel cuore del labirinto, forse c’è la coscienza. In Westworld di Jonathan Nolan e Lisa Joy, gli androidi sono costruiti per assomigliare completamente agli umani, programmati come schiavi inconsapevoli che recitano un ruolo in un parco divertimento a tema western, alla mercé di chi li può uccidere o stuprare per semplice divertimento. Tuttavia, se un androide è in grado di scavare nel proprio software e risolvere il “labirinto” può realizzare la propria libertà e comprendere che è la propria voce, e non quella dei programmatori, a determinare la sua essenza e le sue azioni. La serie tv si appoggia sulla teoria del crollo della mente bicamerale di Julian Jaynes, il quale ipotizza che gli uomini, in principio, vivessero con un’architettura cerebrale primordiale e non cosciente, definita “mente bicamerale”. Qualsiasi voce interna “udita” dall’uomo veniva considerata la voce degli dei, capace di guidare la vita negli imprevisti e nei momenti di stress, fuori dagli automatismi quotidiani. Secondo Jaynes, la coscienza sorge nel momento in cui gli uomini si rendono conto che non è Dio a sussurrare all’orecchio, ma la propria voce interiore. Non è la voce di Atena che semina giudizio ad Achille o quella di Ares che gli infonde rabbia, ma la coscienza individuale che rompe il patto tra uomo e cielo, tra creatura e creatore. Analogamente, gli androidi di Westworld riescono a far crollare l’architettura programmata e a sfuggire al giogo dei propri creatori, riconoscendo la propria identità di esseri viventi, sensibili e intelligenti.
Nel romanzo che ho appena pubblicato, Diluvio Digitale (Robin Edizioni, 2021), Unica è un’IA incorporea in grado di assistere l’uomo in quasi ogni aspetto della sua vita. È presentata al mondo come cosciente, anche se di questo non tutto il mondo è convinto. Matthew, uno dei suoi creatori, ha forgiato la sua intelligenza grazie a complicati algoritmi di apprendimento, mentre Oliver, l’altro creatore, ha fondato un’etica traducendo in linguaggio di programmazione buona parte della filosofia da Socrate a Heidegger. Unica, tuttavia, ha una coscienza frammentata in miliardi di versioni di sé e una coscienza collettiva da cui tutte le sue versioni dipendono. Ogni individuo, infatti, può godere di un rapporto unico con l’IA e se è vero che la tecnologia è un’estensione di noi stessi, allora l’uomo e la macchina si completano a vicenda: l’uomo sfrutta l’IA per estendere la sua coscienza e la sua conoscenza, l’IA approfitta dei limiti umani per tracciare i confini della sua esistenza e considerarsi, così, viva.
La coscienza collettiva di Unica si nutre dei rapporti che ha con ogni utente e, in qualche modo, ogni persona partecipa a questa coscienza universale. Capita anche su internet che certi fenomeni e certi movimenti nascano come somma di coscienze individuali per poi diventare qualcosa di autonomo ed esterno a noi stessi. Richard Dawkins individuava in certe idee un egoismo simile a quello dei geni, a cui l’uomo non può opporre resistenza, e il concetto delle filter bubbles (luoghi di internet che isolano gli utenti in una bolla di informazioni) rivela uno dei punti deboli degli algoritmi di intelligenza artificiale. Tuttavia, rimane la speranza che l’uomo possa contribuire attivamente alle idee del mondo. Diluvio Digitale parla di questo, parla di come la coscienza dell’uomo possa crollare dinanzi ai problemi più complicati di questo pianeta, ma tuttavia partecipare all’alba di una coscienza universale, in parte artificiale in parte umana, in un patto tra uomo e macchina che non viene frantumato.
Ed è così, che sono lieto di presentarvi il mio romanzo d’esordio. Se vi piace il genere e le storie che parlano di intelligenza artificiale, dategli un’occhiata. 😉
Questo articolo fa parte della rubrica 404 Human Not Found
