La singolarità della IA negli occhi di un giullare

"If poets are the unacknowledged legislators of the world, science-fiction writers are its court jesters."

Bruce Sterling, Prefazione a Burning Chrome di William Gibson

Se la gente sapesse cosa stanno combinando gli scienziati non c( che dormirebbe sonni tanto tranquilli. Se lo sapesse leggerebbe con piu* attenzione cin( che hanno da dire gli autori cyberpunk.

Lo scopo di questo lavoro c(, non solo quello di confrontare l'immagine dell'Intelligenza Artificiale (da qui in poi riferita come IA) inclusa in due opere maggiori del genere cyberpunk, ma anche quello di mostrare la connessione tra quelle immagini e la realtr' in cui tutti viviamo o il suo immediato futuro.

Dunque, qual c( il futuro della IA descritto nelle opere di cyberpunk? E se c( vero, come suggerisce Sterling, che gli scrittori di fantascienza consegnano un messaggio di allerta alla societr' contemporanea in una forma che c( mascherata sotto la satira, queste immagini sono realmente in sintonia con la nostra realtr'? E in caso affermativo, dovremmo preoccuparci?

La materia in oggetto c( l'Intelligenza Artificiale. Gli ambienti che ospitano le IA descritte da qui in avanti sono gli ambienti della letteratura cyberpunk. Per comprendere i giudizi e le conclusioni di questo lavoro c( necessario conoscere il significato di tutte e due queste nozioni.

Il cyberpunk c( presente sulla scena letteraria da una ventina di anni, essendo il sottogenere piu* in voga e mainstream della fantascienza e, benché sia stato annunciato come defunto da molti critici, non c( stato sostituito fino ad ora da nessun altro movimento della fantascienza. Ma come possiamo definire cosa c( cyberpunk e distinguerlo da cin( che c( semplicemente alla cyberpunk? Appignanesi indica che l'aspetto principale del mondo cyberpunk c( una "intrusione totale della tecnologia nella vita umana" (129) e questa pun( essere usata come una definizione sufficiente: il cyberpunk parla di gente realmente comune, spesso dei punk, che c( persa in una societr' di alta tecnologia. Una aggiunta utile a tutto cin( c( fornita dall'autore che viene considerato come uno dei fondatori del genere, William Gibson. In una delle sue interviste ha affermato che "si interessa del presente. Non c( per niente qualcosa che tende ad un futuro immaginato. E' un modo di cercare di arrivare a patti con la soggezione e il terrore ispirati [...] dal mondo in cui viviamo" (Opera collettiva anonima). Questa opinione c( in accordo con la citazione in apertura di Sterling. Entrambe le opinioni rispondono inoltre alla domanda sul perché siano stati scelti degli esempi specifici da questo particolare genere per la comparazione mostrata in questo lavoro. C'c(, senza dubbio, una ragione nel fare cin(: la rassomiglianza che le opere cyberpunk hanno con la realtr'.

Ovviamente ci sono altri aspetti specifici del genere che caratterizzano il cuberpunk: come la presenza di internet (che spesso c( combinata in una entitr' unica con la realtr' virtuale e prende nomi differenti: Cyberspazio, Matrice, Multiverso, in parte perché c( stata inventata nella letteratura cyberpunk prima che venisse inventata nella realtr' e chiamata internet) o l'influenza di organizzazioni di diverso tipo e onnipotenti che hanno forma di multinazionali o di ordini criminali di stampo mafioso. Anche questi elementi appaiono nelle opere descritte piu* avanti, ma sono solo altri elementi di un quadro gir' definito.

Consideriamo ora il termine Intelligenza Artificiale. Cos'c( dunque l'IA? E viviamo gir' adesso nell'era della IA? Le due domande possono essere risposte assieme.

Se(, viviamo nell'era della IA se intendiamo con Intelligenza Artificiale la capacitr' di soluzione da parte di una macchina (cioc( dell'hardware) o da parte di un programma che gira su questa macchina (cioc( del software) di problemi specifici che siano definiti specificatamente (il che significa che il solutore, sia esso un programma o una macchina, c( provvisto di algoritmi per risolverli o che ha tale algoritmi costruiti dentro di se). Una macchina (hardware o software, non ha importanza) che possieda tale capacitr' verrebbe chiamata anche IA. Abbiamo gir' macchine che traducono documenti in tempo reale o giocano a scacchi e vincono contro i grandi maestri.

E no, possiamo solo sperare (o temere) di vivere questa era se attribuiamo a una macchina di questo tipo di possedere l'indipendenza di intelligenza, questa intelligenza proprio speciale, propria dell'umano: la capacitr' di pensare.

Per chiarire questo quadro, occorre definire un altro concetto: il pensare. L'autore di questo lavoro si propone di usare qui una delle definizioni piu* semplici del pensare, quella fornita da Buller che adotta il test di Turing (chiamato, proprio al suo inizio, il gioco imitativo), in cui un giudice ha una conversazione (per mezzo di uno schermo di computer o di qualche altro espediente simile, con lo scopo di non vedere i propri interlocutori) con un umano e con una macchina (9-11). Egli cerca di scoprire quali dei due esseri "dall'altra parte" dello schermo del computer sia l'IA per mezzo di alcune domande (Buller, 9-11). Il compito della IA c( di fingersi un essere umano: se una macchina non c( distinguibile da un essere umano, allora pensa (Buller, 9-11).

E' ovvio che una definizione di questo tipo sia soddisfacente solo se interpretiamo il pensare in termini di risposta a delle domande, o piu* generalmente, in termini di soluzione dei problemi. Una IA che possieda questa capacitr' differirr' da quella controllata dagli algoritmi grazie alla sua abilitr' a risolvere (o almeno a cercare di risolvere) qualsiasi tipo di problema, invece di limitarsi a risolvere i problemi per cui c( programmata. Ma che dire della coscienza? Senza dubbio, allorché parliamo di IA, pensiamo di solito ad un essere cosciente, simile all'essere umano. Ma la coscienza pun( essere trattata come una funzione secondaria di un cervello artificiale. Questo problema sarr' discusso in dettaglio nella seconda parte di questo lavoro, quella che va sotto il titolo La psicologia della IA.

Non c'c( da meravigliarsi se il cyberpunk, che, come detto in precedenza, presenta l'immagine caricaturizzata della societr' contemporanea, sia tanto interessato alla IA. In quanto ci sono tante premesse al fatto che gli scienziati si trovano sul punto di essere capaci a costruire l'IA. La possibilitr' di questo atto di creazione c( discussa ulteriormente piu* avanti in La nascita delle IA: sono inevitabili.

Molte opere cyberpunk dipingono la IA in varie forme. Tanto per dare qualche esempio, si consideri la trilogia dello Sprawl di William Gibson (Neuromante, Giu* nel cyberspazio e Monna Lisa cyberpunk), dove le gesta di una IA onnipotente, di nome Wintermute, rappresentano il motore dietro ad ognuna delle azioni che accadono al personaggio principale. Oppure film come Terminator di James Cameron o The Matrix dei fratelli Wachowski, che descrivono il mondo in cui le IA hanno preso il potere (prospettive sulle IA sono discusse in modo piu* diretto in Il futuro di una IA neonata: Hanno qualcosa in comune). E questi sono solo gli esempi piu* rappresentativi.

Comunque, per gli scopi di questo lavoro, ho scelto di discutere e confrontare l'IA descritta in Idoru di William Gibson a quella raffigurata nel graphic novel (o manga) Ghost in the Shell di Masamune Shirow e nella sua versione filmata (anime) di Mamoru Oshii. Perché queste due? Perché sembrano essere le IA piu* vicine alla nostra realtr', non solo per via degli aspetti specifici del cyberpunk stesso, discussi in precedenza, ma anche perché in tutte i due le opere letterarie le IA sono descritte come le primissime al mondo e, come tali, simili alle ipotetiche IA che possibilmente potrebbero venir create nel mondo in cui viviamo (si veda la parte successiva).

In Idoru la IA c( il personaggio del titolo, Rei Toei. Idoru originalmente significa idolo in giapponese e cin( c( esattamente cin( che il personaggio c(: una cantante pop estremamente popolare. Comunque non c( una cantante umana, ma un idolo virtuale, in quanto c( cin( che oggi significa idoru: la simulazione di una persona che non esiste realmente e che non c( mai esistita in un mondo reale. Si tratta di una "personalitr'-costrutto, un insieme di agenti software, la creazione di progettisti informatici" (Gibson 98, ch. 13), in altre parole un programma per computer in forma di ragazza. Tali programmi sono popolari in Giappone gir' oggi (ovviamente in forme molto piu* primitive) e la gente li tratta come vere star televisive. La differenza c( che questo idoru, benché non abbia forma materiale e possa apparire solo come ologramma, c( reale: si c( evoluta per diventare una IA con una coscienza simile a quella umana. Per questo si tratta della prima vera IA in un mondo in cui le IA erano solite essere solo una teoria, proprio come nel nostro mondo, cose( possiamo assumere che Idoru ritragga il nostro ipotetico futuro.

La IA descritta in Ghost in the Shell c( molto simile. Qui evolve da un programma spia, il cui nome in codice c( Project 2501, per arrivare alla forma di un terrorista indipendente, intelligente e pericolosi, soprannominato Puppet Master.

Lo sono veramente? Nella discussione iniziata da Vernor Vinge, la maggior parte degli scrittori di fantascienza che vi hanno partecipato ha ammesso che lui aveva ragione nel predire che l'umanitr' avrebbe creato le IA nel giro di una trentina di anni e che molto probabilmente sarebbero succedute a noi (Cyran 74-76).

La singolaritr'. Ecco come viene chiamata. La singolaritr', secondo gli scrittori sopra citati c( quel punto nel tempo (possiamo anche chiamarlo un orizzonte di predizione) oltre il quale gli umani inventeranno la vera nanotecnologia e la vera IA, quel punto nel tempo oltre il quale tutto cin( che accade c( imprevedibile e incomprensibile per noi, in quanto tutte le regole che governano il mondo attuale diventeranno assolutamente insignificanti (Cyran 74-76).

La maggior parte di tutto cin( suona come pura fantasia, ma la scienza c( una cosa buffa: si distende ben oltre la comprensione umana. Cin( che faceva ridere ieri spesso diventa uno standard di oggi e le idee di oggi sono spesso incomprensibili perfino ai loro stessi inventori: la scienza crea se stessa, si potrebbe quasi dire. E cose( scienziati ponderati che lavorano alla creazione di macchine pensanti concordano con gli autori di fantascienza nel dire che il completamento del loro progetto c( solo una questione di tempo in quanto gir' sanno come fare e mancano loro solo i mezzi appropriati. Andrzej Buller afferma che i partecipanti al progetto internazionale CAM-Brain inteso a creare la IA, hanno gir' inventato l'architettura di un cervello artificiale futuro, l'unico problema c( che non hanno l'hardware capace di sopportare il software di strutture neurali sufficienti e di evolvere per soddisfare i bisogni del software evolutivo (50-62, 69-79).

Per cin( che c( stato gir' detto sulle origini delle IA descritte fin qui, si potrebbe concludere con facilitr' e realtr' che entrambe non erano state create come tali dagli uomini, ma che si erano evolute da progetti umani con scopi diversi: l'idoru era una semplice simulazione di una cantante e il Project 2501 era un programma spia.

Questo atto di pseudo-auto-creazione fa perfino rifiutare a Puppet Master dalla versione anime di Ghost in the Shell il suo essere chiamato una IA e si definisce "una forma di vita che c( nata nel mare dell'informazione". Infatti IA c( il termine proprio per descriverlo. Era artificiale, stando a Buller la vera IA non sarr' costruita da zero nella sua forma finale (17-49). Al contrario gli scienziati umani studieranno strutture hardware e software di base e le lasceranno evolvere per arrivare alla IA perfettamente adattata a vivere in un dato ambiente (Buller 17-49). E' gir' stato provato che i programmi mostrano una tendenza ad evolvere molto simile a quella degli organismi viventi rispettando la teoria di Darwin (Buller 17-22). Si potrebbe dedurre che confrontando il software alle creature viventi sia esagerato, ma tutte le cose viventi sono anch'esse codificate, proprio come lo sono tutti i programmi per computer. Cos'altro c( il DNA se non un codice sofisticato che contiene informazioni sulla struttura degli organismi, cervello incluso? Ovviamente la questione della coscienza, forse anche dell'anima, rimane e cin( c( discusso piu* approfonditamente nella parte successiva.

Si pun( osservare che entrambe le opere cyberpunk prese in esame promuovono la stessa idea che assorbe le menti dei ricercatori contemporanei: l'IA non pun( essere creata ma pun( evolvere proprio come accade nel mondo naturale con gli organismi geneticamente codificati. Gibson afferma che "la vera IA molto probabilmente evolverr' in modi che hanno meno a che fare con la pretesa di essere umani" (247-248, ch. 37) e arriva a suggerire "che la IA (potrebbe) essere creata accidentalmente e che la gente inizialmente (potrebbe) non riconoscerla per quello che (c()" (248, ch.37). Allo stesso modo, l'evoluzione del Project 2501 c( il risultato della sua interazione con fonti diverse di dati e (cosa non affermata direttamente nc( nel romanzo nc( nel film, ma che c( una conclusione logica di cin( che viene affermato) dal suo risiedere in differenti pezzi di hardware, probabilmente alcuni molto sofisticati in quanto era progettato come programma militare e la tecnologia militare di solito c( la piu* avanzata (e la cosa c( ancora piu* accentuata nel mondo descritto da Masamune Shirow). Per questo la sua progettazione come applicazione con lo scopo di penetrare ambienti hardware differenti ed estrarne dati si c( evidenziata nel suo rivoltarsi contro i progettisti, in quanto questi ambienti gli hanno fatto sviluppare una intelligenza indipendente e il libero arbitrio.

La IA sarr' simile agli esseri umani in termini di psicologia? Nick Bostrom, uno degli scrittori che partecipavano alla discussione citata in precedenza, dichiara che un fattore cruciale nel modellare la psiche della IA sta nei suoi creatori e che gli standard morali della IA rifletteranno le norme obbedite dai suoi progettisti (Cyran, 74-75).

Questo approccio, comunque, non c( riflesso in nessuno dei due lavori cyberpunk qui discussi. Rei Toei potrebbe anche prendere la sua sensibilitr' verso i problemi umani dai programmatori (cosa mostrata soprattutto dal suo atteggiamento verso Chia), ma sorpassa i suoi creatori in termini di saggezza ed introspezione e, per questo, sembra giudicare gli eventi attorno a se con la fredda sicurezza di un essere superiore che riconosce le emozioni umane ma, in quanto essere immortale, c( al di lr' di esse. Il Project 2501 si comporta in modo simile, combinando in se gli aspetti di un figlio ribelle e quelli di un essere sensibile quanto un umano, ma piu* importante di chiunque della nostra specie, per cui gli umani sono solo delle pedine per i propri piani, usate a secondo dei suoi desideri... Abbiamo una psiche da bambini? E chi c( nel giusto, Bostrom o i creatori di queste visioni cyberpunk della IA?.

Ci sono alcune premesse che senza dubbio Bostrom si trovi in errore. Witold Marciszewski osserva che le macchine sono libere dai problemi (siano essi pratici che teoretici) e dai dubbi con cui gli organismi biologici debbono competere e che, quindi, non siano spinti da essi e che non possano pensare come esseri umani(78-81).

In veritr' ci sono visioni piu* radicali di questa. Stando ad esse, c( possibile che la coscienza sia solo un prodotto dell'evoluzione e che creature dall'intelligenza piu* avanzata (come le IA) se ne possano liberare, in quanto non sarebbe d'aiuto nella soluzione dei problemi e, per questo, nell'essere intelligenti (Marciszewski 18-19).

Buller c( piu* ottimista, ma nega anche lui la necessitr' per la IA d'essere solo un riflesso delle norme morali dei suoi creatori. E' d'accordo con Alan Touring nel dire che gli ingegneri possono costruire solo una mente artificiale di tali parametri che farr' da casa allo spirito (Buller 14-15). Secondo la sua opinione spetta a Dio creare o fornire un'anima ad una mente fornita dagli umani e percin( gli ingegneri non possono sostituirsi a Dio nella creazione delle anime e non sono per le IA niente di piu* dei genitori per i loro figli (Buller 14-15). Si pun( concludere che, proprio come le opinioni dei figli non sempre riflettono le visioni dei loro genitori, la psiche di una qualsiasi IA potrebbe non essere la controparte esatta delle psiche dei suoi creatori.

Comunque l'idea di creare dei ricettacoli per l'anima potrebbe, naturalmente, apparire blasfema. Ma se la gente assume la presenza dell'anima in creature codificate dai geni, potrebbe essere anche possibile assumere la presenza dell'anima in creature codificate in modo differente, anche se simile. L'idea delle persone come fornitori soltanto del ricettacolo per qualcosa (sia esso una psiche o un'anima) creato indipendentemente (sia essa una creazione spontanea o un atto di Dio) in qualche modo si adatta bene col fatto che i network neurali che sono considerati la base per la costruzione della IA sono un mistero perfino ai loro costruttori. Gli scienziati possono progettare network neurali ed influenzare la loro evoluzione promovendo lo studio di certi modelli di comportamento, ma non riescono a comprendere appieno come funzionino i network neurali (Buller 38).

Tenendo a mente questi fatti, non si pun( evitare di osservare che il titolo Ghost in the Shell c( molto significativo. Suggerisce l'esistenza di energia incorporata che, assieme a un corpo (sia esso un corpo organico o un guscio meccanico), forma un'entitr' pensante. La presenza di questa energia c( richiesta e senza di essa anche una persona organica non pun( essere considerata cosciente. La stessa forza sarebbe stata anche responsabile di emozioni che spontaneamente si sono evolute in Rei (come il suo amore per Rez).

Cin( che differisce tra l'una e l'altra delle due IA c( lo stimolo che ha spinto alla loro formazione. E' simile alla situazione di due bambini che crescono in circostanze differenti. Nel caso del Project 2501, l'ambiente c( il sopraccitato 'mare dell'informazione'. Basando la propria evoluzione sui dati puri (e spesso militari), libero da un fondo emotivo insignificante, sviluppa e perfeziona una personalitr' maschile di fredda logica, spesso anche cinica e impietosa, in quanto fa uso ed anche abuso di persone per eseguire i propri ordini, senza curarsi del danno che provoca loro. Diversamente da lui, Rei era stata progettata originalmente come personalitr' femminile. Per di piu* era designata ad essere il risultato finale di un processo di creazione di 'macchine del desiderio, aggregati di desideri soggettivi, una architettura di brame articolate" (Gibson 237, ch. 35). La combinazione di questi fattori ha prodotto una IA che c( diretta maggiormente al sentire che al conoscere.

Come i livelli di confronto precedenti hanno gir' mostrato, sia Puppet Master che Rei Toei hanno diversi aspetti in comune. Succede la stessa cosa coi loro scopi. Entrambe le entitr' artificiali sanno esattamente cin( che vogliono fare e sistemano il loro modo di vita in modo tale da renderli possibili. Entrambe le IA sono espansive e desiderano evolvere ulteriormente e diffondersi. Desiderano riprodursi. Per far cin( scelgono dei compagni che sono creature viventi, esseri umani ma molto differenti dal resto degli umani e che gli permettono di comprendere gli scopi delle IA. Nel caso del Puppet Master c( il maggiore Motoko Kusanagi, che c( un membro delle forze speciali, una persona con vedute anti-totalitariste (forse anche un po' anarchiche). Per questo si tratta di un difensore perfetto per Puppet Master, che c( inseguito da agenti governativi corrotti. Ma cin( che c( piu* importante, lei c( cyborgizzata quasi al cento per cento (si suppone che solo la sua mente sia umana, e anche su questo fatto lei non ne ha una certezza assoluta) e per questo alienata ed insicura nei confronti della propria personalitr'. Queste qualitr' le permettono di comprendere Puppet Master, che c( un'entitr' artificiale, l'unica della sua specie e, proprio per questo, alienata in una maniera simile alla sua. Rei sceglie Rez, un leader carismatico di un complesso rock famoso, la cui fama ed eccentricitr' lo ha isolato dalla societr', rendendolo simile a lei, e la sua ricchezza e la sua influenza lo rendono una persona perfetta ad aiutarla a raggiungere i suoi scopi.

Il concetto di Partner in entrambi i casi significa qualcosa di differente. Puppet Master diventa una parte della mente di Motoko, riproducendo fisicamente e creando una nuova entitr' da questa unione, una entitr' capace di riprodursi fisicamente allo scopo di dare inizio a una nuova razza. Rei sposa Rez virtualmente ma, come si pun( supporre, probabilmente intende fare sesso fisicamente con lui, in quanto l'unitr' nanotech che i collaboratori di Rez rubano alla mafia russa, descritta come 'il mezzo del (loro) matrimonio' (Gibson 257; ch. 38), pun( aiutarli a rendere Rei una persona reale costruendo un corpo per la sua mente. Questa tendenza delle IA a riprodursi c(, di nuovo, molto fedele coi paralleli alla IA reale che esiste gir'. Anche se la IA reale non esiste ancora, l'evoluzione delle applicazioni sperimentali che stanno alla base della ricerca sulla IA, c( trainata da strategie di sopravvivenza evoluzionistiche che sono basate sulla riproduzione degli elementi piu* forti. Ancora una volta gli autori cyberpunk fanno solo finta di scrivere cose sul futuro.

Il quadro che emerge dall'analisi precedente non c( poi cose( pessimistico come si potrebbe aspettare E' vero che le opere cyberpunk analizzate, nelle loro somiglianze significative e nella sorprendente rassomiglianza con le conquiste reali della scienza e della tecnologia contemporanee, ci forniscono dei moniti su cin( che ci possiamo aspettare dal nostro mondo in un futuro non tanto distante. Ma queste storie non sono racconti di orrori futuri, ma piuttosto di mutamenti futuri. Il messaggio c( chiaro: qualcosa cambierr'. Ma se c'c( del vero in questi racconti, la direzione del cambiamento dipenderr' dalle decisioni che le entitr' pensanti (siano esse umane che IA) prenderanno. E non c( che poi cambi niente nella nostra visione del mondo dato che essa c( sempre dipesa da tali decisioni, l'unica differenza sta nel fatto che fino ad ora erano state prese solo dagli umani...

1. William Gibson. Idoru. London: Penguin Books. 1997.
2. Ghost in the Shell. Regia Mamoru Oshii. Masamune Shirow/Kodansha/Bandai Visual/Manga Entertainment. 1995.
3. Appignanesi, Richard. Postmodernism for Beginners. Cambridge: Icon Books Ltd. 1995.
4. Buller, Andrzej. Sztuczny mózg. To ju nie fantazje (Artificial Brain. Not a Fantasy Any More). Traduzione in inglese dell'autore dell'articolo
5. Marciszewski Witold. Sztuczna inteligencja (Artificial Intelligence). Traduzione in inglese dell'autore dell'articolo
6. Cyran Janusz, ed. "Requiem dla ludzko ci?" ("Requiem for Humanity?"). TTraduzione in inglese dell'autore dell'articolo
7. The Cyberpunk Project

© Paul Martin, traduzione italiana Danilo Santoni