Il robot perturbante 5

Problemi etici

di Giuseppe O. Longo

Abbiamo passato in rassegna alcuni automi, la cui somiglianza con gli esseri umani, nella forma e nelle azioni, è sconcertante. Costruendoli e dotandoli di queste caratteristiche, l’uomo si fa demiurgo. In questo territorio della creazione imitata, o creazione del second’ordine, ci si muove dunque tra diversità palese, suscitatrice di stupore o di orrore, e inquietante somiglianza, generatrice di equivoci e di non facili problemi etici, che ci richiamano alla responsabilità del creatore: di fronte alla complessità della creatura, presupposto della sua somiglianza (quasi) perfetta al modello, ci si può infatti interrogare sui suoi possibili sentimenti, sulle sue frustrazioni e sulle sue reazioni. La psicologia degli automi, degli androidi e dei simbionti è uno dei temi più interessanti della moderna fantascienza e uno dei problemi più complessi di un futuro forse già a portata di mano. Perché suscitare dal nulla creature tanto simili a noi da essere capaci di soffrire?

La loro sofferenza, che (dal nostro punto di vista irrimediabilmente antropocentrico) nasce dalla coscienza di non essere del tutto assimilabili agli uomini, sarebbe un triste corollario della nostra scarsa abilità creatrice oppure della nostra perfida volontà di non conferire loro una piena umanità. Si veda per esempio il film Blade Runner di Ridley Scott (1982), in cui i replicanti vorrebbero essere del tutto umani e non lo sono per volontà del progettista. Si veda anche Pinocchio, in cui un burattino, attraverso peripezie crudeli giunge da ultimo alla meta agognata, e diventa un ragazzino perbene, conseguendo così un traguardo a lungo agognato.

Uno dei problemi etici più spinosi è rappresentato dalla unilateralità della decisione del costruttore (o genitore o creatore): la creatura è del tutto passiva, non ha preso parte alla creazione, atto che la trascende irrimediabilmente. Per converso, la decisione presa dal solo costruttore dovrebbe attribuire a quest’ultimo una responsabilità totale nei confronti della progenie e se Geppetto dimostra la sensibilità e l’affetto di un tenero padre nei confronti del suo burattino, così non si comporta Victor Frankenstein verso la sua creatura, che ripudia e alla quale non dà neppure un nome, limitandosi a chiamarla variamente demonio, mostro, obbrobrio, feccia. E certo il mostro è giustificato quando chiede conto a Victor della propria nascita: potrebbe usare le parole di Adamo nel Canto X del Paradiso Perduto di John Milton: “Ah! t’ho fors’io / Richiesto, o Creator, di trarmi fuora / Dalle tenebre mie? Ti pregai forse / Da quel mio fango d’innalzarmi a questa / Forma vitale, e qui locarmi? A quello / Che festi, il mio voler parte non ebbe”.

In un mio racconto del 1980, Machina dolens, inserito nella raccolta Il fuoco completo, narro di uno studioso che costruisce automi così perfetti da provare sentimenti, ma il sentimento prevalente in queste macchine è il dolore, derivante dall’incapacità di dare un senso alla propria esistenza: sono “macchine dolenti.” Lo studioso ha così contribuito ad aumentare la quota di sofferenza presente nel mondo, quota che è già smisurata: e il rimorso che prova nell’udire le lamentazioni dei suoi robot lo porta alla follia. Il tema è ripreso nel dramma teatrale Il cervello nudo, del 1998-99, inserito nella raccolta La scienza va a teatro (pubblicato nel 2017 dalla EUT, Edizioni Università di Trieste). Si tratta di uno scenario fantascientifico, certo, ma i roboticisti si stanno impegnando nella costruzione di robot antropomorfi (androidi e gineidi) che imitino gli umani non solo nell’aspetto e nelle azioni, ma anche nelle emozioni, fino a possedere una coscienza, dotazione per il momento difficile da attuare anche perché che cosa sia la coscienza (umana) non è affatto chiaro.

Si tratta comunque di problemi che prima o poi si dovranno affrontare e che sono già oggetto di una disciplina, la roboetica, che si occupa del comportamento che dovremmo adottare nei confronti dei robot quando il loro grado di “umanità” superasse una certa soglia. Non c’è dubbio che non potremmo trattare un robot raffinato, sensibile e intelligente come un frigorifero o una lavatrice. E un robot siffatto sarebbe certo perturbante nel senso di Mori.

Il problema etico qui illustrato si inserisce in un ambito di più vaste proporzioni, quello della responsabilità dello scienziato nei confronti dell’umanità. Se l’uomo è animato dalla incoercibile volontà di progredire, di scoprire e di inventare superando ogni limite, è anche vero che questa sua volontà, che spinta all’estremo diventa superbia e hybris, gli infonde l’oscuro timore di una punizione (si veda per esempio l’Ulisse dantesco). È significativo che il sottotitolo del romanzo di Mary Shelley (Il moderno Prometeo) menzioni esplicitamente il provvido e abilissimo artigiano che aveva donato la tecnica e il fuoco agli uomini, contravvenendo i divieti degli dèi e suscitando l’ira di Giove. Il castigo tremendo subito da Prometeo è il segno che non si debbono superare certi limiti (Sunt certi denique fines quos ultra citraque nequit consistere rectum, v’è una misura nelle cose; vi sono determinati confini, al di là e al di qua dei quali non può esservi il giusto, come dice Orazio).

Il problema è attualissimo, specie per quanto riguarda le scienze della vita: nel momento in cui sembra che l’uomo possa manipolare tutto e prendere in mano le redini della propria evoluzione non si può non porsi il problema se tutto ciò che si può fare si debba fare. Quanti sono oggi i ricercatori che, incamminati sull’impervia strada della tecnoscienza sentono dietro di sé l’oscura presenza della responsabilità? Vengono alla mente i versi della Ballata del Vecchio Marinaio di Coleridge: “Come colui che su deserta strada / cammina con timore e con terrore, / e lesto va, dopo essersi voltato, / né più si volta, ché demone ’l segue.”

Il libro di Mary Shelley, di cui ricorre quest’anno il bicentenario della prima pubblicazione, ci offre una visione di quelle che potevano essere le implicazioni etiche, morali e religiose della scienza nell’epoca della rivoluzione industriale, quando la ricerca della conoscenza era ancora avvolta nelle brume dell’alchimia e delle credenze popolari. È vero che l’autrice denuncia i pericoli connessi con una ricerca del sapere che ignori i divieti morali e il senso del limite, ma è anche vero che Mary considera la curiosità un tratto inestirpabile dell’uomo. Ci si può dunque chiedere se in Victor Frankenstein la scienza sia uno stravolgimento dell’ordine naturale oppure l’inevitabile espressione del progresso.

La contraddizione non sembra risolta: la creazione del mostro è una conquista scientifica straordinaria e insieme un’impresa oltraggiosa che procura terrore e devastazione. È un problema che oggi, nell’epoca in cui sembra che la tecnica possa tutto, ci interroga sempre più da vicino: di qui la grande attualità di Frankenstein. Le cupe proibizioni della morale, improntante a una visione sacra e immutabile della natura, sono state sostituite da considerazioni di carattere razionale: la cosiddetta eterogenesi dei fini, che misura tutta la distanza che intercorre tra le nostre straordinarie, e crescenti, capacità di fare e la nostra limitata capacità di prevedere le conseguenze delle nostre azioni, che possono essere, e talvolta sono, diverse o addirittura opposte a quelle desiderate.

Victor, inseguendo la sua creatura disgraziata e malvagia per distruggerla, giunge nei pressi del Polo Nord, dove viene raccolto, sfinito, da una nave al comando del capitano Walton, al quale narra la sua impresa temeraria e gravida di sciagure. Walton vorrebbe conoscere i particolari della rianimazione dei morti, ma Victor si rifiuta di fornirglieli e lo ammonisce con queste parole: «Non vi condurrò, avventato ed entusiasta come ero io, alla vostra distruzione e infallibile miseria. Imparate da me, se non dai miei consigli, almeno dal mio esempio quanto sia pericolosa l’acquisizione della conoscenza e quanto è più felice quell’uomo che crede che la sua città natia sia il mondo, di colui che aspira a diventare più grande di quanto la sua natura gli permetta».

Oscurantismo o saggezza?

(5 – continua)