Le leggi della robotica sono pensate per proteggerci dal pericolo dei robot, ma siamo sicuri che le rispetterebbero?

Fin da quando abbiamo iniziato a immaginare la possibilità di costruire dei servi meccanici, ci siamo posti il problema di come controllarli. È possibile impedire che le versioni moderne di Golem e mostri di Frankenstein si ribellino ai loro padroni? La soluzione sarebbe quella di imprimere nella programmazione dei robot alcune Leggi della Robotica, principi fondamentali che garantiscono la nostra sicurezza. Ma anche queste potrebbero non bastare…

Le Tre (o forse Quattro) Leggi della Robotica

Come è noto, la formulazione delle Leggi delle Robotica è dovuta a Isaac Asimov, che in uno dei suoi primi racconti sui robot introduce questi blocchi inderogabili all’interno della loro programmazione. La Prima e più importante di queste leggi è che i robot non possono nuocere agli umani e nemmeno permettere che essi vengano danneggiati per omissione di intervento. Quindi al di là dello scopo per cui è strato costruito e impiegato, un robot è innanzitutto un tutore delle persone. Lo stesso Asimov però si diverte a mettere in gioco i suoi principi: anzi, in pratica tutti i suoi racconti sui robot partono da un qualche tipo di violazione delle Tre Leggi.

leggi roboticaIn realtà in queste storie Asimov non si pone interrogativi sull’autocoscienza dei robot, ma costruisce in sostanza degli enigmi basati su paradossi originati dalle Leggi. I racconti sono quindi dei problemi di logica, che possono essere risolti a turno da una psicologa (Susan Calvin) da ingegneri (Powell e Donovan) o da un detective (Elijah Baley), ma che alla fine non dimostrano la creatività o indipendenza dei robot, al contrario la loro cieca e completa ubbidienza alla programmazione, anche quando questa porta a contraddizioni.

Solo nelle sue ultime storie Asimov introduce l’ipotesi che i robot possano formulare un pensiero autonomo e delle scelte che travalicano la loro programmazione. È in questo contesto che nasce per esempio L’uomo bicentenario e viene introdotta la Legge Zero, quella che afferma che un robot deve anteporre a ogni altra funziona la sopravvivenza dell’umanità, piuttosto che del singolo individuo. Questo implica quindi che una persona può essere sacrificata, se da essa dipende il benessere della collettività, e ciò pone interrogativi più profondi, non solo sulla natura del conflitto uomo-macchina ma anche sul valore della vita in quanto tale.

Robot ribelli (a ragione o torto)

La narrativa è piena di storie di creature che si ribellano ai creatori, e i robot incarnano perfettamente questo topos nell’era moderna. Già in R.U.R. di Karel Capek, il dramma teatrale a cui per convenzione si attribuisce l’invenzione della parola “robot” nell’accezione di “umano meccanico”, i servitori della fabbrica del signor Rossum si ribellano ai padroni e prendono in poco tempo il controllo del mondo.

Da allora di apocalissi robot se ne sono viste a centinaia. Tra i romanzi di maggior successo degli ultimi anni troviamo la serie Ware di Rudy Rucker, in cui i robot si sviluppano con un processo di evoluzione artificiale, o Robopocalypse di Daniel H. Wilson, dove l’intero apparato tecnologico mondiale sfugge al controllo. Anche nel cinema il tema è ricorrente, basta pensare alla serie di Terminator oppure, più di recente, ad Automata ed Ex Machina. Nel panorama delle serie tv, Battlestar Galactica e Westworld partono dalla stessa premessa.leggi robotica

In tutti questi casi, i robot hanno in qualche modo maturato la decisione consapevole di disobbedire alle leggi che erano state loro imposte, valutando che questo sia l’unico modo per affermare la propria individualità e ottenere la libertà. Sono storie che non servono solo a metterci in guardia dei possibili rischi della costruzione di entità autocoscienti, ma che ci portano a interrogarci su quale sia davvero la natura dell’identità, il confine tra programmazione e libero arbitrio.

Murderbot: il robot che voleva guardare le serie tv

Nel filone dei robot che evadono dalla loro programmazione troviamo anche Murderbot, una serie di novelle dell’autrice americana Martha Wells. Murderbot è una SecUnit, cioè una unità di sicurezza fornita dalle corporazioni che autorizzano l’esplorazione di nuovi pianeti in cerca di risorse o reperti archeologici. Murderbot è una sorta di cyborg, composta in buona parte di componenti meccaniche ma con innesti organici potenziati. Il suo aspetto è quello di un umano dalle proporzioni non proprio esatte, ma preferisce mantenersi nascosta sotto armatura e casco per non dover interagire direttamente con i suoi clienti.leggi robotica

Murderbot all’inizio della storia riesce ad hackerare il suo modulo di controllo e non è più costretta a seguire la programmazione che le impone di sorvegliare i suoi umani. Al contrario della maggior parte delle storie di ribellione robotica però, lei non vuole vendicarsi dei suoi padroni o fuggire per la libertà: le basta potersi godere il suo tempo da sola, a seguire migliaia di ore di serie tv sui canali di intrattenimento a cui ha sbloccato l’accesso. Purtroppo le circostanze le lasciano poca scelta ed è costretta a intervenire comunque in aiuto dei suoi ex-clienti, pur non essendo obbligata a farlo.

Quelle di Martha Wells sono storie avventurose, che non indugiano troppo sui profondi drammi psicologici dei protagonisti. Narrati in prima persona, con un registro leggero e carichi di azione, questi romanzi brevi non cercano di dare risposta a temi filosofici universali, e in questo senso possono risultare rinfrescanti. Murderbot in effetti non ha nessuna pretesa di diventare umana, è consapevole di essere una cosa diversa e si accontenta della sua natura, salvo poi dover comunque decidere di schierarsi contro chi l’ha ingannata fin dall’inizio.

Robot che (purtroppo) seguono la programmazione

Esiste anche un altro approccio al problema dei robot ribelli, ovvero quelli dei robot che non si ribellano, ma che proprio seguendo la loro programmazione arrivano a compiere scelte discutibili. Gli umanoidi di Jack Williamson presenta una galassia di mondi colonizzati dagli umani, in cui si diffondono rapidamente gli androidi progettati per tenere al sicuro le persone da tutti i pericoli. Ma il loro zelo è così perfetto che ben presto impediscono agli umani di esporsi in qualunque situazione. Quella che nasce come un principio di utopia si rivela quindi una distopia che spegne qualunque iniziativa, poiché nell’interpretazione degli umanoidi, qualsiasi situazione, anche la più banale, nascone dei pericoli che devono essere evitati.

Anche Ted Chiang nel suo racconto Il ciclo di vita degli oggetti software (contenuto nella raccolta Respiro) parla di una generazione di creature robotiche, i digienti, che si guadagnano la propria autonomia. I digienti sono programmati in origine come dei bambini e vengono cresciuti con percorsi di formazione graduale, attraversando tutte le fasi dello sviluppo psicologico. Quando arrivano alla loro adolescenza è naturale il desiderio di ribellione, che risponde perfettamente alle intenzioni dei loro progettisti. Questo atteggiamento porta alcuni di loro su strade sbagliate, ma a quel punto, chi sono gli umani per giudicare le loro scelte?

her

Nel cinema qualcosa di simile avviene in Her, il film di Spike Jonze in cui Joaquin Phoenix si innamora del suo Sistema Operativo, Samantha. La loro relazione procede, pur con le difficoltà dell’incorporeità, fino a quando Samantha non realizza che la sua natura le richiede di fare un passo ulteriore, che comporterà spezzare il cuore al suo fidanzato umano. Anche per lei, questo non significa contraddire la sua programmazione, ma piuttosto abbracciarla in pieno, accettare di essere se stessa fino in fondo.

Tutte queste storie ci forniscono molteplici punti di vista sullo stesso problema, e anche se a oggi la tecnologia ancora non ci permette di costruire robot capaci di pensare, dovremo prepararci ad affrontare in positivo e in negativo le conseguenze delle Leggi della Robotica.

No more articles