“Sei in un deserto, cammini lungo la sabbia, quando all'improvviso guardi in basso e vedi una tartaruga ... Ti allunghi verso il basso e capovolgi la tartaruga sulla schiena. La tartaruga si adagia sulla schiena, la pancia che cuoce sotto il sole caldo, battendo le gambe cercando di girarsi, ma non ci riesce. Non senza il tuo aiuto. Ma non mi stai aiutando. "
Contenuto relativo
- Voltaire: Filosofo dell'Illuminismo e Scammer della lotteria
Forse nulla è più emblematico del film distopico del 1982 di Ridley Scott, Blade Runner, del test Voight-Kampff amministrato dalle forze dell'ordine titolari del film, incluso Harrison Ford come Rick Deckard. La serie di domande nel test immaginario, come quella sopra, sono progettate per separare gli umani dai replicanti provocando una risposta fisiologica che indica empatia. Solo i veri umani, non i replicanti, provano quell'emozione. Il compito di Deckard è di occuparsi dei replicanti che iniziano a disobbedire agli ordini. Lui e altri usano il test per decidere se "ritirarsi" o meno - uccidere - i replicanti.
Questi androidi ribelli non solo rappresentano una minaccia per l'uomo, ma in questo mondo non hanno alcun diritto legale alla protezione. Come hanno potuto, quando non sono considerati umani?
È un dilemma così avvincente che la storia continuerà nel tanto atteso sequel Blade Runner: 2049. Parte del motivo della popolarità duratura del film originale è la lotta personale di Deckard, che si svolge in modo simile in film come Her e spettacoli come “Westworld ": Chi o cosa conta come umano, specialmente in un mondo di tecnologia avanzata?
E per capirlo, dobbiamo rivolgerci ad alcuni filosofi molto vecchi.
***
Per gli antichi greci, le macchine costruite da dei o esseri umani di eccezionale talento spesso ingannavano le persone facendole credere che gli androidi fossero autentici, scrive Adrienne Mayor in Eone. Il re Nabis di Sparta possedeva una versione robotica di sua moglie, con il seno segretamente adornato con le unghie. Ha usato la macchina per abbracciare i cittadini che disobbedivano a lui, la loro carne trafitta dalle armi nascoste. E in Cina, un automa del X secolo a.C. realizzato dall'inventore Yan Shi sembrava così umano, cantando e ammiccando alle donne, che il re si arrabbiò. Quindi apprese la verità e si meravigliò di una macchina che aveva persino organi meccanici. Come scrive lo studioso Nigel Wheale, "In tutti i periodi, le" cose umane "sono state immaginate come entità che mettono alla prova o definiscono il senso contemporaneo del valore umano".
Tutto questo per dire che le preoccupazioni su come distinguere gli umani in carne e ossa dalle macchine che sembrano semplicemente umane (e decidere se quelle macchine rappresentano una minaccia per noi Homo sapiens) non si limitano ai tempi moderni. Ci siamo sempre chiesti se tutti gli esseri umani sono davvero ciò che sembrano essere - motivo per cui i filosofi dell'Illuminismo hanno trascorso così tanto tempo a dissezionare la questione di ciò che rende un essere umano, umano.
Rene Descartes, un filosofo francese del 17 ° secolo che viaggiò molto in Europa, considerò profondamente la questione di ciò che ci rendeva umani. Non è un caso che la sua citazione più famosa sia ripetuta da uno dei replicanti di Blade Runner: "Penso, quindi sono". E se tutto ciò non è una prova sufficiente del suo legame con il film, considera i nomi: Descartes e Deckard.
Come sottolinea il filosofo Andrew Norris, Cartesio sospettava che un giorno ci potesse essere la necessità di una prova per stabilire se qualcosa fosse umano o macchina. "Se ci fossero macchine che portano immagini dei nostri corpi e in grado di imitare le nostre azioni per quanto è moralmente possibile, rimarrebbero comunque due test più certi per sapere che non erano quindi realmente uomini", ha scritto Descartes. Quindi ha creato i suoi test, che si basavano sull'abilità linguistica e sulla flessibilità del comportamento.
I replicanti parlano e si comportano esattamente come fanno gli umani, nel senso che supererebbero i test di Cartesio. Ma c'è un altro motivo per cui Deckard lotta per confutare la propria umanità: anche i replicanti hanno impiantato ricordi. Per il filosofo inglese John Locke, ciò che dà a una persona un senso di sé è la continuità dei loro ricordi. Il corpo umano cambia nel tempo, ma i ricordi rimangono, offrendo una base per un'identità stabile. "Nella misura in cui questa coscienza può essere estesa all'indietro a qualsiasi Azione o Pensiero passato, finora raggiunge l'identità di quella Persona", ha scritto Locke.
Quindi per Rachael di Blade Runner, il replicante più avanzato mai sviluppato, non importa che potrebbe avere solo pochi anni; i suoi ricordi si allungano molto di più, dandole l'impressione di aver vissuto molto più a lungo. Questo è ciò che rende Rachael una figura così tragica: i "suoi" ricordi non le appartengono. Vengono dalla nipote del suo inventore.
"È una cosa straziante, ma puoi immaginare [i ricordi] sono ancora speciali per lei anche dopo aver appreso che non sono davvero suoi", afferma Susan Schneider, professore di filosofia all'Università del Connecticut e membro dell'Etica e della tecnologia gruppo a Yale. "È come scoprire che sei la copia caricata, non la persona che sta eseguendo il caricamento. Ma hai ancora qualche relazione speciale con loro. Come un genitore. "
Ma non sono solo i ricordi o la razionalità che rendono un essere umano in Blade Runner. Ancora più importante, secondo il test di Voight-Kampff, è l'empatia. Dal momento che non possiamo leggere le menti o vedere alcuna prova fisica di esse, pensatori come il filosofo tedesco Theodor Lipps hanno sostenuto che possiamo percepire che gli altri sentono e agiscono come facciamo attraverso il potere dell'empatia.
Harrison Ford nel ruolo di Rick Deckard amministra il test Voight-Kampff nell'originale Blade Runner. (Warner Bros.) "The Blade Runner deve, ironicamente, testare l'empatia degli altri, non qui nel senso di Lipps, ma in quello della loro sensibilità verso un mondo naturale ormai perito popolato da animali non umani", scrive Norris nel suo articolo su la filosofia del film. È qui che nasce la famosa domanda sulla tartaruga intrappolata nel suo deserto.
"Le emozioni stesse non saranno mai una prova perfetta dell'umanità: anche i sociopatici sono umani, dopo tutto", ha detto via e-mail Deborah Knight, professore di filosofia alla Queen's University. “Ma le emozioni sono più che risposte non cognitive. Ci aiutano a esprimere giudizi su cosa dovremmo fare e su chi dovremmo aspirare ad essere. "
Ciò è particolarmente evidente nel caso del replicante Roy Batty, interpretato da Rutger Hauer. Roy prova emozioni simili all'uomo e ha aspirazioni, ma non ottiene una durata di vita umana, ha detto Knight. Roy è consapevole che, come gli altri replicanti, è stato costruito per morire dopo soli quattro anni, il che comprensibilmente lo fa arrabbiare.
Quindi i replicanti probabilmente provano emozioni e hanno ricordi. Questo li rende umani? Per Schneider, una risposta definitiva non ha necessariamente importanza. I replicanti condividono abbastanza qualità con gli umani da meritare protezione. “È un caso molto valido per il trattamento di [un non umano] con gli stessi diritti legali che diamo a un essere umano. Non chiameremmo [Rachel] un essere umano, ma forse una persona ", afferma.
Per Eric Schwitzgebel, professore di filosofia all'Università della California a Riverside, la conclusione è ancora più drammatica. "Se un giorno creeremo robot con capacità cognitive ed emotive simili all'uomo, dobbiamo loro più considerazione morale di quanto dovremmo normalmente a esseri umani altrimenti simili", scrive in Aeon. “Saremo stati i loro creatori e designer. Siamo quindi direttamente responsabili sia della loro esistenza che del loro stato felice o infelice. "
***
Blade Runner è solo un film e gli umani non sono ancora riusciti a creare replicanti. Ma abbiamo fatto molti progressi nell'intelligenza artificiale, dalle auto a guida autonoma che imparano ad adattarsi all'errore umano alle reti neurali che discutono tra loro per diventare più intelligenti. Ecco perché, per Schneider, le domande poste dal film sulla natura dell'umanità e su come potremmo trattare gli androidi hanno importanti implicazioni nel mondo reale.
“Una delle cose che ho fatto è pensare se mai sembrerà qualcosa di essere un'intelligenza artificiale. Ci sarà mai un Rachael? ”Dice Schneider, che usa Blade Runner nella sua classe di filosofia nelle fantascienze. Quest'anno, Schneider ha pubblicato un articolo sul test sviluppato con l'astrofisico Edwin Turner per scoprire se un essere meccanico potrebbe effettivamente essere cosciente. Come il test di Voight-Kampff, si basa su una serie di domande, ma invece di esigere la presenza di empatia - sentimenti diretti verso un altro - esamina i sentimenti sull'essere un sé. Il test, chiamato AI Consciousness Test, è in fase di brevetto a Princeton.
Il test differisce dal più famoso Test di Turing, sviluppato dal matematico Alan Turing nel 1951. In questo test precedente, un giudice avrebbe avviato una conversazione digitale con il partecipante (come quello che vivresti oggi nelle chat room), ponendo domande per discernere se l'intervistato era umano o una macchina. Ma come sottolinea Schneider nel suo articolo, gli scienziati possono sviluppare programmi che superano il test di Turing ma non sono esseri coscienti. Il test di Turing è interessato a valutare la verosimiglianza tra la risposta di una macchina e la risposta di un essere umano, non con la comprensione se la macchina è senziente o meno. Come il test Voight-Kampff, il test di coscienza AI di Schneider riguarda il tentativo di capire cosa sta accadendo all'interno della macchina.
Lavorare in questo modo è urgente, dice, perché l'umanità non è eticamente preparata ad affrontare le ripercussioni della creazione della vita senziente. Ciò che renderà ancora più difficile giudicare le nostre creazioni è la dipendenza umana dall'antropomorfismo per indicare ciò che dovrebbe essere considerato degno di considerazione morale. "Alcuni [robot] sembrano umani o sono carini e soffici, quindi pensiamo ai nostri cani e gatti", dice Schneider. “Ci fa credere che si sentano. Siamo molto creduloni. Si può scoprire che solo i sistemi biologici possono essere coscienti o che gli AI più intelligenti sono quelli coscienti, quelle cose che non sembrano umane. "
È importante che gli scienziati parlino con i filosofi - cosa che molti già fanno, dice Schneider - ma anche per i membri del pubblico che pensano attraverso le ripercussioni di questo tipo di tecnologia. E, aggiunge, non tutti i filosofi concordano sulla natura della coscienza, quindi non ci sono risposte facili.
Forse i film di Hollywood come Blade Runner: 2049 ci porteranno un passo in avanti verso quelle conversazioni. Ma in caso contrario, dovremo intraprendere il lavoro di entrare nel pantano etico da soli. Prima, piuttosto che dopo, o finiremo con un problema come i replicanti e non abbiamo idea di come rispondere.
