Molta discussione e pensiero etico sulle auto a guida autonoma si sono concentrati su tragici dilemmi, come ipotesi in cui un'auto deve decidere se correre su un gruppo di scolari o tuffarsi da una scogliera, uccidendo i propri occupanti. Ma questo tipo di situazioni sono casi estremi.
Come dimostra l'incidente più recente - in cui un'auto a guida autonoma ha ucciso un pedone a Tempe, in Arizona -, le banali situazioni quotidiane ad ogni passaggio pedonale, svolta e incrocio presentano dilemmi etici molto più duri e più ampi.
Etica degli estremi
Come filosofo che lavora con ingegneri nel Centro per la ricerca automobilistica di Stanford, sono stato inizialmente sorpreso dal fatto che abbiamo trascorso le nostre riunioni di laboratorio discutendo di quello che pensavo fosse una domanda facile: come dovrebbe una macchina a guida autonoma avvicinarsi a un attraversamento pedonale?
La mia ipotesi era che avremmo pensato a come un'auto avrebbe dovuto decidere tra la vita dei suoi passeggeri e quella dei pedoni. Ho saputo pensare a tali dilemmi perché questi scenari di schianto assomigliano a un famoso rompicapo filosofico chiamato "problema del carrello". Immagina che un carrello in fuga si stia scagliando lungo i binari e sia destinato a colpire un gruppo di cinque persone o una sola persona. ucciderne uno per salvarne cinque?
Tuttavia, molti filosofi al giorno d'oggi dubitano che indagare su tali domande sia un fruttuoso percorso di ricerca. Barbara Fried, una collega di Stanford, per esempio, ha sostenuto che tragici dilemmi fanno credere alle persone che i dilemmi etici sorgano principalmente in circostanze estreme e terribili.
In effetti, i dilemmi etici sono onnipresenti. Ogni giorno, le situazioni banali sono sorprendentemente disordinate e complesse, spesso in modi sottili. Ad esempio: la tua città dovrebbe spendere soldi per un programma di prevenzione del diabete o per più assistenti sociali? Il vostro dipartimento di sanità pubblica locale dovrebbe assumere un altro ispettore per gli standard di igiene dei ristoranti o continuare un programma che fornisca aghi e forniture di iniezione gratuiti?
A queste domande è estremamente difficile rispondere a causa delle incertezze sulle conseguenze, ad esempio chi sarà interessato e in che misura. Le soluzioni che i filosofi hanno proposto per situazioni estreme e disperate sono di scarso aiuto qui.
Il problema è simile con le auto a guida autonoma. Pensare a situazioni estreme e scenari di crash non può aiutare a rispondere alle domande che sorgono in situazioni banali.
Una sfida alle strisce pedonali
Ci si potrebbe chiedere: cosa può esserci di così difficile in situazioni di traffico banale come avvicinarsi a un passaggio pedonale, guidare attraverso un incrocio o girare a sinistra. Anche se la visibilità al passaggio pedonale è limitata ed è talvolta difficile stabilire se un pedone vicino vuole davvero attraversare la strada, i conducenti affrontano questo problema ogni giorno.
Ma per le auto a guida autonoma, situazioni così banali rappresentano una sfida in due modi.
Facile per l'uomo spesso significa difficile per i computer. (XKCD, CC BY-SA) Primo, c'è il fatto che ciò che è facile per l'uomo è spesso difficile per le macchine. Che si tratti di riconoscere volti o andare in bicicletta, siamo bravi nella percezione e nei compiti meccanici perché l'evoluzione ci ha costruito queste abilità. Ciò, tuttavia, rende queste abilità difficili da insegnare o da progettare. Questo è noto come "Paradosso di Moravec".
In secondo luogo, in un futuro in cui tutte le auto sono auto a guida autonoma, piccole modifiche al comportamento alla guida farebbero una grande differenza nel complesso. Le decisioni prese oggi dagli ingegneri, in altre parole, determineranno non come guida una macchina, ma come guidano tutte le macchine. Gli algoritmi diventano una politica.
Gli ingegneri insegnano ai computer come riconoscere volti e oggetti usando metodi di apprendimento automatico. Possono usare l'apprendimento automatico anche per aiutare le auto a guida autonoma a imitare il modo in cui gli umani guidano. Ma questa non è una soluzione: non risolve il problema che gli ingegneri prendono decisioni ad ampio raggio in materia di sicurezza e mobilità.
Inoltre, le auto a guida autonoma non devono guidare come le persone. Gli umani non sono in realtà buoni guidatori. E guidano in modi eticamente preoccupanti, decidendo se cedere alle strisce pedonali, in base all'età, alla razza e al reddito dei pedoni. Ad esempio, i ricercatori di Portland hanno scoperto che i pedoni neri passano per il doppio delle macchine e hanno dovuto aspettare un terzo in più rispetto ai pedoni bianchi prima di poter attraversare.
Le auto a guida autonoma dovrebbero guidare in modo più sicuro e più equo delle persone.
Etica mondana
I problemi etici si approfondiscono quando si assistono ai conflitti di interesse che affiorano in situazioni banali come strisce pedonali, curve e incroci.
Ad esempio, la progettazione di auto a guida autonoma deve bilanciare la sicurezza degli altri - pedoni o ciclisti - con gli interessi dei passeggeri delle auto. Non appena un'auto procede più veloce del passo, non è in grado di evitare di schiantarsi contro un bambino che potrebbe correre sulla strada nell'ultimo secondo. Ma il ritmo della camminata è, ovviamente, troppo lento. Tutti hanno bisogno di arrivare in posti. Quindi, come dovrebbero gli ingegneri trovare l'equilibrio tra sicurezza e mobilità? E quale velocità è abbastanza sicura?
Vi sono anche altre domande etiche. Gli ingegneri devono fare un compromesso tra mobilità e impatti ambientali. Quando vengono applicati su tutte le auto del paese, piccoli cambiamenti nell'accelerazione, in curva e in frenata controllati dal computer possono avere enormi effetti sul consumo di energia e sulle emissioni inquinanti. In che modo gli ingegneri dovrebbero compromettere l'efficienza dei viaggi con l'impatto ambientale?
Quale dovrebbe essere il futuro del traffico?
Situazioni banali pongono nuovi problemi ingegneristici ed etici, ma portano anche le persone a mettere in discussione i presupposti di base del sistema del traffico.
Per quanto mi riguarda, ho iniziato a chiedermi se abbiamo bisogno di posti chiamati "strisce pedonali"? Dopotutto, le auto a guida autonoma possono potenzialmente rendere sicuro attraversare una strada ovunque.
E non sono solo le strisce pedonali a diventare inutili. Anche i semafori agli incroci potrebbero appartenere al passato. Gli umani hanno bisogno di semafori per assicurarsi che tutti possano attraversare l'incrocio senza schianto e caos. Ma le auto a guida autonoma potrebbero coordinarsi senza problemi.
La domanda più grande qui è questa: dato che le auto a guida autonoma sono migliori dei conducenti umani, perché le auto dovrebbero essere soggette a regole progettate per la fallibilità umana e gli errori umani? E per estendere questo esperimento mentale, considera anche la domanda più generale: se noi, come società, potessimo progettare il nostro sistema di traffico da zero, come vorremmo che fosse?
Poiché queste domande difficili riguardano tutti in una città o in una società, richiedono una città o una società per concordare le risposte. Ciò significa bilanciare gli interessi in competizione in un modo che funzioni per tutti, indipendentemente dal fatto che le persone pensino solo alle strisce pedonali o al sistema del traffico nel suo insieme.
Con le auto a guida autonoma, le società possono riprogettare i loro sistemi di traffico. Dal passaggio pedonale alla progettazione del traffico generale, sono le situazioni banali che sollevano domande davvero difficili. Le situazioni estreme sono una distrazione.
Il problema del carrello non risponde a queste domande difficili.
Questo articolo è stato originariamente pubblicato su The Conversation.
Johannes Himmelreich, collega interdisciplinare sull'etica, Centro per la famiglia McCoy dell'Università di Stanford per l'etica nella società
