Salve Steemers, l'argomento che vorrei trattare oggi è molto controverso e tratta di Tecnologia e Scienze Cognitive, ma veniamo a noi.
Di questo famoso dilemma ci sono più versioni, consideriamo comunque l'accezione base, fingiamo per un attimo di essere a uno scambio ferroviario, davanti a noi abbiamo una leva che possiamo azionare in un qualsiasi momento.
Sul binario principale ci sono 5 uomini legati e immobilizzati il cui destino è inevitabile, il treno li travolgerà tutti uccidendoli, a meno che decidiamo di azionare lo scambio e deviare il treno sul binario secondario dove però si trova una persona legata alle rotaie e che verrà inevitabilmente travolta e uccisa.
In uno studio1 della Ghent University apparso su Focus 2, che ha riprodotto questo esperimento con dei topi.
E' stato posto a 200 persone il seguente dilemma, sarebbe stata applicata una fortissima scarica elettrica a una gabbia di topi che li avrebbe uccisi, a meno che non si decide di premere un tasto, che devia la scarica a una gabbia secondaria dove è all'interno un solo topo.
Durante la prima fase, dove venivano manifestate le "intenzioni" degli individui partecipanti al test, 2 individui su 3 hanno manifestato l'intenzione di premere il tasto e fare una scelta utilitaristica, sacrificare uno invece di sacrificarne molti.
Nella seconda fase del test invece gli individui sono stati messi fisicamente davanti alla scelta e sotto pressione e come è stato già dimostrato, in questi casi l'emotività del momento è una variabile che non si può escludere, quindi l'84% dei 200 individui partecipanti al test, ha scelto di salvare il gruppo di topi a discapito del singolo topo.
La scarica elettrica era finta, nessun topo è stato folgorato nell'esperimento
Non esistono scelte giuste o sbagliate nel "Trolley Problem", ognuno agirebbe secondo la sensibilità e guidato dalle proprie emozioni, ma allora perché ne abbiamo parlato? e perché parliamo di macchine programmate per uccidere?
Il progresso tecnologico porterà sicuramente in futuro a macchine a guida autonoma, anzi, numerosi prototipi sono già sulle strade per perfezionare la tecnologia.
Ed ecco che qua ci troviamo davanti al problema reale, il software di guida non essendo emotivo dovrà compiere una scelta e tale scelta dovrà essere programmata e codificata da un essere umano, programmando di fatto un computer con la possibilità di uccidere.
Le automobili a guida autonoma hanno innumerevoli vantaggi, la guida autonoma non ha bisogno di riposo, è più efficiente, inquina meno e ridurrà di molto il numero di incidenti, si stima una percentuale vicina al 90.
Ma il restante 10% degli incidenti?
Come si comporterà una macchina a guida autonoma se si troverà davanti la scelta tra sacrificare un gruppo di 10 pedoni sulla strada o sacrificare il guidatore? Magari deviando la traiettoria del veicolo contro un muro.
Secondo il problema enunciato precedentemente la scelta "migliore" è salvare molti e sacrificare uno, però in questo caso l'uno è il proprietario dell'auto.
Comprereste mai un auto che decida per voi di sacrificarvi? probabilmente la risposta è no.
Accettereste mai che possa circolare un'auto che per preservare il conducente investa decine di persone? probabilmente anche questo caso la risposta è negativa.
Ma le implicazioni morali non si fermano qua, come dovrebbe valutare un software una famiglia? e un bambino piccolo? una persona anziana? una malata? un pregiudicato? un politico? colui che ha programmato il software stesso? e se dovesse scegliere se investire individuo A rispetto a individuo B?
Qualcuno dovrà mettere in fila i valori e l'utilità di tutti i tipi di individui e programmare una macchina che decida di sacrificare, a questo proposito sono stati fatti degli studi 3.
Gli studi che vi proporrò possono essere divisi in due gruppi:
Nel primo studio è stato chiesto a 186 individui se era meglio programmare l'autovettura per salvare il passeggero o salvare dieci pedoni e il 76% ha espresso una preferenza sul sacrificare il passeggero e alla domanda di valutare in una scala da 0 a 100, dove 0 era proteggere il passeggero a tutti i costi e 100 era minimizzare a ogni costo il numero delle vittime la media si è avvicinata molto all'85%, anche se gli individui presi in esame credono che non saranno programmate in questo modo.
Nel secondo studio invece è stato chiesto di scegliere tra sacrificare il passeggero e un solo pedone e il risultato è stato invece inverso, secondo gli intervistati solo il 26% salverebbe il pedone, la percentuale si alza però man mano che aumenta i numero di pedoni.
Il primo studio del secondo gruppo consiste nel capire se le persone comprerebbero una di queste auto, i valori ottenuti sono molto interessanti, praticamente nessuno comprerebbe un'auto che sacrificherebbe i passeggeri se quest'ultimi possono essere membri della propria famiglia, i valori invece si invertono salendo fino al 50% di un'auto che sacrificherebbe anche 10-20 pedoni se a bordo si trovassero i membri della propria famiglia, andando a contrastare quello che fino a qua era stato sostenuto dagli intervistati.
Anche nel secondo studio del secondo gruppo si pone l'accetto sulla differenza di quello che viene ritenuto "moralmente accettabile" alla scelta di acquistare o meno una di queste automobili, se i valori di uccidere un pedone per salvarne dieci o uccidere un pedone per salvarne un altro sono in linea con quello dichiarato, i valori scendono di 10-15 punti percentuali quando si tratta di sacrificare il conducente.
Questi sono solo alcuni dei dilemmi etici che si presentano dinnanzi a noi e dovranno essere risolti prima di veder circolare su strada in modo capillare le automobili a guida autonoma, definendo delle regole su chi possono sacrificare e chi possono salvare.
Bigliografia e Fonti
