Immaginate di passeggiare vicino a uno snodo ferroviario. All’improvviso, vi accorgete che un carrello ferroviario è fuori controllo e sfreccia a tutta velocità lungo i binari. Guardando più avanti, vedete cinque operai legati sulle rotaie: il carrello li travolgerà in pochi secondi. Non potete avvertirli, ma notate che accanto a voi c’è una leva di scambio. Tirandola, devierete il carrello su un binario secondario, salvando i cinque operai.
C’è un solo problema: su quel binario secondario, c’è un’altra persona legata. Si hanno pochissimi secondi per decidere. Tirare la leva, condannando a morte una persona per salvarne cinque, o non fare nulla, lasciando che le cinque persone muoiano, ma mantenendo le mani “pulite”?
Benvenuto nel Trolley Problem, il più celebre esperimento mentale dell’etica contemporanea.
L’intuizione di Philippa Foot
Il dilemma del carrello venne formulato per la prima volta nel 1967 dalla filosofa britannica Philippa Foot in un saggio intitolato The Problem of Abortion and the Doctrine of the Double Effect. Qui, Foot cercava di analizzare il principio in base a cui è moralmente lecito compiere un’azione buona che ha una conseguenza negativa, a patto che il male non sia intenzionalmente desiderato come fine. Nel caso della leva, ad esempio, l’azione deviare il carrello ha l’intenzione di salvare i cinque operai; la morte del singolo sul binario secondario è una tragica conseguenza, ma non il vero obiettivo.
La matematica della morale contro i diritti umani
Di fronte a questo scenario, che sembra suscitare un blocco in ciascuno di noi, si sono scontrate le due principali correnti della filosofia morale.
Da una parte, la prospettiva utilitaristica — la scuola di pensiero associata a Bentham e Mill — propone un ragionamento calcolatore: l’azione giusta è quella che massimizza il benessere. Pertanto, siccome cinque vite valgono più di una, tirare la leva non è solo un’opzione, è un dovere morale assoluto.
Dall’altra, l’etica deontologica di stampo kantiano rifiuta di assumere a parametro morale le conseguenze, ma si propone di guardare all’azione in sé. Poiché l’imperativo categorico proibisce di usare un essere umano come mezzo e poiché, deviando il carrello, la vita del singolo diverrebbe “strumento” per salvare gli altri, compiere quest’azione porterebbe a macchiarsi di omicidio volontario.
L’ostacolo dell’empatia e l’esperimento di Vsauce
Se si pensa di aver risolto il problema schierandosi con gli utilitaristi, emerge un problema insidioso che prende il nome di “variante dell’uomo corpulento”, introdotta da Judith Jarvis Thomson nel 1985.
Lo scenario proposto da Thomson è il seguente: ci si trova su un cavalcavia sopra ai binari. L’unico modo per fermare il carrello è spingere giù dal ponte un uomo corpulento che si trova lì accanto. La sua mole fermerà il vagone, salvando i cinque operai, ma lui morirà. In questo caso, il risultato matematico è identico: uno si sacrifica perché cinque si salvino. Eppure, quasi nessuno sarebbe realmente disposto a spingere l’uomo giù dal ponte.
Questo accade perché la nostra morale non deriva solo dalla ragione utilitaristica, fredda e calcolatrice. Come già David Hume aveva intuito, il nostro giudizio morale è inevitabilmente radicato nei sentimenti e nella “simpatia“, intesa come capacità di percepire e condividere le emozioni altrui. Trovarsi faccia a faccia con la vittima innescherebbe una reazione empatica che manderebbe in tilt la matematica utilitaristica. Esiteremmo, proveremmo orrore, andremmo nel panico.
Ma che cosa succede quando l’etica passa dalla carta alla realtà? Se lo è chiesto lo youtuber Vsauce nella docuserie Mind Field. Attraverso un esperimento in cui soggetti inconsapevoli sono stati messi di fronte a veri monitor e a una vera leva, convinti che un treno stesse per travolgere cinque veri operai, egli ha mostrato come, sotto la pressione del tempo e del terrore, la maggior parte dei partecipanti si sia bloccata. Paralizzati dal peso della responsabilità, non sono riusciti a compiere alcuna azione. L’essere umano, semplicemente, va in panico. Ed è qui che entra in gioco la tecnologia.
Il nuovo carrello: le auto a guida autonoma
Negli ultimi anni, questo celebre dilemma ha abbandonato le aule di filosofia per trasferirsi nei dipartimenti di ingegneria della Silicon Valley. L’oggetto di analisi è divenuto lo scenario in cui i freni di un’auto a guida autonoma si guastano improvvisamente. Davanti all’auto, ci sono cinque pedoni che attraversano la strada; ai lati, spessi muri di cemento. Se l’auto prosegue, uccide i pedoni. Se sterza per evitarli, si schianta contro il muro, uccidendo il passeggero a bordo.
A differenza del soggetto umano terrorizzato nell’esperimento di Vsauce, il software dell’auto non va in panico. Il suo comportamento è il risultato di una scelta di design pre-calcolata.
Come dovrebbe essere programmato questo algoritmo? Per capirlo, già nel 2016 i ricercatori del MIT hanno lanciato la Moral Machine, una piattaforma online che sottopone a milioni di persone in tutto il mondo varianti del Trolley Problem applicate alle auto autonome.
I risultati hanno dimostrato che non esiste un’etica universale. Se nella maggior parte dei Paesi occidentali si preferisce salvare il maggior numero di persone, le priorità cambiano drasticamente a seconda dell’estrazione culturale, dell’età dei soggetti coinvolti o del loro status sociale.
Ma il cortocircuito più grande è emerso quando ai partecipanti è stato chiesto se avrebbero comprato un’auto a guida autonoma programmata in base a una prospettiva utilitaristica. Tutti concordano, infatti, sul fatto che le auto dovrebbero essere programmate per minimizzare le vittime totali, ma quasi nessuno è disposto ad acquistare un veicolo programmato per sacrificare il proprio proprietario in caso di emergenza.
Nel momento in cui deleghiamo la guida e la vita alle macchine, non stiamo solo risolvendo un problema ingegneristico. Stiamo letteralmente codificando la nostra moralità.
Deborah Solinas
Fonti
Feliciotti Irene, Dringoli Tommaso, “La coscienza morale delle auto intelligenti”, La ricerca, 13 ottobre 2020, ultima consultazione: 22 ottobre 2026, link: https://laricerca.loescher.it/la-coscienza-morale-delle-auto-intelligenti/
Vsauce, “The Trolley Problem in Real Life”, 06 dicembre 2017, ultima consultazione: 20 ottobre 2026, link: https://youtu.be/1sl5KJ69qiA?si=pNOZ9fN205pCh1Qk
Lascia un commento