Trolley problem e intelligenza artificiale: che etica dovremmo insegnare alle auto a guida autonoma?

un vagone ha perso il controllo e sta per investire cinque persone legate sul binario ma se qualcuno azione la leva che controlla il bio il vagone potrebbe cambiare strada investendo così una sola persona Ecco l'unica persona vicino alla leva sei tu veloce devi decidere tiri la leva sacrifichi una persona per salvarne cinque oppure preferisci non agire il tempo è finito Che cosa hai scelto che cosa Sceglieresti in una situazione del genere Eh lo so non è facile decidere non lo è mai quando si tratta di etica cioè di stabilire Che cosa è moralmente giusto e

che cosa è sbagliato ma perché vi sto parlando di etica perché un problema etico come questo viene affrontato in tecnologia immaginate che al posto del vagone ci fosse stata un'auto a guida autonoma che deve prendere una decisione tra investire cinque persone o sterzare e colpirne una sola che etica dovremmo insegnare noi all'intelligenza artificiale eh non è semplice Ora lo vediamo ma andiamo per ordine quello che abbiamo appena visto infatti è proprio un problema di etica il cosiddetto trolley problem che fu formulato nel 1967 dalla filosofa inglese Filippa FUT ragazzi è partita missione cultura e se

non sapete di cosa sto parlando o se volete supportarci trovate il link in descrizione scegliere o no di azionare la leva equivale a rispondere a questa domanda è più giusto lasciar morire oppure uccidere salvando vite che domandina eh Comunque se avete pensato che tirer reste la leva avete scelto quella che possiamo considerare il male minore cioè salvare cinque persone sacrificandosi e un'altra persona e L'unico modo per salvare le cinque persone sul binario è spingere l'altro uomo giù dal ponte ipotizzando che sia abbastanza imponente da bloccare il vagone impazzito una volta arrivato sui binari se vi

chiedessi di nuovo soprattutto a chi avrebbe azionato la leva è giusto lasciar morire oppure uccidere salvando vite spinger reste fisicamente L'uomo dal ponte per salvare cinque persone cambia molto eh la questione ora per ottenere il male minore dovrei uccidere proprio con le mie mani qualcuno sembra impossibile da fare Eppure formalmente Il problema è lo stesso di prima sacrifico una persona per salvarne cinque solo che c'è una variabile che ha cambiato tutto la fisicità dell'azione ora aggiungiamo un'altra variabile Supponiamo che riusciamo a essere così lucidi da scegliere il male minore e quindi pensare sì è più

giusto spingere la persona così ne Salvo cinque Allora in immaginate se la persona da spingere fosse la vostra persona preferita del mondo cambia tutto di nuovo eh è umano pensare che la mia persona preferita per me valga più di cinque persone sconosciute e se al contrario la persona da spingere fosse cattiva socialmente detestabile Allora sarebbe più lecito spingerla la sua vita varrebbe di meno sarebbe più sacrificabile e di osservazioni come questa possiamo farne migliaia quindi non solo dare attributi emotivi a chi dovremmo spingere Amabile o detestabile come abbiamo appena detto ma anche fisicità differenti persone

di età diverse culture diverse o magari appartenenti a delle minoranze o addirittura animali invece di persone e ognuno di noi darebbe una risposta diversa a seconda dei propri bias cioè dei propri pregiudizi le distorsioni del pensiero che fanno sì che ognuno di noi dia più o meno importanza alla vita di una persona a seconda delle sue caratteristiche però a un certo punto viene anche anche da dire bell'esperimento sociale imparare i nostri limiti i nostri pregiudizi però nella pratica quando mai ci troveremo in una situazione del genere che dobbiamo salvare cinque persone legate su un binario

dobbiamo tirare una leva o spingere qualcun altro è inverosimile e quindi a che cosa ci serve questo trolly problem pensiamo a questo di trolly problem una bambina attraversa all'improvviso la strada con il rosso magari Inseguendo una palla noi che siamo alla guida siamo troppo vicini per frenare e quindi dobbiamo decidere tempestivamente che cosa fare se investire la bambina O sterzare a destra investendo così una persona anziana che si trova sul marciapiede poniamo che riusciamo veramente a decidere che cosa fare e quindi non ad agire Di impulso Che cosa sceglieremmo è chiaro che è stata la

bambina a sbagliare Ma non ci viene forse più naturale salvare qualcuno che ha ancora tutta la vita davanti Allora forse è meglio sterzare e salvare la bambina a discapito dell'anziana signora Se però gli anziani fossero stati due oppure tre oppure cinque quante devono essere le persone sul marciapiede perché la vita della bambina diventi meno importante della loro sembra impossibile da decidere eticamente Chi è che è in grado di stabilire quale vita ha più o meno valore o quantomeno inconsciamente ognuno di noi dà valore differente alla vita delle persone anche se non vogliamo sono i bias

di cui parlavamo prima ma stabilire una regola universale è possibile Beh a conti fatti quando siamo alla guida in una situazione di pericolo come questa agiamo Di impulso Appunto non riusciamo a fare una valutazione del genere Diciamo che la decisione è dettata dal caso ma allora perché ve lo sto dicendo per questo le auto a guida autonoma Intendo quella a guida completamente autonoma Eh dove potete leggere un libro oppure dormire mentre State guidando questo tipo di vetture si basano su software di intelligenza artificiale che detto semplice e semplice prende decisioni a seconda della sua esperienza

cioè dei dati che possiede e di come gli insegniamo a interpretarli Infatti l'intelligenza artificiale va allenata noi l' alleniamo a saper leggere le situazioni e a prendere delle decisioni e quindi tornando al problema di prima cosa dovremmo Insegnarle quale etica dovrebbe seguire per prendere la sua decisione Se dovessimo trovare una linea generale verrebbe da dire che o seguiamo il male minore Quindi come all'inizio sacrificare meno persone possibile O seguire le regole che esistono in questo caso le regole della strada Se però adesso cambiamo colore al semaforo quindi la bambina sta attraversando correttamente col verde non

c'è più la signora anziana e immaginiamo che sia stata la nostra automobile ad avere un piccolo bug nel software e non ha frenato in tempo quindi stiamo per attraversare col rosso in questo caso sia seguendo il male minore che le regole della strada la soluzione sarebbe schiantarsi contro il muro e quindi chi paga sono io cioè il guidatore che poi in verità sono un passeggero saliremo una macchina del genere forse no Quindi sì vorremmo il male minore ma a patto che non sia il nostro vorremmo che venissero Seguite le regole della strada a patto che

non danneggino noi e anche qui scenari come questi Troll problem della vita reale ce ne sono migliaia cambiando il numero di persone le loro caratteristiche e ognuno di noi darebbe una risposta diversa a che cosa sarebbe giusto fare e potremmo stare anni e anni a pensare a cercare la soluzione perfetta che che però forse non esiste e quindi queste auto a guida autonoma non possono esistere no E invece esistono da qualche anno negli Stati Uniti Ma anche in Cina a Singapore Esistono i robotaxi cioè taxi senza conducente a guida autonoma si possono trovare solo in

alcune città e chiunque voglia può prenotarli e usufruire del servizio alcune aziende hanno addirittura dichiarato che potrebbero entrare in commercio entro il 2027 ma alla luce di tutto quello che abbiamo detto com'è possibile qui dobbiamo spostare un attimo la nostra attenzione ci siamo concentrati su casi estremi E anche un po' rari C'è una bambina che attraversa l'improvviso e devo scegliere se investire una persona anziana o sacrificarmi io stessa nella pratica nella vita di tutti i giorni più del 90% degli incidenti stradali non sono dovuti a situazioni come questa ma errori umani alla nostra distrazione o

negligenza alla guida le macchina guida autonoma eliminano o comunque si avvicinano molto all' eliminare questo tipo di problemi per che non si distraggono non guidano quando sono agitate o sotto l'effetto dell'alcol non superano i limiti di velocità guidano prudentemente hanno occhio ovunque una trentina di telecamere una vista a 360° che noi non abbiamo e si fermano in presenza di pedoni prevedendo che possano attraversare la stragrande maggioranza degli incidenti provocati da queste vetture hanno portato a danni minimi da questo punto di vista Sono più sicure della guida umana e tra l'altro consentono anche l'utilizzo delle automobili

a chi attualmente non potrebbe usarle come ad esempio persone con disabilità invalidanti per la guida ma allora detto questo cambiamo domanda completamente perché non esistono ovunque ci sono ancora dei problemi da risolvere per esempio non tutte le strade si prestano perfettamente alla loro messa in circolazione perché hanno ancora problemi a riconoscere tutti i possibili difetti delle strade oppure i lavori in corso poi hanno bisogno di molti dati per fare le proprie predizioni e che le strade dove circolano siano perfettamente mappate ma un altro grandissimo problema è quello della responsabilità legale Se malauguratamente avviene un incidente

con danni di chi è colpa mia che però non sto veramente guidando non ho controllo su quello che succede Allora forse è della casa produttrice dell'automobile e poi c'è il problema della percezione a volte un errore casuale umano ci risulta più accettabile che un evento predeterminato da un software infine la verità è che non siamo ancora al livello per cui un auto guida autonoma sia in grado di leggere istantaneamente tutta la situazione come nell'esempio che abbiamo fatto quindi stabilire Quante persone ci sono l'età di tutti i presenti e capire qual è il male minore ma

prima o poi sarà in grado di farlo la tecnologia arriverà lì e a quel punto non sarà più solo un problema tecnologico ma anche etico e di Cooperazione sociale Sì perché la tecnologia esiste a prescindere dalla nostra capacità di risolvere i problemi etici che presenta però li presenta li crea E quando ci ci troveremo ad affrontarli e già ci troviamo a farlo dobbiamo essere pronti noi stessi esistiamo a prescindere dalla nostra capacità di risolvere i problemi etici ed è vero spesso non sappiamo risolverli Però possiamo pensare quali compromessi siamo capaci di accettare e siamo in

grado di stabilire un contratto sociale comune quello che abbiamo visto in questo video Era un esempio forse un po' estremo per cercare di riflettere e di capire Prima di tutto che i software non sono esseri perfetti possono sbagliare molto meno di noi ma può accadere c'è Addirittura chi lo trova confortante e siamo noi a dovergli insegnare come rimediare a un errore Come essere etici addirittura più etici di noi qualunque cosa significhi bene ragazze e ragazzi io Spero davvero che questo video vi abbia aiutati a capire che cosa vuol dire che l'intelligenza artificiale deve avere un'etica

ma soprattutto che quell'etica gliela diamo noi Io vi ringrazio per avermi seguita E come al solito vi do appuntamento al prossimo video sempre qui su geopop le scene nella vita di tutti i giorni