(c) Graphicstock

Samořízená auta a trolley problémy

Zabít jednoho vs. nechat zemřít pět lidí.

Jedním z nejikoničtějších myšlenkových experimentů v oblasti etiky je trolley problém, který se nyní může objevit i v reálném světě, jakmile se začnou využívat autonomní vozidla. Vlaky bez řidiče již totiž jezdí v desítkách měst po celém světě a mohly by tuto scénu oživit. Klasické dilema zahrnuje rozjetou tramvaj (nebo vlak), jež se chystá přejet a zabít pět lidí stojících na kolejích, kteří si rizika nejsou vědomi. Při pohledu na scénu zvenčí zjistíte, že stojíte vedle výhybky: pokud za ni zatáhnete, můžete vlak odklonit na pravou kolej, a tím zachránit pět osob na trati. Na této koleji však bohužel stojí další jedna osoba, kterou by vlak při nárazu zabil. Jaké rozhodnutí je správné?

O správném“ rozhodnutí se filosofii stále hodně diskutuje. Obě možnosti se zdají být rozumné a obhajitelné. Zastánce konsekvencialismu by mohl ospravedlnit přehození výhybky záchranou pěti lidí, byť na úkor jednoho. Odpůrce této etické teorie, který bere v úvahu více než jen morální aritmetiku či důsledky, by mohl namítnout, že přehození výhybky představuje akt zabití (jednoho člověka), zatímco neudělat nic znamená pouze nechat někoho zemřít (pět osob); a že morálně i právně je horší zabít než nechat zemřít.
Zabití znamená, že jste přímo odpovědní za smrt člověka: kdybychom neudělali to, co jsme udělali, dotyčný by žil. Nechat zemřít však znamená mnohem menší odpovědnost na naší straně, pokud vůbec nějakou, protože již probíhal nějaký kauzální proces, který jsme nezahájili ani jinak neovlivňovali. Otázka, zda je horší zabít než nechat zemřít, je předmětem diskusí i ve filosofii. Pro tuto chvíli ji však nechme stranou, protože pro naši debatu není nutná definitivní odpověď, pouze to, že nějaká rozumná odpověď existuje. (Tématu se podrobněji věnuje podkapitola Trolleyologie a kategorizace újmy.)
Přizpůsobíme si trolley problém dané technologii a předpokládejme, že autonomní automobil řídíme v manuálním režimu; máme nad ním kontrolu. Ať už úmyslně, nebo ne (můžeme mít vražedné úmysly či jen být nepozorní) můžeme přejet a zabít pět chodců. Systém našeho vozu pro zabránění nehodám detekuje možný problém, aktivuje se a násilím převezme řízení vozu. Aby zabránil katastrofě, uhne jediným možným směrem, řekněme doprava. Vpravo se však nachází jediný chodec, kterého náraz bohužel zabije.
Bylo toto rozhodnutí našeho vozidla správné? Zastánci konsekvencialismu by opět řekli – ano: je lepší, když zemře jen jeden člověk než pět. Ale jeho odpůrci by se mohli odvolávat na morální rozdíl mezi zabitím a ponecháním smrti, což je pro výrobce OEM důležité kvůli odpovědnosti. Pokud auto násilím nepřevezme řízení z rukou lidského řidiče, pak by zřejmě nebylo (a s ním OEM) odpovědné za smrt pěti chodců; auto jsme řídili my. Pouze by nechalo tyto chodce zemřít. Pokud však kontrolu převezme a učiní rozhodnutí, které má za následek smrt člověka, pak se stává (a s ním OEM) odpovědným za usmrcení člověka.
Stejně jako v Na důsledcích záleží, takže není podivné životy i na úkor menšího počtu životů. Zároveň se však zdá rozumné si myslet, že zabít je horší než nechat zemřít, zejména v očích zákona. To, co zde chci zdůraznit, není ani tak odpověď, ale proces uvažování, který nás směřuje k jedné odpovědi a vzdaluje od druhé. Protože může existovat mnoho přijatelných odpovědí na dané etické dilema, je možnost dobré obhajoby zvolené odpovědi důležitá pro její preferenci před ostatními.
Automobilový průmysl by opět udělal dobře, kdyby nastavil očekávání veřejnosti a otevřel širokou diskusi vysvětlující, jaké důvody existují pro určité volby řídicích algoritmů, které mohou vést k životu či smrti. Transparentnost neboli neskrývání morální aritmetiky je důležitou součástí etické reflexe, nejen odpovědi samé.

tento text je úryvkem z knihy
Kolektiv autorů: Automatizované řízení vozidel a autonomní doprava
Academie 2022
O knize na stránkách vydavatele

obalka-knihy

Naši nejmladší trilobiti a nejstarší tropické pralesy

V období sedimentace ostravského souvrství se na naše území naposledy rozšířilo moře obývané trilobity. Tu …

2 comments

  1. S rozklíčováním věty „O správném“ rozhodnutí se filosofii stále hodně by mohl ospravedlnit…“ mám problém ještě větší než s přehozením výhybky.

  2. Pavel Houser

    dekuji. pardon. vypadl radek z puvodniho pdf pri copy-paste (deterministicky takto, ted jsem zkusil znovu). jestli jsem se nejaky format naucil opravdu uprimne nenavidet, je to prave pdf. pritom dodnes se najdou xxx, kteri v pdf posilaji tiskove zpravy (to tedy s timto nesouvisi; u knih jde o to, ze obvykle dostanu pdf, protoze uz je to po dalsi korekture).

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *

Používáme soubory cookies pro přizpůsobení obsahu webu a sledování návštěvnosti. Data o používání webu sdílíme s našimi partnery pro cílení reklamy a analýzu návštěvnosti. Více informací

The cookie settings on this website are set to "allow cookies" to give you the best browsing experience possible. If you continue to use this website without changing your cookie settings or you click "Accept" below then you are consenting to this.

Close