Site Overlay

Problem dylematu wagonika- eksperyment myślowy

Czas czytania: 6 minut

Dylemat wagonika (ang. trolley problem) to zapewne jeden z najistotniejszych
i zarazem najpopularniejszych eksperymentów myślowych w etyce ostatnich dekad.

Osoby biorące w nim udział zostają postawione w sytuacji, w której rozpędzony wagon kolejowy jedzie wprost na przywiązaną do torów piątkę osób. Nie działają hamulce, jednak jako bezstronny obserwator mamy możliwość przekierowania pojazdu na boczny tor. Niestety, ta opcja również niesie za sobą tragiczne konsekwencje – na końcu trasy obranej po przełożeniu wajchy także czeka śmierć, tyle że nie grupy a jednej osoby. Cały problem sprowadza się do odpowiedzi na pytanie: działać czy pozostać biernym? Jeśli zdecydujemy ocalić życie większości, bierzemy na siebie bagaż moralny związany ze świadomym wyborem zabicia względnie bezpiecznej osoby. Gdy pozostaniemy bierni życie straci więcej osób, jednak nasza bierność niejako uwolni nas od odpowiedzialności związanej z podjętym działaniem. Na przestrzeni lat modyfikowano opisywane sytuacje tak, aby jak najbardziej uwydatnić wagę zabicia. Przykładowo zamiast jedynie zmienić tor jazdy wagonika, chcąc ocalić piątkę osób musielibyśmy zepchnąć na tor jednego człowieka, który ginąc zatrzymałby pojazd. Skutki są takie same jak w przypadku oryginalnego problemu, jednak znaczna część osób, które wcześniej decydowały się na poświęcenie jednego na rzecz większości, w tym wypadku nie była już tak pewna słuszności swojego wyboru. Powstało także wiele wariantów komplikujących wybór – kogo ocalić – otyłego czy atletę, dziecko czy starca, mężczyznę czy kobietę, bezdomnego czy lekarza itd. Pierwotne „działać czy pozostać biernym” zmieniło się w próbę ważenia żyć i określania kto zasługuje na bycie ocalonym. W mojej opinii ta komplikacja wyboru jednocześnie zmąciła (i tak już zachwianą) moralną przejrzystość dylematu. Zachwianą, bowiem problem nie ostał się bez krytyki, szczególnie nasilonej
w ostatnim dziesięcioleciu.

Jakiś czas temu natrafiłem na prowadzone przez Massachusetts Institute of Technology badanie[1], w którym to stajemy właśnie przed tytułowym problemem i to ono zapoczątkowało moje przemyślenia.

Stojąc przed wyborem (oczywiście, abstrakcyjnego) celowego przejechania kilku staruszek lub braku ingerencji i pozbawienia życia grupki dzieci, uderzyło mnie poczucie, że zwyczajnie nie jestem osobą, która powinna o tym decydować i odczułem pewien dyskomfort. Później rozmawiałem o tym z kilkoma znajomymi i okazuje się, że wielu podziela moje doświadczenia. Skłoniło mnie to do poszukania w Internecie informacji o ewentualnej krytyce dylematu. Okazuje się, że od pewnego czasu psychologia dostrzega negatywy związane z eksperymentem. Ciekawym stanowiskiem wydaje się na przykład postawiona przez grupę badaczy[2] z Amerykańskiego Towarzystwa Psychologicznego teza jakoby tego typu dylematy ofiarne (ang. sacrificial dillemas) mierzyły tylko jeden aspekt tendencji proto-utylitarnych, a mianowicie permisywne postawy wobec krzywdy, ignorując bezstronną troskę o większe dobro. W związku z tym autorzy argumentowali, że dylemat, a szerzej – eksperyment – stanowi tylko częściową miarę utylitaryzmu. Jest to niezmiernie istotne w kontekście przenoszenia wyników badań na realia naszego świata, do czego odniosę się w dalszej części tekstu. O ile samego badania nie określiłbym jako negatywne, to jednak stanowi ono dobry punkt wyjścia do dalszych rozważań oraz krytyki ciekawych zjawisk z nim związanych. Zacznę od problemu trywializacja zagadnienia, przykładowo poprzez przeobrażenie go w grę imprezową (np. Trial by Trolley: an Adult Card Game of Moral Dilemmas and Murder) i szablon do memów. Teoretycznie nie wydaje się to bardziej wątpliwe moralnie niż choćby granie w gry komputerowe polegające na zabijaniu, bowiem w obu przypadkach sytuacja jest nierzeczywista i nie wyrządza się nikomu realnej krzywdy. Moim zdaniem czynnikiem decydującym o różnicy pomiędzy tymi zjawiskami jest to, że dylemat wagonika powstał jako eksperyment mający na celu wykazanie niespójności i dziur w naszych systemach wartości i niekonsekwencji logicznych w myśleniu oraz odkrycie aksjomatów moralnych którymi nieświadomie się posługujemy, a tymczasem odkrytym po latach problemem okazuje się właśnie trywializacja. Nie można jej jednak uznać za złą samą w sobie – nie chciałbym bowiem odbierać należnego kulturze prawa do obracania czegoś w żart. Oczywiście, można podać w wątpliwość wartość kulturalną tych zabiegów i zapytać czy faktycznie są one czymś pożądanym czy też zwykłym niezrozumieniem tematu
i sprowadzeniem go do niegodnego poziomu, niemniej w obu przypadkach, aby świadomie krytykować deprecjację wartości i powagi problemu należy wpierw określić jej realne skutki.

Obecnie temat dylematu wagonika pojawia się głównie w kontekście pojazdów autonomicznych i tego jakie decyzje będą one potencjalnie „podejmowały” w przyszłości.

Oczywiście, jest to znacznie bardziej zniuansowane zagadnienie, więc opisanie go pozwolę sobie zostawić na inną okazję i bezpośrednio przejdę do jego związku z głównym wątkiem tekstu. Otóż, słuszność wyboru względnie mniejszego zła zależy w sporej mierze od jej postrzegania przez społeczeństwo, bowiem to ono stanowi główne źródło legitymizacji tego typu działań. Co ciekawe, po części taki właśnie jest cel ww. badania. Na stronie internetowej badaczy możemy przeczytać, że znajdujemy się na „platformie gromadzącej ludzką perspektywę decyzji moralnych podejmowanych przez inteligencję maszynową”[3]. Uzyskana baza szczegółowych danych z uwzględnieniem wieku, płci, wykształcenia, zarobków itp. ankietowanych oraz ich dokładne preferencje przy każdym podjętym osądzie moralnym wydawać by się mogło pozwala na możliwie najlepszą pod względem akceptacji społecznej, mocno osadzoną w przekonaniach większości decyzję. Wróćmy teraz do zjawiska trywializacji i zastanówmy się czy i ewentualnie jak wpływa ono na naszą przyszłość. Wokół dylematu powstała ciekawa dychotomia – z jednej strony jest on ważnym eksperymentem, który zapewne będzie czynnikiem w pewnym stopniu kształtującym naszą rzeczywistość, z drugiej zaś, stał się obiektem żartów i zabaw. Dodatkowo, gdy pod uwagę weźmiemy wspomniany już nieco wyżej artykuł z magazynu Psychological Review i przedstawione w nim tendencje, implementacja wyników badania do świata i używanie ich jako kierunkowskazu przy tworzeniu, dajmy na to systemów decyzyjnych dla samochodów autonomicznych staje się jeszcze bardziej wątpliwa. Wzrastający potencjał do zastosowania dylematu w otaczającej nas rzeczywistości wcale nie wiąże się jednak z proporcjonalnym zwiększeniem przywiązywanej do niego wagi. Po raz pierwszy problem wykorzystano na początku XX wieku jako narzędzie przy rozważaniu zagadnienia aborcji, następnie przez lata pozostawał on w sferze czysto teoretycznych dylematów, które – choć pasjonujące – nie wpływały zbytnio na świat. Teraz, gdy w perspektywie mamy możliwość szerokiego wykorzystania przemyśleń i danych zebranych w wyniku badań, do realnego kształtowania otoczenia, rozważanie problemu wielokrotnie wzrasta na wadze. Zamiast traktować cały dylemat jako żartobliwą błahostkę starajmy się stawiać więcej pytań – o klarowność moralną, uzasadnienie wyboru i ostatecznie – wpływ na ludzkie życie.

Temat pozostanie niewyczerpany jeszcze przez lata, a kolejne stawiane pytania będą coraz bardziej nurtujące. Próba opisania tak złożonego problemu zawsze skończy się – jak
w przypadku tego tekstu – na zaledwie delikatnym poruszeniu go. Jednak to nie opisanie było moim celem, a skłonienie do własnych przemyśleń, stąd (mam nadzieję) pewne poczucie niedopowiedzenia i niedosyt.


[1] Moral Machine

[2] “Beyond Sacrificial Harm: A Two-Dimensional Model of Utilitarian Psychology” Keith J. Holyoak, Guy Kahane,1 Jim A. C. Everett, Brian D. Earp, Lucius Caviola, Nadira S. Faber, Molly J. Crockett i Julian Savulescu

[3] „platform gathering a human perspective on moral decisions made by machine intelligence” – tłum. własne

Autor: Joszko Suchan