Psychologia

O broni autonomicznej

O broni autonomicznej
Czas czytania: 6 minuty

Coraz bardziej dynamiczny rozwój technologii stawia nas co chwila przed stopniowo trudniejszymi moralnie decyzjami. Dobrze widać to, gdy weźmiemy na tapet kwestię broni autonomicznej i rozważymy potencjalne implikacje wynikłe z wprowadzenia jej do użytku.

W tym tekście postaram się przedstawić, dlaczego takie rozwiązanie, choć nie idealne, mogłoby okazać się dobre.

Zacznijmy od rozpatrzenia pozytywów, aby w dalszej części móc skupić się na kontrargumentacji najistotniejszych przesłanek przeciwników tego rozwiązania.

Podstawową i najbardziej intuicyjną korzyść stanowi moim zdaniem ograniczenie wyrządzanej krzywdy
i cierpienia.

Wojna jest zła sama w sobie,

dlatego (przy założeniu, iż nie można jej zapobiec) należy dążyć do możliwie największej minimalizacji powodowanych przez nią szkód.

Robot – w odróżnieniu od człowieka – nie odczuwa zmęczenia ani emocji i działa z nomen omen maszynową precyzją. Fakt ten (przynajmniej przy obecnym stadium rozwój) nie eliminuje możliwości wystąpienia błędu, jednak należy zauważyć, że przecież tradycyjna armia również ma ją zapisaną w naturze. Co więcej, bardziej prawdopodobny wydaje się scenariusz, w którym błąd popełni zmęczony, a często i straumatyzowany żołnierz, niż wysoce zaawansowana maszyna zaprogramowana, aby zabijać jedynie wyselekcjonowane cele przy jednoczesnej ochronie cywilów.

Gdy jednak przyjrzymy się sprawie nieco uważniej, zauważymy, iż to nie sama możliwość wystąpienia nieprawidłowości stanowi rdzeń tego argumentu.

Jest nim luka odpowiedzialności, która rzekomo powstaje w momencie zastosowania broni autonomicznej.

Przeciwnicy stosowania tego typu maszyn zarzucają jakoby zbrodnia wojenna popełniona przez urządzenie była niejako gorsza od tożsamej zbrodni popełnionej przez człowieka, bowiem dochodzi do rozmycia odpowiedzialności. 

Samo takie twierdzenie wydaje się absurdalne, ale nawet uznając je za słuszne, łatwo zaobserwować, że takie zjawisko nie zachodzi.

Odpowiedzialnością za działania wojenne robotów należy w pełni obarczać osoby decydujące się na ich używanie.

Nie programistów (jeśli przedstawią potencjalne zagrożenia i niedoskonałości systemu), nie szeregowych żołnierzy, którzy wykonują rozkazy, a właśnie dowództwo, bowiem ostatecznie to ono, jako świadome skutków powinno zostać obciążone winą. Takie rozwiązanie może nawet implikować dodatkowe korzyści.

Władza, wiedząc, iż przypadnie jej wszelka odpowiedzialność będzie ostrożniejsza z wprowadzaniem niepewnych rozwiązań, co z kolei ogranicza potencjalność błędu.

Ponadto, należy mieć na uwadze, że roboty, nawet w pełni autonomiczne, wciąż nie są świadomymi podmiotami – człowiek ciągle sprawuje nad nimi kontrolę i decyzyjność należy do niego

(autonomia ≠ świadomość)

Maszyny jedynie wybierają drogę, do narzuconego przez system celu. Co więcej, jest to możliwie najbardziej humanitarna droga.

W tym miejscu warto rozważyć samą autonomię maszyn, bowiem postrzeganie jej przez pryzmat naszych karmionych kulturą masową wyobrażeń często jest błędne. Paul Scharre w książce “ Army of None” wprowadza stopniowanie autonomiczności, pisząc o opcji semi-autonomicznej, w której to maszyna wykonuje dane zadanie, po czym czeka na reakcję człowieka – w ten sposób ludzie pozostają “w pętli” działań i mogą ingerować w cykl decyzyjny maszyn.

Drugim stopniem jest autonomia nadzorowana, w której czynnik ludzki nie jest już co prawda wewnątrz procesu decyzyjnego, jednak nadal może dowolnie interweniować, jeśli zajdzie taka potrzeba.

Dopiero ostateczną formą jest pełna autonomia, to znaczy sytuacja, w której nie możemy ingerować w samodzielne decyzje maszyny.

Kolejnym argumentem przeciw wprowadzeniu rozważanego rozwiązania jest twierdzenie, iż zezwolenie na używanie broni autonomicznej tworzy ogromne dysproporcje między państwami, które na nią stać, a tymi ze słabszą armią.

Zauważmy jednak, że nie jest to nowa sytuacja.

Najpierw przewaga liczebna, później armaty, następnie samoloty, broń, chemiczna, atomowa, wodorowa etc. Zawsze pewnie państwa miały przewagę.

Twierdzenie, że wprowadzenie nowego typu broni ją pogłębi może być słuszne, jednak nawet jeśli, to stan taki najpewniej nie utrzyma się długo w ostrzejszej niż obecnie formie.

Dysproporcje między mocarstwami się wyrównają, zaś te pomiędzy nimi, a resztą świata pozostaną na stałym poziomie. Stany Zjednoczone czy Chiny zapewne już dziś byłyby w stanie podbić wiele krajów, a chwilowy nagły wzrost siły niczego realnie nie zmieni.

Innych przeraża, że broń będzie zbyt dobra.

Twierdzą, że nadchodzącą armię można zauważyć i podjąć próbę ucieczki, lub gdy to zawiedzie, chociaż porozmawiać z żołnierzami i przekonać ich, że nie jest się celem, podczas gdy broń autonomiczna bez „zastanowienia” zamorduje wszystkich na swej drodze, czy też przez błąd wysadzi zły budynek. Jak już wykazałem, błąd nie jest ekskluzywny dla armii robotów.

Ponadto, w tym scenariuszu wysoce zaawansowane systemy rozpoznawania twarzy wydają się dużo bardziej „godne zaufania” niż rozmowa z wrogimi żołnierzami jedynie wykonującymi rozkazy dowództwa i paniczne próby przekonania, że nie jest się celem, a tym bardziej próba ucieczki.

Owszem, świadomość, że śmierć może nadejść znienacka w każdej chwili musi być straszna. Jednak na wojnie występuje ona zapewne niezależnie od tego, czy oblicze śmierci stanowił będzie pluton szturmujący nasz dom, czy niewidoczny dron. Nawet zakładając, że śmierć na wojnie jest nieunikniona
i najpewniej przyjdzie niespodziewanie, wydaje mi się, iż lepiej, aby była możliwie najszybsza, niźli poprzedzona paniką i koszmarem.

Prawo do ucieczki (nawet jeśli najczęściej kończy się ona fiaskiem) jest moim zdaniem równie ważne co prawo do spokojnej śmierci.

Ostatni, w mojej opinii najistotniejszy argument jaki rozważę w tym tekście dotyczy dehumanizacji działań wojennych.

Odsunięcie od nich człowieka prowadzi naturalnie także do pozbycia się czynników stricte ludzkich, jak zdolność do buntu (choć tyle mówi się o „buncie maszyn”, jest on raczej nierealny), możność okazania litości oraz zrozumienie innych.

Poza tym, wydawałoby się oczywistym skutkiem prowadzi to również do znacznie głębszej zmiany. Postawienie diagnozy, iż wojna stanie się wówczas nieco wyizolowana nie jest raczej przesadą. Założywszy, że od czasu przyjęcia omawianego rozwiązania automatyzacja armii postępowałaby do momentu jak największego wykluczenia z niej ludzi, łatwo dojdziemy do wizji, w której po przeciwnych stronach okopów znajdują się niemal wyłącznie maszyny.

Taki stan rzeczy, jak już napisałem, izoluję wojnę i jakby ją odrealnia.

Skutki są zarówno pozytywne jak negatywne.

Zacznijmy od pierwszych.

Otóż ginie mniej ludzi. Badacze zajmujący się tym zagadnieniem porównują to wręcz do sytuacji, w której mocarstwa zamiast wojny umawiają się na mecz określonej dyscypliny i to jego wynik rozstrzyga o losach potyczki. Oczywiście, jest to uproszczenie mające pokazać pewien mechanizm.

Wiadomo jednak, że w konflikcie zbrojnym musi przelać się krew, a samo drenowanie budżetu przeciwnika zapewne nie będzie wystarczające.

Co wtedy? To samo co obecnie, tyle że w mniejszej skali.

Reasumując, broń autonomiczna nie jest rozwiązaniem idealnym. Jednak, gdy mówimy o wojnie, takie rozwiązanie nie istnieje.

Uważam, że stosowanie tego rodzaju broni, może przynieść wymierne korzyści (mniej poległych, większa precyzja prowadzonych działań, przeniesienie wojny na poziom bardziej polityczny, humanitaryzm etc.). Obecnie wydaje się straszne, jednak jest to wizja w dużej mierze ukształtowana przez popkulturę i nazbyt patetycznych przeciwników tego rozwiązania.

Udostępnij