Zabójcze roboty coraz bliżej?
Wykorzystanie robota do zabicia atakującego policjantów snajpera w Dallas to pierwszy przypadek zastosowania tej technologii przeciwko ludności cywilnej na terenie USA – informuje serwis BBC News.
Robot Remotec Andros F-6A, stosowany zwykle do rozbrajania bomb, tym razem dostał się do pomieszczenia, w którym ukrył się strzelec, i zdetonował 450-gramowy ładunek C4, co doprowadziło do śmierci mężczyzny. Równie dobrze materiał wybuchowy mógłby wrzucić któryś z funkcjonariuszy, jednak uznano, że ryzyko jest zbyt duże.
Jak zauważają eksperci, zabijanie na odległość znane jest od dawna – począwszy od kamieni i proc, poprzez łuki, broń palną czy rakiety V2 użyte podczas II wojny światowej. Wizje zdalnie sterowanych pojazdów prowadzących działania wojenne snuł już Nikola Tesla na początku XX wieku.
Według oficjalnych amerykańskich danych podczas 473 ataków latające drony bojowe (UAV), takie jak Predator czy Reaper, zabiły od roku 2009 co najmniej 2500 uzbrojonych bojowników (oraz ponad 100 innych osób). Zdaniem krytyków liczby te są zaniżone. Według The Bureau of Investigative Journalism całkowita liczba zabitych może sięgać 4 tysięcy, z czego cywile to nawet jedna czwarta.
Zwolennicy dronów podkreślają, że zmniejszają one ryzyko dla pilotów, mogą przebywać w powietrzu dłużej i łatwiej im określić, czy atakują właściwy obiekt. Z drugiej strony brak ryzyka ponoszonego przez operatora zmienia naturę operacji wojskowych, ułatwiając stosowanie przemocy wobec przeciwnika.
Jak wyjaśnił PAP dr Tomasz Żuradzki z Uniwersytetu Jagiellońskiego, robot z Dallas nie jest jeszcze robotem autonomicznym ani nawet częściowo autonomicznym; był zdalnie sterowany przez człowieka. W tym sensie był dość podobny do dronów, które od strzał czy kamieni różnią się możliwością zdalnego sterowania. Jednak od czasu upowszechnienia się dronów, Amerykanie znacznie chętniej po prostu "eliminują" osoby podejrzane o planowanie działalności terrorystycznej - wcześniej próbowano je łapać i osadzać w bazach poza granicami USA, np. Guantanamo.
Także na ziemi coraz częściej wykorzystywane są uzbrojone roboty. Korea Południowa jako pierwsza zastosowała je do nadzoru nad zdemilitaryzowaną strefą na granicy z Koreą Północną. Oprócz broni maszynowej roboty-strażników wyposażono w czujniki reagujące na ciepło i ruch. Nie muszą spać i nigdy się nie męczą. Gdy natrafią na potencjalne zagrożenie, zawiadamiają ośrodek dowodzenia. Także Rosja opracowała autonomiczny czołg o nazwie Uran.
„Stosowane dotychczas roboty do użycia broni potrzebowały decyzji operatora - człowieka” – zauważa dr Żuradzki. „Większym wyzwaniem filozoficznym będą roboty autonomiczne, które +same+ będą podejmowały decyzje dotyczącą użycia siły na podstawie jakichś danych (np. czyjegoś zachowania, użycia telefonu, internetu itp.). Będą one musiały mieć - podobnie jak automatyczne samochody - wgrany jakiś system normatywny/etyczny. Z jednej strony, niektórzy obawiają się, że charakterystyczne cechy namysłu moralnego nie mogą być +wgrane+ w żaden z istniejących obecnie systemów, jedyne co się da wgrać, to jakiś system utylitarystyczny. Inni (np. pionier badań nad robotami bojowymi Ronald Arkin) argumentują, że autonomiczne systemy w odróżnieniu od żołnierzy nie będą podatne na stres oraz nie będą ignorować rozkazów, a zatem ich wdrożenie może wyeliminować niektóre negatywne konsekwencje konfliktów zbrojnych” - mówi.
Autorzy utworów science fiction próbowali tworzyć prawa robotyki, z których najbardziej znane są te proponowane przez Issaca Asimova. Zgodnie z pierwszym robot nie może skrzywdzić człowieka ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy. Drugie stanowi, że robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z pierwszym prawem. Według trzeciego robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z pierwszym lub drugim prawem.
Bardziej żartobliwe i zgodne z etyką biznesu prawa zaproponował David Langford. Przede wszystkim robot nie może działać na szkodę rządu, któremu służy, ale powinien likwidować wszystkich jego przeciwników. Będzie przestrzegać rozkazów wydanych przez dowódców, z wyjątkiem przypadków, w których będzie to sprzeczne z trzecim prawem - przewidującym, że robot będzie chronił własną egzystencję przy pomocy broni lekkiej, ponieważ jest „cholernie drogi”.
Futurolodzy od dawna wyobrażają sobie roje wstępnie zaprogramowanych nanorobotów. Stanisław Lem wymyślił „etykosferę" na planecie Encji - nanoroboty zwane „bystrami” pilnowały tubylców, nie pozwalając im działać na niczyją szkodę (co wcale nie doprowadziło do powszechnego szczęścia).
Jednak działanie sztucznej inteligencji w rzeczywistych warunkach w oparciu o zaprogramowane założenia może nastręczać ogromnych trudności zarówno z powodu złożoności sytuacji, jak i pojawiających się etycznych dylematów – np. możliwych ofiar wśród ludności cywilnej. Podobne problemy wystąpią w przypadku autonomicznych samochodów - w tym przypadku trzeba będzie rozstrzygnąć, czy ważniejsze jest życie przechodniów - potencjalnych ofiar wypadku, czy raczej bezpieczeństwo pasażerów.
Zdarzył się już pierwszy śmiertelny wypadek z udziałem autonomicznego samochodu, a autonomiczny robot-strażnik w Dolinie Krzemowej niedawno przejechał po nodze 16-miesięcznemu dziecku, dowodząc niedoskonałości technologii.
W przypadku systemów obronnych o globalnej skali obawy związane z ich autonomicznością pojawiły się już w okresie Zimnej Wojny. Nie da się bowiem wyeliminować ryzyka błędu lub sabotażu, który mógłby doprowadzić do nieobliczalnych strat. Także zdalnie sterowane drony – mimo wszelkich zabezpieczeń – mogłyby zostać przejęte przez hakerów. (http://filozofiawpraktyce.pl/autonomiczne-systemy-bojowe-a-konflikty-asymetryczne) (PAP)
pmw/ mrt/
