Nauka

Mokre roboty

Robotyzacja w policji. Na ile człowiek może ufać maszynom?

Taki robot Remotec Andros Mark V pomógł w Dallas zabić mordercę. Taki robot Remotec Andros Mark V pomógł w Dallas zabić mordercę. Alan Diaz/AP / EAST NEWS
Czy zgodzimy się, by wymyślony przez człowieka i raczej ułomny algorytm pozwalał robotowi strzelać do każdej osoby, którą uzna za podejrzaną?
Bezzałogowy pojazd armii izraelskiej, Guardium. Stosowany do kontroli granicy ze strefą Gazy. Ma zdalnie sterowane karabiny i system naprowadzania celów.G-NIUS Unmanned Ground Systems Ltd/Wikipedia Bezzałogowy pojazd armii izraelskiej, Guardium. Stosowany do kontroli granicy ze strefą Gazy. Ma zdalnie sterowane karabiny i system naprowadzania celów.

Artykuł w wersji audio

Robot pirotechniczny z reguły wywozi w bezpieczne miejsce np. podejrzaną torbę. Jeśli operator uzna za konieczne, niszczy ją, strzelając z wyrzutnika pirotechnicznego. Może też przywieźć pizzę desperatowi, który chce popełnić samobójstwo, lub ewakuować rannego żołnierza z pola walki. W Dallas 8 lipca 2016 r. policja nad ranem użyła robota, by na swoim wysięgniku zawiózł pół kilo materiału wybuchowego C4 pod ścianę, za którą ukrywał się 25-letni Micah Xavier Johnson, Afroamerykanin, szeregowy sił rezerwowych amerykańskiej armii, weteran wojny w Afganistanie. Zaatakował policjantów ochraniających pokojową demonstrację w Dallas przeciwko ostatnim przypadkom zastrzelenia przez białych policjantów dwóch Afroamerykanów, w Baton Rouge w Luizjanie i w St. Paul w Minnesocie. Zabijał z zimną krwią z półautomatycznego karabinka. Ciągle zmieniał pozycję zgodnie z wyuczoną wcześniej taktyką marines – strzelaj i biegnij dalej. Przed pościgiem schronił się w budynku El Centro College, skąd zabił kolejnego policjanta. Nie chciał współpracować z policją i przekazał negocjatorom, że jego zamiarem jest zranienie kolejnych funkcjonariuszy. Wówczas uznano, że należy użyć bomby przyniesionej przez robota.

Licencja na zabijanie

Szef policji w Dallas David Brown tłumaczył potem, że tylko tak można było „zneutralizować” przeciwnika. Bomba za 20 dol. załatwiła sprawę. Na zamachowca spadły podwieszany sufit, ściana gipsowo-kartonowa i drzwi – zginął na miejscu. Robot Remotec Andros Mark V-A1, produkcji koncernu zbrojeniowego Northrop Grumman, kupiony sześć lat wcześniej przez teksańską policję za 151 tys. dol., nieznacznie uszkodził sobie wysięgnik – wrócił już do służby.

– Po raz pierwszy amerykańska policja użyła robota do akcji ofensywnej, jakby była na wojnie w Iraku lub Afganistanie. To bardzo kontrowersyjna decyzja – komentuje major rezerwy Zbigniew Mazurkiewicz, były szef wydziału pirotechnicznego JW GROM, obecnie prowadzący firmę SALUS Taktyka i Technika dla Bezpieczeństwa. Jego zdaniem skokowo postępuje militaryzacja działań policyjnych. – Dotąd policja miała za zadanie schwytać przestępcę i doprowadzić go przed sąd – podkreśla. Wojsko na wojnie rządzi się swoimi prawami. Ma z natury rzeczy licencję na zabijanie. A kto ją dał policji?

– To konsekwencja tzw. programu 1033, w ramach którego Departament Obrony USA przekazuje od 1997 r. nadwyżki sprzętu wojskowego samorządom i ich policjom – zauważa Grzegorz Cieślak z Centrum Badań nad Terroryzmem Collegium Civitas. Samorząd ponosi jedynie koszty transportu pozyskanego sprzętu, czasem wręcz pokrywa je z grantów federalnych. Tak oto policje lokalne zaczęły dysponować wozami pancernymi, samolotami i śmigłowcami, odpornymi na wybuchy min opancerzonymi ciężarówkami czy też karabinami maszynowymi. Nie zawsze policjanci potrafią wykorzystać ten arsenał – zbroją się, bo im dają. Ale jeśli już się nauczą, to potem do tłumienia zamieszek ruszają jak na wojnę w wozach pancernych, co tylko podgrzewa atmosferę do walki z policyjną przemocą.

W maju 2015 r. prezydent Barack Obama zakazał oddawania policji granatników, gazów łzawiących, karabinów maszynowych czy też transporterów opancerzonych. Ale tuż po wydarzeniach w Dallas Biały Dom zamierza zmienić zdanie. Policyjni lobbyści dowodzą, że militaryzacja skutecznie przyczyniła się do ograniczenia przestępczości w USA. Faktycznie, od 10 lat utrzymuje się trend spadkowy. Wszystkie policyjne statystyki odnotowują, że poziom przestępczości, w tym popełnianych morderstw, jest niższy niż w 1962 r., od którego nastąpił znaczny wzrost z kilkoma „górkami” na początku lat 80. i 90. ubiegłego wieku. Chociaż każda strzelanina staje się tematem numer jeden w mediach, statystyka temu przeczy. Jest bezpieczniej! Czyżby sprawdzała się polityka „zerowej tolerancji”, którą zastosował po raz pierwszy w latach 90. ówczesny burmistrz Nowego Jorku Rudolph Giuliani?

Skoro tak, może za chwilę siły policyjne zaczną używać dronów do likwidacji celów na wzór operacji szpiegowskich w Jemenie czy też Pakistanie, gdy arbitralna decyzja analityka wywiadu czasem skazuje na śmierć niewinną osobę. Już dzisiaj drony automatycznie patrolują połowę granicy z Meksykiem, wystarczy je uzbroić.

Co prawda z naszej europejskiej perspektywy byłoby to ewidentne łamanie standardów państwa prawa, idée fixe cywilizacji euratlantyckiej, ale Amerykanie wolą biblijne: „kto mieczem wojuje, od miecza ginie”. W ocenie Zbigniewa Mazurkiewicza i Grzegorza Cieślaka militaryzacja policji wynika jeszcze z jednego czynnika. Do formacji policyjnych trafiają byli wojskowi po wojnach w Iraku i Afganistanie z silnie wykształconą świadomością priorytetu działania – fizycznej eliminacji wroga. Do tego dochodzi wyćwiczona pamięć mięśniowa, jak skutecznie reagować na atak.

Coraz częściej przeciwnikami są również byli żołnierze. Policyjną taktykę zastępują nawyki marines, komandosów czy też wojskowych operatorów robotów pirotechnicznych. Ci ostatni wielokrotnie ich używali na wojnie, by unieszkodliwić wroga. Gdy dostają rozkaz jak w Dallas: „zróbcie porządek”, wojenne nawyki biorą górę nad rozsądkiem.

– Gdy ginie robot, nie trzeba przynajmniej pisać listu do jego matki – tak podobno zaczął list kondolencyjny do firmy iRobot dowódca jednego z amerykańskich oddziałów po stracie swojego robotycznego żołnierza.

A gdy robot zgłupieje?

W Dallas robot był tylko przedłużonym ramieniem policjanta. To on nacisnął guzik i zdetonował bombę, która zabiła przestępcę. Czy to było zgodne z prawem – oceni sąd, ale gdy w poniedziałek po masakrze ledwo co opadł kurz bitewny i zmyto ślady krwi, w firmach robotycznych, oferujących roboty pirotechniczne, rozdzwoniły się telefony od policjantów zainteresowanych nowym sposobem użycia maszyn.

Zdumiewającym skutkiem tej akcji był również gwałtowny wzrost liczby podań z prośbą o przyjęcie do służby w policji. Praca niebezpieczna, przeciętnie płatna (początkujący policjant po studiach zarobi rocznie w USA ok. 48 tys. dol.), ale akcja wywołała falę pozytywnych emocji.

Nieliczni dostrzegli, że użycie robota jako policyjnej broni ofensywnej wymaga głębokiej refleksji. Do jakiego stopnia można powierzyć bezpieczeństwo maszynom? Co z ich autonomią? Na co im pozwolimy? Czy zgodzimy się, by wymyślony przez człowieka i raczej ułomny algorytm pozwalał maszynie strzelać do każdej osoby, którą uzna za podejrzaną?

– Autonomia może oznaczać samodzielność systemu w wyborze odpowiednich środków niezbędnych do realizacji zakładanych celów. Maszyna podejmuje działania w oparciu o własne oprogramowanie w niepredefiniowanej liczbie sytuacji, bez bezpośredniej ingerencji człowieka – definiuje dr Błażej Sajduk, politolog i prorektor Wyższej Szkoły Europejskiej im. ks. Józefa Tischnera w Krakowie, zajmujący się m.in. wymiarem etycznym i społecznym wykorzystania najnowszych technologii.

Na razie nie ma takich maszyn. Roboty są wyposażane w nieliczne systemy autonomiczne, usprawniające ich pracę np. w zbieraniu informacji, ale zawsze pod kontrolą człowieka. W ocenie Błażeja Sajduka ludzie są kluczowymi operatorami systemów uzbrojenia, podejmują decyzje, których stosowność oparta jest na wartościowaniu, oraz mają możliwość zatrzymania zautomatyzowanego procesu. Na obecnym etapie rozwoju sztucznej inteligencji nie nauczymy maszyn wartościować. Decyzję, czy zabić przestępcę, będziemy musieli podjąć sami.

Gorzej, gdy błąd w algorytmie sterującym maszyną spowoduje, że wymknie się spod kontroli. Wystarczy, że robot otrzyma błędne dane, a źle wykona postawione mu zadanie. Dobrze, gdy tylko zgłupieje i „się zawiesi”. A jeśli zacznie zabijać?

Co wolno maszynom

Formalnie konstruktorzy robotów są wciąż wierni podstawowym prawom robotyki zdefiniowanym przez amerykańskiego pisarza Isaaca Asimova w 1942 r., w tym zasadzie, że robot nie może skrzywdzić człowieka ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy. Złożoność materii sprawia, iż te prawa przestają mieć znaczenie. Nadmiar informacji przeszkadza w algorytmizacji. Prawna odpowiedzialność za efekty działań robota wymagałaby ustalenia przez sąd, gdzie został popełniony błąd: czy przy wprowadzaniu danych, czy np. w instrukcji ich przetwarzania. Zresztą wkrótce się o tym przekonamy, gdy dojdzie do rozprawy przed sądem o odszkodowanie za śmierć kierowcy w autonomicznej Tesli, której czujniki zostały oślepione przez słońce i nie zapobiegły katastrofie.

Maszyny działają w kodzie zero-jedynkowym. Prawda – fałsz. Zero – jeden. Tymczasem wiele zebranych danych jest nieoczywistych. Maszyny nie mają intuicji i nie powinny jej mieć. Wobec tego należy porzucić mrzonki o konstrukcji Robocopa – policjanta cyborga. Robot winien mieć co najwyżej półautonomię działania. Wspomóc człowieka w podjęciu decyzji, ułatwić mu działanie, ale nie zastąpić w sprawach życia i śmierci.

Zapewne po Dallas powstaną instrukcje i poradniki użycia sprzętu robotycznego do działań specjalnych. Skoro akcja spotkała się ze społecznym aplauzem, zaś ci, którzy wychwalają w mediach społecznościowych zabójcę policjantów, są natychmiast aresztowani, można będzie sobie pozwolić na więcej. Militaryzacja policji dostała ponownie zielone światło.

I jeszcze coś: „Robotowi nie trzeba obiecywać, że po śmierci posiądzie 72 dziewice, jeśli wysadzi się w powietrze”, jak smutnie konstatuje Peter Singer, ekspert w dziedzinie robotyki z New America Foundation.

***

Autor jest prezesem zarządu Instytutu Mikromakro, think tanku działającego na rzecz społecznej akceptacji dronów, robotów i systemów fuzji informacji.

Więcej na ten temat
Reklama

Czytaj także

Społeczeństwo

Bajki dla suwerena. Dlaczego filmy Patryka Vegi są tak popularne?

Rozmowa z dr. hab. Jackiem Wasilewskim o tym, co takiego wie o Polakach Patryk Vega, czego nie wiedzą inni.

Joanna Cieśla
20.03.2018
Reklama

Ta strona do poprawnego działania wymaga włączenia mechanizmu "ciasteczek" w przeglądarce.

Powrót na stronę główną