Rynek

Prawa robota

Sztuczna inteligencja wymaga odpowiednich regulacji

Wykorzystywanie robotów i sztucznej inteligencji należy do głównych elementów trwającej właśnie czwartej rewolucji przemysłowej. Wykorzystywanie robotów i sztucznej inteligencji należy do głównych elementów trwającej właśnie czwartej rewolucji przemysłowej. Oliver Burston/Ikon Images
Dziś ciężko pracują przy taśmie. Niebawem roboty będą nas żywić i bronić, leczyć, uczyć, zabawiać i obsługiwać. Już teraz musimy wyznaczyć im prawa i obowiązki, bo inaczej one wyznaczą je nam.
Niebawem auta kierowane przez roboty pojawią się też na ulicach miast.chesky_w/PantherMedia Niebawem auta kierowane przez roboty pojawią się też na ulicach miast.

Joshua Brown, amerykański przedsiębiorca z Florydy, od kiedy kupił sobie Teslę model S, stał się entuzjastą technologicznej rewolucji. Model S to pierwsza produkowana na większą skalę elektryczna limuzyna klasy premium. Wyposażono ją w wiele zaawansowanych rozwiązań, w tym funkcję autopilota. To system półautonomiczny, który potrafi zastąpić kierowcę w wielu obowiązkach. Skomputeryzowane auto naszpikowane kamerami i czujnikami przewiduje zagrożenie i błyskawicznie reaguje. Samo zahamuje, przyspieszy, skoryguje tor jazdy i w razie potrzeby zmieni pas ruchu. Samodzielnie zjeżdża wyznaczonym zjazdem z autostrady, samo zaparkuje. Nie trzeba go wyprowadzać z garażu, bo na wezwanie wyjedzie samo.

W ciągu dziewięciu miesięcy Brown przejechał 45 tys. mil i w tym czasie autopilot kilka razy ratował go z opresji. Dlatego lubił w trakcie jazdy oddawać mu kierownicę, a sam nagrywał filmy, by pokazać, co potrafi jego Tessy, jak pieszczotliwie nazywał auto. Potem te filmy wrzucał do sieci. Kiedy zainteresował się nim Elon Musk, legendarny twórca Tesli, i zaczął linkować na Twitterze, szczęście nie miało granic. „Dostrzegł mnie Musk! Mogę już umrzeć i pójść do nieba” – powiedział sąsiadce. Wykrakał.

Do historii motoryzacji Brown przejdzie jako pierwsza śmiertelna ofiara wypadku spowodowanego przez samochodowego robota. W piękny słoneczny poranek jego Tessy wbiła się pod naczepę skręcającej w lewo wielkiej ciężarówki. Ani kierowca, ani autopilot nie zauważyli zagrożenia. Nie było śladów hamowania, z auta zostało niewiele. Okazało się, że czujniki nie wyłowiły białej naczepy na tle jasnego nieba, zwłaszcza że stała bokiem. Wygląda na to, że kierowca zbyt zawierzył zdolnościom autopilota i nie kontrolował sytuacji na drodze, choć producent ostrzega, by zachować ostrożność, bo system nie jest jeszcze doskonały. Zresztą kodeks drogowy kierowcę czyni wyłącznie odpowiedzialnym za kontrolę nad jadącym autem.

Taksówka bez taksówkarza

W niektórych krajach pojawiają się już jednak pierwsze regulacje dotyczące aut z systemami półautonomicznymi i autonomicznymi. W ciągu najbliższych kilku lat będą musiały zostać ustalone wspólne standardy, bo większość producentów deklaruje, że po 2020 r. zamierza rozpocząć sprzedaż takich aut. Komisja Europejska na głównej sieci europejskich autostrad zapowiada stworzenie wydzielonych pasów dla pojazdów kierowanych przez roboty. Trwają prace nad budową sieci superszybkiego internetu (5G), bo inteligentne pojazdy wszystkie decyzje muszą podejmować w milisekundach, wykorzystując informacje uzyskiwane od innych pojazdów oraz infrastruktury drogowej za pośrednictwem sieci.

Niebawem auta kierowane przez roboty pojawią się też na ulicach miast. W Paryżu, Lyonie, Las Vegas jeżdżą już eksperymentalne autonomiczne autobusiki bez kierowców. Na razie wożą pasażerów wydzielonymi buspasami na krótkich trasach. Chodzi o przygotowanie ludzi do korzystania z robopojazdów, a także stworzenie regulacji prawnych dotyczących funkcjonowania takiego miejskiego transportu. Te będą potrzebne, bo za chwilę pojawią się też autonomiczne taksówki bez kierowców. Prace nad nimi są zaawansowane (prowadzą je m.in. Google i Uber), a eksperymentalne auta potrafią już jeździć w normalnym ruchu drogowym.

Wprowadzenie autonomicznych pojazdów rodzi jednak masę problemów. Jeśli za sprawą takiego auta dojdzie do wypadku, to kto będzie odpowiedzialny? Kierowca-człowiek odpowiada na zasadach winy, ale czy robotowi można przypisać winę? A jeśli nie, to komu? Właścicielowi? Producentowi auta? Twórcy oprogramowania? Oczywiście może się okazać, że auto miało wadę fabryczną, lukę w programie albo właściciel coś zaniedbał. Ale co będzie, gdy do wypadku doprowadziła samodzielna decyzja robota, na którą nikt nie miał wpływu i nikt jej nie mógł przewidzieć? Zresztą już dziś niektórzy eksperci zwracają uwagę, że w krytycznej sytuacji robot może stanąć przed dylematem, kogo chronić w pierwszej kolejności – własnych pasażerów czy innych uczestników ruchu?

W przypadku robotów odpowiedzialność na zasadzie winy nie wchodzi w grę. Możliwa będzie jedynie odpowiedzialność na zasadzie ryzyka. Roboty funkcjonujące w przestrzeni publicznej będą musiały być objęte obowiązkowym ubezpieczeniem od odpowiedzialności cywilnej, z którego będą wypłacane odszkodowania – wyjaśnia adwokat Paweł Kwiatkowski z kancelarii prawnej Gessel, doradca grupy roboczej ds. robotyki i sztucznej inteligencji Parlamentu Europejskiego. Grupa kierowana przez Mady Delvaux, posłankę Luksemburga do PE, w składzie której jest m.in. polski poseł Michał Boni (b. minister cyfryzacji), sformułowała zalecenia, jak Unia Europejska powinna przygotować się na robo-rewolucję.

Szczególnie pilne jest uregulowanie spraw związanych z pojazdami autonomicznymi i dronami, bo tu postęp jest najszybszy. Grupa zaproponowała więc m.in., by precyzyjnie zdefiniować pojęcie inteligentnego robota i stworzyć ich centralny rejestr. Tak by nie było problemów z ustaleniem, do kogo maszyna należy. Każdy robot musiałby zostać skutecznie zabezpieczony przed włamaniem hakerskim, bo pierwsze próby zdalnego przejęcia kontroli nad autami podłączonymi do internetu już miały miejsce. Dlatego dodatkowym, obowiązkowym wyposażeniem robota ma być wyłącznik awaryjny (kill switch). Nad tymi sprawami miałby czuwać europejski urząd ds. robotyki i sztucznej inteligencji.

Roboty do roboty

Pytań dotyczących reguł funkcjonowania robotów w ludzkim świecie przybywa. Tak jak przybywa samych robotów. Na razie dominuje wśród nich wielkoprzemysłowa klasa pracująca. Szczególnie chętnie zatrudniana w przemysłach samochodowym, elektronicznym, chemicznym, metalowym. Roboty przenoszą ciężkie elementy, malują, spawają, montują. Niezastąpione tam, gdzie warunki pracy są dla ludzi niebezpieczne, i tam, gdzie trzeba wykonywać monotonne, powtarzalne czynności ze szczególną precyzją. W efekcie w fabrycznych halach ubywa ludzi, a przybywa maszyn machających swymi długimi ramionami.

W Korei, najbardziej zrobotyzowanym kraju świata, na 10 tys. zatrudnionych pracowników przypada już 531 robotów przemysłowych (w Polsce kilkanaście). Nawet kraje, których atutem była dotąd liczna i tania siła robocza, zastępują ją robotami. Największym rynkiem zbytu tych urządzeń są dziś Chiny. Robotyzuje się Meksyk, Brazylia, Wietnam, Malezja. Wykorzystywanie robotów i sztucznej inteligencji (roboty to urządzenia fizyczne, sztuczna inteligencja to programy komputerowe symulujące zachowania inteligentne) należy do głównych elementów trwającej właśnie czwartej rewolucji przemysłowej.

Zakochane w robotach jest oczywiście wojsko, a liczba wykorzystywanych maszyn rośnie w takim tempie, że pojawiło się już określenie robo-żołnierz. Jednak i w cywilnym życiu mają one co robić. Naukowcy z Oksfordu szacują, że w ciągu jednej, góra dwóch dekad roboty zastąpią, lub mocno ograniczą, udział ludzi w 700 profesjach. Na czele listy są m.in. recepcjonista, sprzedawca sklepowy, strażnik, kucharz z fast foodu.

Szczególne pole do popisu czeka roboty-pielęgniarzy, które zajmą się obsługą osób starszych i niepełnosprawnych, a także roboty medyczne, diagnozujące pacjentów i podejmujące działania terapeutyczne. Społeczeństwa bogatych państw się starzeją, nie ma się nimi kto zajmować. Pierwsi robo-pielęgniarze przechodzą testy, a rząd Japonii (która ma najstarsze społeczeństwo) finansuje prace nad nimi, bo chce, by każda osoba niedołężna za niewielką kwotę mogła wynająć taką maszynę. Akceptacja społeczna dla robotów na razie nie jest wielka, każdy wolałby pomoc żywego człowieka. Ale kiedy ankieterzy pytają o preferowaną pomoc w łazience i toalecie, częściej wskazywane są maszyny.

Gdzie jest autor?

Nawet przedstawiciele zawodów twórczych mogą się niepokoić o swoją przyszłość. Komputerowy program sztucznej inteligencji Iamus, dzieło naukowców z Malagi, potrafi już tworzyć własną, całkowicie oryginalną, muzykę symfoniczną. Na tyle dobrą, że wykonywała i nagrała ją na płytę London Symphony Orchestra. W orkiestrze grali jeszcze ludzie.

Każde nowe zajęcie dla robotów i sztucznej inteligencji to narodziny nowego problemu. Bo kogo należy uznać za autora utworów skomponowanych przez Iamusa? Komu należą się honoraria i tantiemy? Autorom algorytmu? To tak, jakby powiedzieć, że nauczyciel muzyki jest autorem utworów skomponowanych przez jego uczniów.

Zresztą coraz częściej roboty i sztuczna inteligencja uczą się same. O skuteczności samokształcenia świadczy najnowszy sukces programu sztucznej inteligencji Liberatus, któremu twórcy przekazali zasady gry w pokera, a reszty kazali nauczyć się samodzielnie. Program korzystający z superkomputera uniwersytetu w Pittsburghu grał sam ze sobą, aż w końcu stanął do turniejowej rywalizacji z ludźmi-pokerowymi mistrzami. Ograł ich ze szczętem, wygrywając 1,76 mln dol. Twórcy programu byli zaskoczeni, bo sztuczna inteligencja nie tylko zorientowała się, na czym polega blefowanie, ale sama skutecznie zaczęła blefować.

Dlatego kontrola ludzi nad samokształceniem się robotów i sztucznej inteligencji, a także samoudoskonalaniem własnej konstrukcji, będzie konieczna. Bo nie zawsze daje to dobre rezultaty. Kiedy jednemu z samouczących się programów w ramach eksperymentu polecono pisać internetowe teksty, szybko nauczył się najgorszych rzeczy. Nadużywał wulgaryzmów i obrażał ludzi.

Kto w takiej sytuacji powinien odpowiadać za naruszenia dóbr osobistych? Czy będzie można sztuczną inteligencję pociągnąć do odpowiedzialności? Być może. W raporcie Delvaux padła propozycja, by robotom i sztucznej inteligencji nadać osobowość prawną. Obok dzisiejszych osób fizycznych i prawnych pojawiłyby się „osoby elektroniczne”. Na razie podstawowym tego celem jest próba rozwiązania dylematu: czy maszyny mogą zawierać umowy? Umowa zgodnie z prawem wymaga złożenia oświadczenia woli, a wola jest przypisana wyłącznie człowiekowi.

Autonomiczne roboty będą dokonywały zakupów w sklepach internetowych, jeśli uznają, że brakuje potrzebnych produktów. Każdy transakcja to umowa, roboty muszą więc zyskać przynajmniej w ograniczonym zakresie zdolność do ich zawierania – wyjaśnia Paweł Kwiatkowski. Dodaje, że ten problem pojawia się już dziś, bo pierwsze inteligentne lodówki podłączone do sieci, same czuwające nad zaopatrzeniem, weszły do sprzedaży. Problem z umowami zawieranymi między maszynami pojawia się też w przypadku handlu wysokich częstotliwości, gdy komputerowe algorytmy same dokonują transakcji giełdowych w odstępach liczonych w milisekundach.

Maszyny wszystkich krajów, łączcie się

Chcemy stworzyć europejskie regulacje, zanim poszczególne państwa UE zaczną wdrażać własne, każde inne. Standaryzacja jest w interesie rynku, bo Europa jest dobra w robotyce i jeśli chcemy pozostać liderem, musimy mieć wspólne przepisy branżowe – tłumaczy Mady Delvaux. Jej raport sugeruje konieczność stworzenia kodeksu etycznego dla robotów i ich twórców, którego fundamentem miałyby być słynne prawa robota, które pisarz science fiction Isaak Asimov sformułował w 1942 r:

1. Robot nie może skrzywdzić człowieka.

2. Robot musi być posłuszny rozkazom człowieka.

3. Robot musi chronić samego siebie, o ile nie stoi to w sprzeczności z prawem pierwszym lub drugim.

Po pewnym czasie Asimov dopisał jeszcze prawo zerowe: robot nie może skrzywdzić ludzkości. Biorąc pod uwagę, że duża część robotów powstaje z myślą o zastosowaniach militarnych, realizacja tych praw wydaje się nierealna. Jednak pani Delvaux podkreśla, że jej projekt dotyczy wyłącznie robotów cywilnych. Dlatego chciałaby do praw Asimova dopisać kilka własnych.

Prawo 4. Robot musi chronić prywatność człowieka. Zaopatrzony w kamery i mikrofony będzie wiedział o nim wyjątkowo dużo, a jego wiedzą wiele instytucji i firm będzie zainteresowanych. Chodzi o to, by osoby niepowołane nie miały do tej wiedzy dostępu, a powołane nie mogły ich kontrolować ot tak, profilaktycznie. Brytyjska policja szkoli już funkcjonariuszy w przesłuchiwaniu inteligentnych lodówek, czyli w zbieraniu informacji zarejestrowanych przez domowe urządzenia najnowszej generacji.

Prawo 5. Robot nie może dążyć do psychicznego uzależnienia człowieka. Temu ma służyć postulowany zakaz produkcji robotów humanoidalnych, łudząco przypominających ludzi. Europa nie chce androidów, choć Azja się nimi fascynuje (szczególnie intensywne prace trwają w Japonii i Chinach). „Nigdy nie należy myśleć, że robot cię kocha i czuje twój smutek” – ostrzega pani Delvaux, nie biorąc pod uwagę, że ludzie łatwo się psychicznie uzależniają nie tylko od ludzi, ale także np. od zwierząt. Androidy tego nie zmienią.

Prawo 6. Robot musi wspomóc ludzi, których pozbawi pracy. Raport sporo uwagi poświęca społecznym skutkom rewolucji robotów. Obok pozytywów widzi też zagrożenia, w tym bezrobocie, które robotyzacja gospodarki może potęgować. Takie niebezpieczeństwo dostrzegane jest też w USA. Biały Dom pod koniec administracji Obamy przygotował alarmistyczną prognozę. Tego procesu nie da się zatrzymać – oceniają eksperci – bo jeśli godzina pracy robota-spawacza będzie kosztować 2 dol., a człowieka 25 dol., to kto będzie chciał zatrudniać ludzi?

Ocenia się, że ok. 60 mln Amerykanów straci szansę na stałe zatrudnienie i nawet Donald Trump nic na to nie poradzi. Podobny problem pojawi się w Europie, a to może zdestabilizować sytuację społeczną, bo uderzy w najsłabsze ekonomicznie grupy. Być może wywoła niepokoje i nawet skłoni do agresji wobec robotów. Czyli do tego, co Wielka Brytania przeżywała na początku XIX w., kiedy tkacze-rzemieślnicy niszczyli krosna mechaniczne. Dlatego w UE roboty miałyby zostać obciążone podatkiem na rzecz ludzi, którzy za ich sprawą stracili pracę. Tylko czy roboty się nie zbuntują?

Polityka 7.2017 (3098) z dnia 14.02.2017; Rynek; s. 42
Oryginalny tytuł tekstu: "Prawa robota"
Więcej na ten temat
Reklama

Czytaj także

Świat

NIEMCY: Berlin ciągnie do Moskwy

Osiem dekad po pakcie Ribbentrop-Mołotow w Niemczech rośnie presja na kolejną odwilż w relacjach z Rosją. Działania polskiego rządu raczej nie studzą tego zapału.

Adam Krzemiński
02.09.2019
Reklama

Ta strona do poprawnego działania wymaga włączenia mechanizmu "ciasteczek" w przeglądarce.

Powrót na stronę główną