Robot, twój brat. Budzi większe zaufanie, jeśli jest podobny do człowieka. Byle nie za bardzo

W 1950 r. informatyk Alan Turing zaproponował, żeby uznać robota za myślącą maszynę, gdy pomylimy go z człowiekiem. Było to założenie tyleż naiwne, co bezpieczne, bo wydawało się niemożliwe do spełnienia.

Teraz, kiedy się spełniło, zrobiło się trochę niezręcznie i coś by wypadało z tym zrobić. Szukając ratunku w nauce albo w prawie, nie doceniamy, jak wiele zależy tu od kultury. Rozumianej w szerszym sensie niż zazwyczaj zakładany.

Poziom zaawansowania technologicznego AI stwarza pozory, że to, co przyniesie przyszłość, będzie osobliwością, czymś bezprecedensowym w historii ludzkości. Tymczasem reagujemy na jej rozwój podobnie, jak w XIX w. ludzie reagowali na rozwój silnika parowego. A próbujemy ją oswoić tak samo, jak tysiące lat temu nasi przodkowie oswajali w wyobraźni swoje otoczenie, żeby czuć się bezpiecznie. Subiektywne poczucie kontroli nad światem i losem, a właściwie potrzeba bezpieczeństwa i akceptacji jest bowiem cały czas podstawą ludzkiej egzystencji.

Dolina niesamowitości

O tym, że nasze obawy związane z rozwojem techniki nie zmieniły się od XIX w., świadczą słowa angielskiego pisarza i myśliciela Samuela Butlera z opublikowanej w 1872 r. utopii „Erehwon” (pisane od tyłu ang. nowhere, „nigdzie”): „Nie obawiam się żadnej z istniejących maszyn; obawiam się niezwykłej szybkości, z jaką stają się czymś zupełnie innym, niż są obecnie. Czy ruch ten nie powinien być zazdrośnie obserwowany i kontrolowany, dopóki jeszcze możemy go kontrolować? I czy w tym celu nie jest konieczne zniszczenie bardziej zaawansowanych maszyn, które są obecnie w użyciu”.

Żeby dojść do tych wniosków, autorowi wystarczyły doświadczenie rewolucji przemysłowej i praca Karola Darwina „O powstawaniu gatunków” (1859 r.). Twórczym rozwinięciem refleksji Butlera jest świat „Diuny” Franka Herberta (1965 r.). Komputery zostały w nim zakazane po Dżihadzie Butleriańskim, czyli buncie ludzi przeciw myślącym maszynom.