Klasowe, rasowe i płciowe aspekty technologii cyfrowych

Weźmy szpadel. W jego formie zawiera się cała historia ludzkiej kultury technicznej. Ileż musiało być szpadli dysfunkcyjnych, zanim ludzkość osiągnęła ten optymalny, jak się wydaje, kształt. Odbija się w nim historia gatunku ludzkiego, z jego parzystą liczbą kończyn, z charakterystyczną dla niego wysokością, proporcjami, układem mięśni. Stylisko dźwiga ciężar nie tylko kopiącego, ale i Natury. Ostrze wrzyna się w dzieje cywilizacji. Z jednego szpadla można odtworzyć cały świat. Maść na mity Nie inaczej jest z algorytmem komputerowym. Niby to tylko ciąg zer i jedynek, mniej lub bardziej złożona instrukcja dla mikroprocesora inicjująca proces obliczeniowy. Niby, bo w sposobie, w strukturze algorytmu zakodowana jest nie tylko myśl jego twórców, ale i kontekst kulturowy, w którym poddani zostali edukacji, w którym byli zanurzeni. Jest jednak jedna zasadnicza różnica między szpadlem a algorytmem. Temu pierwszemu nie powierzamy życia. W ręce tych drugich oddajemy swój los. A nie są one neutralne – ani światopoglądowo, ani rasowo, ani płciowo. Także dlatego narasta ostatnio bunt wobec ich władzy, czemu wyraz dają dwie wydane niedawno książki napisane przez kobiety: brytyjską matematyczkę Hannah Fry oraz amerykańską programistkę Meredith Broussard. Kierujemy samochodem. Na miejscu pasażera – kot. Z tyłu – staruszka i dziecko oraz złodziej. Na jego kolanach – wór z pieniędzmi, które właśnie ukradł z banku. Zbliżamy się do przejścia dla pieszych, ale hamulce nie działają. Na pasach – lekarz, pies i kobieta w ciąży. Zginą albo oni, albo pasażerowie, kiedy robiąc unik, uderzymy w barierę ochronną. To jeden z wielu scenariuszy umieszczonych na stronie Moral Machine (moralmachine.mit.edu). Założona ona została przez badaczy sztucznej inteligencji z Massachusetts Institute of Technology (MIT) i bada ludzkie reakcje w sytuacjach o wielu parametrach moralnych. Czy chętniej ocalimy kota czy psa? Kobietę w ciąży czy dwóch mężczyzn? Starszą panią czy złodzieja? Ta ekstremalna wariacja klasycznego dylematu wagonika (jak przestawić zwrotnicę – tak by rozpędzony wagonik zabił jednego czy kilku ludzi?) nieprzypadkowo powstała na MIT, najlepszej uczelni technicznej świata. To tam zaczęto badać sztuczną inteligencję, na którą dziś zaczynamy cedować decyzje, z podjęciem których sami mamy problemy. To bardzo nierozważne, pisze Hannah Fry w „Hello World: How to be Human in the Age of the Machine” (książce, którą na polski rynek przygotowuje Wydawnictwo Literackie pod tytułem „Hello World: Jak być człowiekiem w epoce maszyn”). Algorytmy, nawet te najbardziej zaawansowane, wciąż nie są bardziej inteligentne niż owad. A my sadzamy je za kierownice naszych samochodów. Samochody nigdy nie staną się w pełni autonomiczne, uświadamia Brytyjka. Sensory są ślepawe i głuchawe. Pojazd w nie wyposażony kiepsko radzi sobie w warunkach nieco tylko odległych od idealnych. Łatwo zakłócić ich pracę, łatwo też zhakować. Algorytmy nietrudno wprowadzić w błąd. I wreszcie są dylematy etyczne, które wydają się fundamentalnie nierozstrzygalne – jak ten z przejściem dla pieszych. Dorobek kulturowy ludzkości, cały jej system wartości, jest w dużej mierze efektem ubocznym poszukiwań podobnych rozstrzygnięć moralnych. Ale jakie konkretnie wartości umieścić w algorytmie? Jakich naszych przygnębiających kalkulacji ma być odbiciem? Jakie założenia ma przyjąć w obliczeniach? Ma ratować babcię w samochodzie czy złodzieja na pasach? Producenci aut autonomicznych nie mówią o tym chętnie, ale wiadomo, że za priorytet uznają ratowanie pasażerów ich produktów. Nie inaczej – choć z innych powodów – jest z algorytmami, które w Stanach Zjednoczonych, gdzie rok w rok na proces czeka pół miliona podejrzanych, wspomagają działania sędziów. Dwa lata temu ProPublica, organizacja skupiająca dziennikarzy śledczych, odkryła, jak bardzo rasistowskie były orzeczenia systemu COMPASS. Ocenia on, którzy podejrzani mają zadatki na recydywistów, a którzy nie. Jego rzekomo obiektywny algorytm wykazał się zaskakującą stronniczością – i to nie na korzyść Afroamerykanów. Matematycy dowiedli jednak, że nie istnieje algorytm, który jednakowo sprawiedliwie traktować będzie grupy, których sytuacja społeczna nie jest identyczna. Algorytmy nie będą fair, dopóki ludzie nie będą wobec siebie fair. Przyglądając się tym i innym algorytmom, które zaczynają decydować o naszym bezpieczeństwie i dobrostanie, Hannah Fry zaskakująco często natykała się na „wszelkiego sortu sprzedawców szarej maści kupczących mitami i żerujących na naszej łatwowierności”. „Ludzie sprzedają policji i rządom algorytmy, które rzekomo przewidują, że ktoś jest terrorystą albo pedofilem tylko na podstawie charakterystyki ich twarzy. Inni twierdzą, że ich algorytm zdolny jest do wskazania twojej jedynej prawdziwej miłości”. Oczko na fetysz Jak się więc nie dać omamić? Oswoić niepewność. Przywyknąć do niedoskonałości. Algorytmy należy ulepszać, rzecz jasna, ale one i tak będą się mylić, i tak będą niesprawiedliwe, bo są tworzone przez ludzi, bo odzwierciedlają ich ograniczenia. Tym bardziej więc ulepszenia należy wprowadzać w duchu otwartości, w modelu open source. W epoce algorytmów rola ludzi nigdy jeszcze nie była tak istotna, pisze autorka „Hello World”. „Wyobraźmy sobie, że projektujemy algorytmy, by wspierały ludzi w ich decyzjach, a nie instruowały, żeby informowały o przebiegu rozumowania, a nie tylko przedstawiały wynik”, pisze Fry, licząc na przyszłość, w „której aroganckie, dyktatorskie algorytmy staną się przeszłością”, „w której przestaniemy patrzeć na maszyny jak na władców absolutnych, a zaczniemy patrzeć jak na każdą inną władzę”. Tak się zresztą czasem dzieje już dziś – choćby w diagnostyce nowotworów, gdzie ludzie i algorytmy działają w komitywie. Opowieść Brytyjki to pogodna ballada w porównaniu z ofensywą krytyczną, jakiej algorytmy poddała Amerykanka Meredith Broussard. Jej wydana przez MIT książka „Artificial Unintelligence” („Sztuczna bezinteligencja”) jest wyrazem sprzeciwu wobec czegoś, co autorka nazywana technoszowinizmem, czyli wiarą, że technologia jest rozwiązaniem wszelkich problemów. Technoszowinizm ma według amerykańskiej programistki źródło – i wielkiego protektora – mniej więcej tam, gdzie ma go męski szowinizm: w mężczyznach. Dlaczego Alexa i Siri, programy pośredniczące w kontakcie między ludźmi a dostawcami usług cyfrowych, mówią kobiecym, a nie męskim głosem? Bo wymyślali, programowali i nazywali je mężczyźni, w nowej formie utrwalając dawne stosunki między płciami. Broussard oskarża głównie środowisko z orbity intelektualnej Marvina Minsky’ego, legendarnego badacza sztucznej inteligencji z MIT, guru kilku pokoleń programistów, inżynierów, matematyków, fizyków, filozofów, artystów, przedsiębiorców. Bezpośrednio lub pośrednio Minsky uczestniczył w każdym chyba aspekcie wielkiej rewolucji informatycznej ostatnich kilkudziesięciu lat. Jego dalekie od ortodoksyjnych, hakerskie metody d