Co z nami robią algorytmy

SŁAWOMIR MIZERSKI: – Algorytmy. Według definicji to „skończony ciąg jasno zdefiniowanych czynności koniecznych do wykonania pewnego rodzaju zadań”. Wywołują dziś wielkie emocje. Dlaczego? PIOTR SANKOWSKI: – Bo coraz większa część rzeczywistości jest przetwarzana w sposób cyfrowy. Wpływ algorytmów na nasze życie rośnie m.in. dlatego, że porządkują dostęp do informacji w internecie. Algorytmy pomagają w sprzedawaniu i kupowaniu – polecają nowe produkty, ustalają ceny, umożliwiają prowadzenie aukcji. Bez ich pomocy poruszanie się w sieci byłoby bardzo trudne. Chociaż młodsi ludzie być może tego nie czują, bo dla nich Google zawsze istniał. Kiedyś o algorytmach niewiele się jednak w mediach mówiło. Tymczasem algorytmy tworzy się od zawsze, w końcu, aby dodać do siebie dwie liczby, także potrzeba prostego algorytmu. Każdy z nas wykonuje jakieś – np. rano algorytm ubierania się: zakładamy wszystko w określonej kolejności. Można powiedzieć, że ubieramy się w jasno zdefiniowany sposób. Ale żeby zaraz nazywać to algorytmem? Można to także nazwać przepisem, tak jak kulinarnym, mówiącym jak zrobić bigos czy inną potrawę. Jak się mają tego rodzaju przepisy do tego, czym się pan zajmuje? To, co tworzymy, to bardzo złożone algorytmy – przepisy, w jaki sposób coś ma zrobić komputer. Na przykład kojarzenie, czyli dobieranie obiektów w pary. Może chodzić o osoby na portalach randkowych albo sprzedających i kupujących na giełdach samochodowych czy na aukcjach internetowych. Pierwsze pytanie, jakie algorytmik sobie stawia: skoro mamy problem taki, że niektóre z obiektów nie tworzą ze sobą poprawnych par, to jak powinien wyglądać algorytm, który najszybciej utworzy poprawne. Innymi słowy zastanawiamy się, ile kroków powinien wykonać komputer, żeby policzyć najlepsze skojarzenia. W czym może być pomocny algorytm oprócz kojarzenia par? Są algorytmy dokonujące analizy zachowań użytkowników. Na podstawie danych, jakimi dysponuje sklep, bank czy inny biznes internetowy, dzielą klientów na grupy ze względu na pewne ich konkretne cechy i zachowania. Bo z ich powodu klienci mają odmienne potrzeby zakupowe, preferują odmienne sposoby podróżowania, ubierania się, a nawet potrzebują zupełnie innych produktów bankowych. Te informacje mają ogromne znaczenie dla sprzedawców. Z drugiej strony, kiedy chce pan kupić coś w internecie i otwiera odpowiednią stronę, pojawia się na niej okienko: polecane dla ciebie. Fragmentem naszej działalności jest właśnie robienie takich okienek, tzn. algorytmów rekomendujących produkty wybrane dla określonego kupującego, np. dla pana. Żeby mi coś zarekomendować, wystarczy prześledzić, czym się interesuję i co ostatnio kupiłem? Ale jeśli ostatnio kupił pan koszulę, to prawdopodobnie drugi raz pan jej w najbliższym czasie nie kupi. Algorytm musi wymyślić, co pan może z dużym prawdopodobieństwem kupić, a co nie będzie tym, co pan już ma. Z drugiej strony, jak pan w sklepie spożywczym codziennie kupuje mleko, to algorytm jednak powinien panu zaproponować to mleko, a nie coś podobnego do mleka. Czyli algorytm musi mnie znać, uwzględniać to, jaki jestem. Tak, ale w sposób ściśle matematyczny, w oparciu o statystykę. To bardzo potężne narzędzie. Cenię psychologię, bo ona umie dobrze wyjaśniać to, co już się wydarzyło. Gorzej z przewidywaniem tego, co będzie. Tu sprawdza się właśnie statystyka. Jeśli mamy 10 tys. klientów sklepu, możemy w sposób statystyczny dość precyzyjnie przewidzieć, co się wydarzy. Niekoniecznie, że jakiś określony klient na pewno coś kupi, ale że określona grupa klientów z dużym prawdopodobieństwem będzie kupowała te, a nie inne produkty. Są jakieś sławne algorytmy? Takie, o których można powiedzieć, że były krokami milowymi w rozwoju algorytmiki? Z pewnością niektóre spowodowały zmianę sposobu myślenia i spojrzenia na pewne problemy. Choćby algorytm, w oparciu o który pracuje wyszukiwarka Google. Kojarzy ona wpisane słowa kluczowe z odpowiednimi stronami w sieci, ale najważniejszym zadaniem użytego w niej algorytmu jest odpowiednie posortowanie tych stron według ich jakości. W ten sposób określa, czy strona jest dobra czy słaba. Algorytm ustala własną miarę jakości stron poprzez to, jak je pozycjonuje. Skąd wiadomo, że taki algorytm dobrze działa? Powiedzmy, że dla każdego słowa kluczowego wyszuka on 10 stron. Miarą jego jakości jest to, jak często wśród tych 10 stron, a jeszcze lepiej wśród pierwszych trzech, znajduje się ta, której szukamy. Oczywiście musimy mieć świadomość, że jest to wyszukiwanie spersonalizowane. Jeśli pan wpisze jakieś określone hasło w wyszukiwarce, zobaczy pan inne wyniki niż ja, jeśli wpiszę dokładnie to samo hasło. Personalizacji algorytm dokonuje na podstawie posiadanych informacji dotyczących tego, czego wcześniej w Google’u szukaliśmy, w co klikaliśmy. Wszechwiedza takiego algorytmu jest trochę niepokojąca. Z jednej strony jego działanie sprawia, że pan i ja jesteśmy bardziej zadowoleni, ponieważ to, czego szukaliśmy, znaleźliśmy szybciej i łatwiej. Z drugiej strony jest niebezpieczeństwo stworzenia wokół nas swego rodzaju baniek informacyjnych. Wielu ludzi je bagatelizuje, uważa, że nie mają wpływu na ich życie. Może nawet są wygodne, bo dzięki nim nie musimy się konfrontować z treściami, których np. nie lubimy. Ale na dłuższą metę są zagrożeniem. Czy algorytmicy mogą temu jakoś przeciwdziałać? Tu jest wiele do zrobienia. Powinniśmy tę sprawę zdefiniować w kategoriach matematycznych, co na razie nie nastąpiło. Trudno powiedzieć, który algorytm tworzy bańki informacyjne, a który nie, bo nie mamy dobrej definicji matematycznej. Poza tym trzeba najpierw zdefiniować czego my, jako użytkownicy, powinniśmy oczekiwać od algorytmów. Jeśli oczekujemy sprawiedliwości, konieczne jest stworzenie pojęć, które powiedzą, jaki algorytm jest sprawiedliwy, ewentualnie społecznie sensowny pod innymi względami. Co to znaczy, że algorytm ma być sprawiedliwy? Jeszcze nie wiem, można to definiować na wiele sposobów. Ale warto wyjaśnić, dlaczego to jest istotne. Prosty przykład: kupuje pan bilety lotnicze w internecie i nie ma pan zielonego pojęcia, dlaczego cena tych biletów jest w tym momencie taka, a nie inna. I dlaczego dwie godziny albo dwa dni później się zmienia. Rozumiem, że działa tu jakiś algorytm. Działa, śledząc pana zachowanie w internecie. Widzi, że pan jest zainteresowany i się zastanawia, a skoro tak, to może podniesie panu cenę, gdy następnym razem wejdzie pan na stronę. W przyszłości algorytmy będą coraz bardziej skomplikowane, będą coraz mocniej nami manipulowały. I nie chodzi tu tylko o bilety. Musimy być świadomi, że algorytmy zaczną wykonywać coraz poważniejsze zadania. Nie tylko będą porządkowały obszary stosunkowo łatwe do przetworzenia, ale wkroczą w dziedziny trudniejsze, m.in. w zarządzanie. Będą coraz bardziej inteligentne? Na pewno będą potrafiły wyciągać coraz więcej coraz bardziej skomplikowanych wniosków. Już dziś są zdolne same się udoskonalać, zmieniać swoje funkcjonowanie w oparciu o nowe informacje. Wyobrażam też sobie, że w przyszłości powstaną algorytmy będące doradcami klientów. Bo dzisiaj większość algorytmów działa na rzecz korporacji i firm, które sprzedają, dążąc do maksymalizacji ich zysku, często kosztem klientów. Z jednej strony nadal będę atakowany algorytmem przez tych, którzy chcą mi coś sprzedać... ...a z drugiej będzie pan miał inny algorytm, który postara się przechytrzyć algorytm sprzedającego i ostrzeże przed manipulacją. Wydaje mi się, że coś takiego wcześniej czy później nastąpi. Ale raczej jako efekt działań oddolnych, bo korporacjom nie będzie się opłacało tworzyć algorytmów, które utrudniają sprzedaż. Naukowcy mogą usiąść przy biurkach i stworzyć taki przechytrzający algorytm. Tak. Z tym że to będzie element kowbojskiej sprawiedliwości: skoro przeciwnik ma broń, to ja też się uzbroję. To coś innego niż idea sprawiedliwego algorytmu. On zresztą też jest pieśnią przyszłości, bo tę sprawiedliwość trzeba najpierw zdefiniować. Może powinni to zrobić prawnicy i np. socjologowie razem z osobami, które rozumieją algorytmy. Chodzi o stworzenie pojęć matematycznych, które będziemy rozumieli jako sprawiedliwość. Jak by to miało wyglądać? Można by np. zdefiniować sprawiedliwość jako brak zazdrości. Chodzi o to, by z transakcji handlowych wyeliminować te, w wyniku których będę miał pretensję, że ktoś kupił to samo co ja, ale taniej lub na lepszych warunkach. Matematyczna próba definiowania sprawiedliwości oznaczałaby wyeliminowanie zazdrości. Taki wzór można by implementować w algorytmach sprzedających różne rzeczy. Jednocześnie potrzebna byłaby presja na ustawodawców, aby wprowadzili te rozwiązania w życie. Dzisiaj algorytmy mogą dyskryminować różne osoby czy grupy, bo żadne prawo tego nie reguluje. Mogą drożej sprzedawać różne towary biedniejszym, wykorzystując fakt, że są słabiej zorientowani albo mniej mobilni, bo nie mają samochodów. W biedniejszych dzielnicach niektórych miast w USA sklepy sprzedają te same produkty drożej niż sklepy w dzielnicach zamożnych. Tak zdecydował algorytm? Właśnie. Oczywiście algorytmowi nie chodziło o to, żeby biedni płacili więcej od bogatych. Jego zadaniem było zarobienie jak największych pieniędzy i on po przeanalizowaniu informacji stwierdził, że gdy w biedniejszych dzielnicach są wyższe ceny, to jest większy zysk, podczas gdy w dzielnicach bogatych – mniejszy. Nie zastanawiał się, czy podniesienie cen biednym jest sprawiedliwe i czy kogoś dyskryminuje. Dlatego wbudowanie w algorytmy mechanizmów sprawiedliwościowych jest ważne. Jesteśmy już gotowi na ten nowy ład algorytmiczny? Jeszcze nie, bo nie jesteśmy zgodni co do tego, jakie powinny być nasze wymagania, tzn. brakuje matematycznego zdefiniowania sprawiedliwości na tyle ogólnego, żeby dało się je zastosować do wszystkich algorytmów. Sprawiedliwości, która chcemy, żeby zachodziła wszędzie, niezależnie od tego, czy będzie to sprzedaż biletów lotniczych, butów czy jabłek. Ale ostatecznie chcielibyśmy, żeby każdy algorytm działający na rynku sprzedaży online ten element zawierał. Na razie każdy, kto jest kreatywny, może za po