Kto czyści dla nas internet (i dlaczego nadal jest tak brudno)?

Na ekrany kin wchodzi film dokumentujący pracę czyścicieli internetu. Przedstawia kulisy, skutki i ofiary internetowej cenzury, która okazuje się idealnym narzędziem do sterowania rzeczywistością.

Platformy internetowe istnieją i zarabiają dzięki naszej pracy, liczonej w gigabajtach danych i godzinach, jakie spędzamy na klikaniu (opublikuj, podaj dalej, oznacz, odpowiedz...). Co minutę zasoby YouTube powiększają się o kilkaset godzin materiału filmowego, strumień tweetów zwiększa się o kilkaset tysięcy, a na Facebooku przybywa nawet 2,5 mln postów. Jest nas – podpiętych pod sieć 2.0 producentów treści – coraz więcej, a wytwarzanie internetowego kontentu staje się jeszcze szybsze i łatwiejsze. W miejsce tych, którym już się znudziło nadawać, wchodzą młodsi, żeby się przekonać, jak to jest „zaistnieć w internecie”. Zajęci nadawaniem, możemy nie zauważyć, że między nami a internetową publicznością pojawił się filtr. I to filtr wielowarstwowy.

W sieci algorytmów

Pierwsza warstwa filtru to algorytm, który ma za zadanie wyłapać, czy w nieustającym strumieniu treści czekających na opublikowanie nie pojawiło się coś, co narusza regulamin platformy. Filtr technologiczny jest w stanie wyłapać to, co pasuje do wzorca, którego nauczyła się sieć neuronowa. Czy coś wygląda jak nagość albo przemoc? Czy coś brzmi lub wygląda jak dzieło chronione prawem autorskim? Zadaniem algorytmu nie jest ocena takich niuansów jak intencja publikującego (czy to jeszcze satyra czy już podżeganie do nienawiści?), kontekst (czy to działanie artystyczne albo edukacyjne czy zwykła pornografia?) czy faktyczna zgodność z prawem (może to jednak uprawniona krytyka medialna albo dozwolony użytek?).

Użytkownicy zgłaszają niestosowne treści. Ale...

Druga warstwa filtru to my – inni użytkownicy, którzy zamiast „lubię to” klikają „zgłoś naruszenie”. To, czego nie wyłapał algorytm (bo nie pasowało do wzorca, którego jest się w stanie nauczyć maszyna), wyłapują ludzie. Robią to z różnych powodów – czasem osobistych, czasem politycznych, a czasem tylko dlatego, że mogą. Facebook, który mierzy się z największą skalą takich zgłoszeń, zapewnia, że nie reaguje automatycznie. Znikać powinno tylko to, co narusza regulamin albo tzw. standardy społeczności, a więc m.in. treści propagujące nienawiść (np. na tle rasowym), zachęcające do przemocy, odczłowieczające, znieważające, drastyczne czy – jak to serwis określa – „niestosowne” (np. zdjęcia ofiar przemocy). W praktyce bywa różnie.

Ofiarą „prywatnej cenzury” padają zdjęcia z reportaży wojennych, materiały dokumentujące brutalność policji i inne naruszenia praw człowieka (np. zbrodnie na Rohingjach w Birmie) czy relacje z protestów społecznych, ale też „lżejsze” treści, jak zdjęcia modelek „plus size” czy klasycznych dzieł artystów (Rubensa, Courbeta) portretujących nagie kobiety. Z drugiej strony zdarzają się przypadki zorganizowanych kampanii nienawiści (jak np. nawoływanie do eksterminacji Rohingjów), które na Facebooku „klikają się” tak dobrze, że okazują się nie do ruszenia.

Moderatorzy, o których nikt się nie troszczy

Trzecia warstwa, bez której dwie poprzednie nie mogłyby działać, to ludzie zatrudnieni do sprzątania, do internetowej brudnej roboty. Przez cały dzień, kilka razy na minutę są epatowani obrazami przemocy, ludzkiego ciała, seksu i wszystkiego, co się zatrzymało na wcześniejszych warstwach filtru, a teraz czeka na ich decyzję: „zignoruj” albo „skasuj”. Z tą decyzją zostają sami, oceniani tylko przez algorytm sprawdzający, czy niczego nie pomijają i jak szybko są w stanie przejść dalej. O ich emocje i bezpieczeństwo nikt się nie troszczy.

Tajemnice czyścicieli internetu w nowym filmie dokumentalnym

Na ekrany kin właśnie wchodzi film dokumentujący pracę takich osób: „Czyściciele Internetu” (The Cleaners, 2018 r.) w reżyserii Hansa Blocka i Moritza Riesewiecka. Dzięki śledztwu dziennikarskiemu i podróży na Filipiny twórcom udało się pokazać realia zatrudnienia „na zapleczu” kilku portali internetowych. Docierają do byłych czyścicieli, z których wielu boryka się z zespołem stresu pourazowego. Przywołują liczne przypadki samobójstw i samookaleczeń, jednocześnie z dumą opowiadają o własnym poświęceniu po to, żeby internet był bezpieczny i przyjazny dla innych.

Czyżby? Block i Riesewieck nie poprzestają na dręczącym obrazie ludzi z globalnego południa, skazanych na najgorszą pracę w imię naszego lepszego samopoczucia. Ich śledztwo dociera też do szokujących przykładów nadużyć, z którymi portale internetowe – mimo armii marnie opłacanych czyścicieli – nie są w stanie lub nie chcą walczyć. Konfrontują nas m.in. ze skutkami zorganizowanej kampanii nienawiści wobec Rohingjów, do której Birmańczycy od lat z powodzeniem wykorzystywali Facebooka.

Jak odebrać korporacjom kontrolę nad naszym życiem

Film przedstawia kulisy, skutki i ofiary internetowej cenzury, która okazuje się idealnym narzędziem do sterowania rzeczywistością. Dowodzi, że media społecznościowe świadomie angażują się w polityczną grę, np. negocjując z niektórymi reżimami ograniczenie użytkownikom dostępu do krytycznych treści. Po jego obejrzeniu zostajemy z niewygodnym pytaniem: jak to możliwe, że internetowe korporacje, o niewielkiej lub zerowej odpowiedzialności wobec swoich użytkowników, zyskały taką władzę nad naszym życiem publicznym? Czy nie jest tak, że część tej władzy oddaliśmy im sami, bo chętnie pozbywamy się odpowiedzialności i tak naprawdę nie lubimy decydować? Czy możemy jeszcze zawrócić z tej drogi?

Zapraszamy na pokazy „Czyścicieli Internetu” od 28 września.

Katarzyna Szymielewicz – prawniczka specjalizująca się w problematyce praw człowieka i nowych technologii, prezeska Fundacji Panoptykon.