Z pozoru brzmi to dość niewinnie – organizacji OpenAI wspieranej finansowo przez miliardera Elona Muska udało się stworzyć algorytm (nazwany GPT-2), który po otrzymaniu próbki tekstu jest w stanie napisać dłuższy i spójny tekst w tym samym stylu. Na swojej stronie twórcy z OpenAI wyjaśniają, że GPT-2 stworzono z prostym zamysłem: aby przewidywał następne słowo na podstawie poprzednich słów w otrzymanej próbce. W tym celu algorytm wcześniej „nakarmiono” danymi pochodzącymi z kilku milionów stron internetowych.
Czytaj także: Prawda miliardera, czyli Elon Musk ogłasza projekt oceniania mediów
Plotki, newsy, literatura piękna – GPT-2 świetnie sobie radzi
Oprogramowanie okazało się niezwykle skuteczne. Na podstawie jednego zdania może wygenerować teksty na niezwykle szeroki zakres tematów: od plotek z życia celebrytów, przez bieżące wydarzenia polityczne i odkrycia naukowe, po prozę inspirowaną np. twórczością Tolkiena. I są to teksty poprawne językowo i niezwykle spójne stylistycznie. Próbki można znaleźć »TU«.
Jak piszą sami twórcy algorytmu, mógłby zostać wykorzystany do tworzenia wprowadzających w błąd lub szkodliwych treści. Oczywiście takie teksty – szkodliwe lub wprowadzające w błąd – codziennie popełniają miliony użytkowników internetu, komentując artykuły czy zamieszczając posty w mediach społecznościowych. Istnieją już prostsze, zdolne do sklecenia spójnego zdania, programy, zwane botami (większość kont na Twitterze prowadzą właśnie one).
Więcej niż bot
Siłą nowego oprogramowania jest jednak jego biegłość językowa i stylistyczna. Dotychczasowe generatory tekstu były niezbyt sprawne, nie radziły sobie ze składnią dłuższych zdań, a w połowie akapitu potrafiły „zapomnieć”, o czym piszą i zmienić temat. Automaty były na tyle mało skuteczne, że spam od ważnego maila z łatwością po stylistyce i błędach językowych odróżniał każdy.
Czytaj także: Wskazówki i zmyłki. Co z nami robią algorytmy
Nowy program jest tych wad pozbawiony. Zdarzają mu się co prawda, jak przyznają programiści, powtórzenia czy błędy wynikające z braku podstawowej wiedzy o świecie. Jednak generuje bardzo przekonujące teksty niezwykle szybko. Dotychczas, aby wyprodukować taki tekst, potrzeba było człowieka, a ten potrzebował czasu. Aby przeprowadzić kampanię dezinformacyjną opartą na wielu tekstach, potrzeba było wielu osób i znacznie więcej czasu. GPT-2 mógłby wyprodukować setki spójnych stylistycznie i przekonujących, a wprowadzających w błąd tekstów dowolnej długości w zasadzie w okamgnieniu – i do tego za darmo.
Czytaj także: Ukryci za (prawicowym) portalem
Jeszcze więcej doskonałych fake news?
Mrowie pisanych na zamówienie, entuzjastycznych recenzji produktów, stronniczych komentarzy do wydarzeń politycznych, nieprawdziwych wiadomości, które są nie do odróżnienia od tekstu poddanego weryfikacji i redakcji? To wszystko już znamy – w internecie trudno się przed takimi treściami uchronić. Jednak skuteczny automatyczny generator tekstu sprawiłby, że proporcja prawdy do fałszu byłaby jeszcze mizerniejsza. Utonęlibyśmy w powodzi fikcji, półprawd i propagandy już zupełnie.
Czytaj także: Jak uchronić demokrację przed fejkami
GPT-2 tylko w okrojonej wersji. Jak długo?
Sami twórcy GPT-2 postanowili ograniczyć dostępność oprogramowania i udostępniają jego okrojoną wersję. Jeśli jednak stosunkowo proste zadanie stworzenia oprogramowania i bazy danych udało się jednej grupie programistów, z pewnością tym śladem podążą kolejne. Oczywiście, jest to tylko narzędzie i od człowieka zależy, jak zostanie wykorzystane. Nie powinniśmy się jednak łudzić: internet niebawem zaleje (jeszcze większa) powódź półprawd i fałszu doskonale imitujących prawdę.
Czytaj więcej: Deepfakes – gorsze niż fake news