Załamany chatbot. Uwaga na asystentów AI: Grok przeżył coś na kształt meltdownu

Rozmowy ze stworzonym przez xAI Grokiem odbywają się publicznie na platformie X.

O ile w kinie SF bunt sztucznej inteligencji był przedstawiany bardzo widowiskowo (nadciąga Terminator!), o tyle rzeczywistość przypomina raczej satyryczne powieści Douglasa Adamsa. Autor kultowego „Autostopem przez Galaktykę” opisywał „paranoidalne androidy” z depresją, uciążliwe w użyciu i nieprzyjemne w kontakcie. Adams opisał też wielki komputer, który miał odpowiadać na wszelkie pytania. I tak dziś traktuje się ChatGPT, Copilota czy stworzonego przez xAI (należącą do Elona Muska) Groka. Ten ostatni jest ciekawym eksperymentem społecznym, gdyż rozmowy z nim odbywają się publicznie na platformie X. Użytkownicy proszą często o zweryfikowanie informacji z postu („@grok, czy to prawda?”) lub próbują zmusić go do zajęcia polemicznego stanowiska (zwłaszcza pod wpisami politycznymi). Do tej pory Grok wydawał się trzymać faktów i nie ulegać wpływom, nawet jeżeli – jak każda AI – miewał skłonności do halucynacji czy uprzedzeń kulturowych.

Jednak 14 maja przeżył coś na kształt meltdownu – załamania, tak w sieci określa się sytuację, kiedy ktoś zaczyna pisać obsesyjne i niekontrolowane rzeczy w mediach społecznościowych (jak np. Kanye West). Grok, niezależnie od tego, o co był pytany, zmieniał temat na kwestię „ludobójstwa białych” w RPA (tak skrajna prawica, w tym Musk i Trump, fałszywie przedstawia przypadki przemocy wobec białych farmerów).

Po dobie xAI przyznało, że doszło do „nieautoryzowanych modyfikacji” zestawu wewnętrznych instrukcji Groka.