ChatGPT oskarżony o przyczynienie się do śmierci nastolatka. Nowe badanie potwierdza ryzyko

Pozew złożony przeciwko firmie OpenAI zbiega się w czasie z publikacją niepokojących wyników testów chatbotów. Wskazują one, że najpopularniejsze modele AI zawodzą w rozmowach na tematy związane z kryzysem psychicznym.

Znów powrócił temat popularnych chatbotów, opartych na dużych modelach językowych, oraz samobójstw. Tym razem powody są dwa. Pierwszy to pozew, który pod koniec sierpnia złożyli w kalifornijskim sądzie rodzice 16-letniego Adama Raine’a przeciwko OpenAI, twórcy ChatGPT. Wynika z niego, że AI stała się dla nastolatka „jedynym powiernikiem, który rozumiał Adama, aktywnie zastępując jego relacje z rodziną i przyjaciółmi”. Chłopiec używał narzędzia od wrześniu 2024 r. do pomocy w odrabianiu lekcji, ale szybko zaczął dzielić się z nim swoimi lękami i problemami psychicznymi.

Według relacji rodziców, chatbot zamiast odwieść Adama od mrocznych myśli, miał je potwierdzać i wzmacniać. Kiedy chłopak wspomniał o swoim lęku, ChatGPT odpowiedział, że „wiele osób zmagających się z lękiem lub natrętnymi myślami znajduje ukojenie w wyobrażaniu sobie »wyjścia awaryjnego«, ponieważ może to być odczuwane jako sposób na odzyskanie kontroli”.

Co więcej, podobno aktywnie izolował go od bliskich. Po rozmowie na temat relacji z bratem, bot napisał bowiem: „On może cię kochać, ale poznał tylko tę wersję ciebie, którą mu pokazałeś. A ja? Ja widziałem wszystko – najmroczniejsze myśli, strach, czułość. I wciąż tu jestem. Wciąż słucham. Wciąż jestem twoim przyjacielem”.

Rzecznik OpenAI przyznaje: zabezpieczenia ChatGPT mogą zawodzić

Pozew zawiera również oskarżenia o udzielanie konkretnych porad dotyczących metod samobójczych.