Paradoks twórcy. Autor książki o zagrożeniach AI sam padł ofiarą halucynacji algorytmów

Steven Rosenbaum napisał książkę ostrzegającą przed tym, jak sztuczna inteligencja zniekształca rzeczywistość i zaciera granicę między prawdą a fałszem.

Ironia losu sprawiła, iż w jego własnej publikacji zatytułowanej „The Future of Truth” znalazły się zmyślone, wygenerowane przez algorytmy cytaty, których rzekomi autorzy nigdy nie wypowiedzieli. Sprawa ta wykracza jednak daleko poza wpadkę jednego pisarza, obnażając niedostosowanie tradycyjnych procesów kontroli w branży wydawniczej, gdzie klasyczny warsztat weryfikacji faktów zderza się z pozorną nieomylnością wielkich modeli językowych.

Złudzenie kontroli i upadek weryfikacji

Autor korzystał z narzędzi takich jak ChatGPT i Claude na etapie wczesnego zbierania materiałów, streszczania motywów badawczych i wyszukiwania odpowiednich artykułów. Choć zapewniał, iż adekwatna struktura narracyjna oraz same wywiady były wyłącznie jego autorskim dziełem, niezależne śledztwo dziennikarskie wykazało w tekście obecność tak zwanych cytatów syntetycznych. Wśród nich znalazły się zmyślone wypowiedzi przypisane między innymi znanej reporterce technologicznej Karze Swisher oraz profesor Lisie Feldman Barrett.

Sytuacja ta dobitnie pokazuje lukę w klasycznych procesach wydawniczych. Do niedawna osoba odpowiedzialna za fact-checking mogła z dużym prawdopodobieństwem zakładać, iż cytat umieszczony w tekście został przez autora po prostu spisany ze źródła. Obecność narzędzi generatywnych w procesie twórczym całkowicie unieważnia to założenie. Wymusza to na redakcjach wdrażanie zupełnie nowych, znacznie bardziej rygorystycznych protokołów śledzenia pochodzenia informacji, ponieważ sztuczna inteligencja potrafi generować nieistniejące dane w sposób niezwykle przekonujący i autorytatywny.

Toksyczna relacja z wydajnością

Najbardziej uderzająca w całej sprawie jest jednak postawa samego autora. Mimo wizerunkowej kompromitacji i konieczności wprowadzania poprawek w kolejnych wydaniach książki, Rosenbaum nie zamierza porzucić sztucznej inteligencji w swoim warsztacie pisarskim. Pisarz wprost porównuje korzystanie z algorytmów do uzależnienia, przyznając, iż narzędzia te bywają dla twórcy równie fascynujące, co niebezpieczne.

Kusząca pozostaje przede wszystkim gigantyczna szybkość operacyjna. Wyciągnięcie treści ze stustronicowego dokumentu, które manualnie zajęłoby redaktorowi godzinę nużącej pracy, zajmuje maszynie kilka sekund. Problem polega na tym, iż system potrafi w tym ułamku sekundy bez ostrzeżenia zmienić sens tekstu, całkowicie ignorując sztywne polecenia o zachowaniu oryginalnego brzmienia słów. W ten sposób narzędzie, które miało być zaledwie asystentem badawczym, po cichu staje się nieprzewidywalnym współautorem.

Cena technologicznego przyspieszenia

Ten redakcyjny wypadek nie jest na rynku medialnym zjawiskiem odosobnionym. Ostatnie miesiące przyniosły wysyp podobnych incydentów, od publikacji zmyślonych list książek w amerykańskiej prasie codziennej po konfabulacje w przypisach do poważnych prac naukowych.

Środowisko twórcze staje przed dylematem dotyczącym stosunku dokładności do oszczędności czasu. Rosenbaum celnie zauważa w tym kontekście analogię do jazdy motocyklem. Choć jednoślad pozwala dotrzeć do celu znacznie szybciej niż tradycyjny rower, ryzyko katastrofalnego w skutkach błędu rośnie nieproporcjonalnie. Pytanie, czy redakcje i wydawnictwa są gotowe masowo ponosić to ryzyko w imię przyspieszenia procesów twórczych, wciąż pozostaje bez jednoznacznej odpowiedzi.

Koniec z darmowym spamowaniem AI. Google drastycznie zmienia limity i cenniki w Gemini

Jeśli artykuł Paradoks twórcy. Autor książki o zagrożeniach AI sam padł ofiarą halucynacji algorytmów nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.