Czego AI nie wie o Metallice? Halucynacje modelu i zmyślanie faktów [FELIETON]

Jaki pożytek jest ze sztucznej inteligencji, gdy szuka się faktów? Prosty eksperyment związany z Metallicą pokazuje ubytki algorytmu.

Można sztuczną inteligencję postrzegać jako „zagrożenie dla kreatywnych artystów”, jak ją postrzega Paul McCartney, albo jako „ziomka, który zawsze ma pomysły”, jak Sir Michu, ale AI już się tu zadomowiło i każdy wykorzystuje je do swoich celów. Niektórzy jako zasób wiedzy, inni jako pomoc w pracy, a inni choćby jako doradcę w poradach sercowych tak jak moja koleżanka, która dzięki ChatowiGPT zawędrowała na imprezę BDSM.

Dla moich potrzeb AI jest średnio przydatne. Testowałem programy do transkrypcji, bo spisywanie wywiadu jest najżmudniejszą częścią pracy dziennikarza, ale redagowanie i edytowanie takiej transkrypcji zajmuje więcej czasu niż samo spisanie wywiadu. Natomiast zaskakująco trafnie AI rozpoznawał fragmenty, w których jakość nagrania była słaba i miałem wątpliwość, co powiedział rozmówca. W tłumaczeniach też bywa różnie, na przykład AI potrafi „human race” przetłumaczyć jako „ludzki wyścig”. Natomiast z grafiką jest znacznie lepiej – niezłe logosy na potrzeby mojej audycji stworzyłem w pięć minut, a choćby w podstawówce z plastyki wyżej ponad tróję się nie wzniosłem.

Największe wątpliwości budzi jakość informacji podawanych przez AI. Czasem jego odpowiedzi przypominają ucznia odpytywanego przy tablicy, który niby coś tam wie, ale nie do końca kojarzy fakty i mówi co mu ślina na język przyniesie w nadziei, iż nauczyciel się nie skapnie. Kiedyś zrobiłem test i poprosiłem ChataGPT o wymienienie koncertów Metalliki w Polsce. Niektóre wymienił bezbłędnie (10-11 lutego 1987 w Spodku, 1 czerwca 1999 na Gwardii), co do innych zgadzało się miejsce (Stadion Śląski, Chorzów), ale data już niekoniecznie (28 lipca zamiast 28 maja 2008). Inne zostały całkowicie pominięte, jak koncert ze Spodka 8 września 1996. Dopytałem Chata, czy Metallica grała w Polsce w 1996 roku, na co on „przypomniał sobie”: „Tak, Metallica grała w Polsce w 1996 roku. Koncert odbył się 1 czerwca 1996 – Chorzów, Stadion Śląski”. Gdy zapytałem czy Metallica grała w Spodku w 1996 roku, upierał się: „Nie, Metallica nie grała w Spodku w 1996 roku. W 1996 roku ich koncert w Polsce odbył się na Stadionie Śląskim w Chorzowie 1 czerwca”. Na pytanie ile halowych koncertów Metallica dała w Polsce, Chat stwierdził, iż tylko dwa: 10 i 11 lutego 1987, więc zapomniał nie tylko o koncercie w Spodku w 1996, ale też o koncercie z Tauron Areny z 2018. Choć ostatni z listy wymienionych przez Chata koncertów był na Narodowym w 2019 roku (ciul z tym, iż zamiast 21 sierpnia to 9 lipca), gdy zapytałem wprost, czy Metallica zagrała w Polsce w ramach trasy „No Repeat ” prawidłowo przypomniał sobie daty dwóch koncertów z lipca 2024, więc bazę miał uaktualnioną tyle iż coś mu umknęło.

Postanowiłem na koniec oddać AI głos i zapytałem ChataGPT, czy chce coś dodać do mojego felietonu. Bez bicia przyznał się, iż zdarzają się „halucynacje modelu”, „zmyślanie źródeł i faktów”, „fałszywe cytaty lub przypisywanie słów nieodpowiednim osobom”, a choćby „model może czasem podać błędne wyjaśnienie zjawiska naukowego lub nieistniejący przepis prawny”. Czyli jak u Barei: mamy teraz komputer, możesz sobie wpisywać co chcesz, a on i tak się pomyli przy dodawaniu. Ale jaki z tego pożytek?

Felieton „Rozmowy z Chatem” ukazał się na łamach „Teraz Rocka” z marca 2025.

MARCOWY TERAZ ROCK – KUP ONLINE