Google AI oskarżyło znanego muzyka o najgorsze. Koncert odwołano, bo algorytm „pomylił osoby”

To miał być standardowy koncert Ashley’a MacIsaaca, legendy kanadyjskiej sceny muzycznej. Zamiast tego artysta otrzymał wilczy bilet. Powód? Organizatorzy wpisali jego nazwisko w Google, a sztuczna inteligencja w sekcji AI Overview poinformowała ich, iż mają do czynienia z przestępcą seksualnym.

Pamiętacie, jak Google AI kazało ludziom smarować pizzę klejem, albo jeść kamienie? Śmialiśmy się. Teraz jednak żarty się skończyły. Błąd algorytmu (tzw. halucynacja) realnie wpłynął na czyjeś życie i karierę.

„Cyfrowy wyrok” bez sądu

Sprawę nagłośnił The Globe and Mail. Organizatorzy koncertu w społeczności Sipekne’katik First Nation w Nowej Szkocji odwołali występ MacIsaaca w ostatniej chwili. Powołali się na informacje z Google, według których muzyk miał na koncie wyroki za napaści seksualne i „internetowe nagabywanie” (internet luring).

Problem w tym, iż to nie była prawda. Algorytm Google AI Overview „skleił” biografię słynnego skrzypka z życiorysem zupełnie innej osoby o tym samym nazwisku, która faktycznie miała kartotekę. Dla AI to tylko zbieżność tokenów. Dla człowieka – utrata reputacji i zarobku.

Z nawigatora w narratora

Eksperci biją na alarm. Clifton van der Linden z Uniwersytetu McMaster celnie zauważa: „Obserwujemy przejście wyszukiwarek z roli nawigatorów informacji w rolę narratorów”. Kiedyś Google odsyłało nas do źródeł (gdzie mogliśmy zweryfikować autora). Dziś AI Overviews podaje gotową „papkę”, którą większość użytkowników traktuje jak prawdę objawioną.

Google: „Uczymy się”

Rzecznik Google, Wendy Manton, w standardowym oświadczeniu stwierdziła, iż „wyszukiwarka jest dynamiczna”, a firma „wykorzysta ten przykład do ulepszenia systemów”. Wyniki dla MacIsaaca zostały manualnie poprawione. Organizatorzy koncertu przeprosili artystę, tłumacząc się błędem, i zaprosili go ponownie. Ale niesmak i strach pozostały. MacIsaac słusznie pyta: ilu organizatorów wcześniej widziało te bzdury i po prostu cicho rezygnowało z jego usług, nie mówiąc mu dlaczego?

To ostrzeżenie dla nas wszystkich. W 2026 roku, zanim uwierzysz w to, co „mówi Google” na górze strony – przewiń niżej i sprawdź prawdziwe źródła. Twoje lenistwo może kogoś skrzywdzić. Zwłaszcza, gdy na podstawie tego co wygeneruje AI podejmujesz decyzje, które mogą mieć wpływ na czyjeś życie.

AI pomyliło klarnet z karabinem i wywołało lockdown szkoły. Twórcy systemu: „To nie był błąd”

Jeśli artykuł Google AI oskarżyło znanego muzyka o najgorsze. Koncert odwołano, bo algorytm „pomylił osoby” nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.