Kiedy mijałem kolejne prace w pierwszej sali wystawy, moją uwagę przykuła instalacja z korbą (praca „The Effort” Jakuba Koźniewskiego) oraz niewielkim czarno-białym obrazem przedstawiającym kosmicznego jeźdźca na koniu. Przy niej jedna ze zwiedzających mozolnie napędzała mechanizm, motywowana wyświetlającym się paskiem ładowania. Spodziewała się zobaczyć nowy, świeżo wygenerowany obraz. Ten jednak nie zmieniał się, a pikselowy jeździec-kosmonauta na spacerującym koniu wciąż prężył się dumnie, nie zwracając uwagi na zmagania człowieka.
Po chwili zobaczyliśmy też napis, który trudno było przeczytać inaczej niż ironicznie: „Was it worth the effort?” (Czy było to warte wysiłku?). „Tak jak w życiu – robisz, robisz i nic się nie zmienia” – skomentowała niewzruszenie uczestniczka wystawy, gdy spytałem o wrażenia.
Czyżby ludzki wysiłek nic już nie znaczył? A może niedługo nadejdzie moment, w którym generowany błyskawicznie efekt końcowy tak przyćmi ludzki wkład w pracę, iż nikt nie przywiąże już do niego wagi, a inżynierowie – być może za radą AI – zdecydują się zostawić nam taką oto „korbkę”, by zwyczajnie nas czymś zająć? Czy to chciał nam powiedzieć autor instalacji? Otóż nie. Okazuje się, iż dzieło nie wytrzymało próby czasu, a nieresetujący się obraz jest efektem glitchu, usterki.
Co więcej, wystawa kuratorowana przez Sylwię Szykowną oraz Aleksandrę Kosior nie ucieka się do przyjęcia tej nad wyraz deprymującej wizji przyszłości.
fot. J. Czarnota
Wręcz przeciwnie, opowieść wokół wystawy niesie zupełnie inne przesłanie – AI (Artificial Intelligence) nie może obyć się bez nas i bez planety. Parafrazując Isaaca Newtona, krytykującego budowniczych perpetuum mobile – stworzenie czegoś z niczego jest fizycznie niemożliwe.
Mam wrażenie, iż zarówno ta w zamyśle wiecznie kręcąca się średniowieczna maszyna, jak i sposób działania współczesnych dużych modeli językowych (LLM – Large Language Models) mają ze sobą coś wspólnego – są efektem podobnego fantazmatu na temat stworzenia autonomicznej maszyny, która zadziała niezależnie od nas i otoczenia.
Co jest za kurtyną? A co w rękawie magika?
Perpetuum mobile to tylko jeden z wielu przykładów na to, jak duża grupa ludzi uległa pewnej quasitechnologicznej iluzji. Elias Bessler, syn chłopów z Saksonii pod enigmatycznym, sugerującym nobliwe pochodzenie pseudonimem Orffyreus, w XVIII wieku zdołał przekonać wielu uczonych (w tym Gottfrieda Wilhelma Leibniza), iż starożytna zasada ex nihilo nihil fit (nic nie powstaje z niczego) może zostać zakwestionowana poprzez stworzenie w pełni zautomatyzowanej maszyny – samonapędzającego się koła, które może kręcić się w nieskończoność.
Kuratorki wystawy nie odwołują się do tego zjawiska ani też do tych historycznie wcześniejszych (np. Hefajstosa, który wedle starożytnej „Iliady” miał korzystać z pomocy pracownic-automatów w swojej kuźni, by te wykonywały za niego najbardziej żmudne prace); proponują jednak analogię podejmowananą przez badaczkę Kate Crawford w książce „Atlas sztucznej inteligencji. Władza, pieniądze i środowisko naturalne”, gdzie australijska akademiczka porównuje przypadek mechanicznego Turka do sposobu funkcjonowania dużych platform internetowych (e-commerce), takich jak m.in. Amazon.
fot. Maciej Kolka-Kaczyński
Mechaniczny Turek to maszyna skonstruowana przez Wolfganga von Kempelena, która w 1769 roku miała staczać ze śmiałkami partie szachowe, podczas gdy w rzeczywistości pionkami poruszał schowany w szafie szachista. Historia – nomen omen – zatacza tutaj koło, gdyż perpetuum mobile Orffyreusa napędzane było pracą służby chowającej się w innym pomieszczeniu.
Zdaniem Crawford nie inaczej jest z wieloma platformami, działającymi na zasadzie fałszomatyzacji (fr. Fauxtomation), które poprzez zatrudnianie dużej liczby niskopłatnych pracowników tworzą iluzję perfekcyjnie działającej maszyny, obsługującej konsumujących klientów. Znane przypadki to np. sklepy typu „Just Walk Out”, które miały automatycznie wystawiać rachunek bez konieczności skanowania dóbr konsumenckich przy tradycyjnej kasie, gdy klient opuszczał sklep.
W rzeczywistości nie robiła tego sztuczna inteligencja, ale rzesza pracowników zatrudnionych przez Amazon w Indiach (Jeff Bezos nazywał to sztuczną sztuczną inteligencją), która starannie śledziła monitoring sklepu, naliczając produkty na paragon. To tylko jeden z przykładów, które pokazują, jak mylne są nasze wyobrażenia o AI.
Długie życie algorytmów
Jedną z najciekawszych prac pokazanych na wystawie jest niewątpliwie wspólne dzieło wcześniej wspomnianej Kate Crawford oraz Vladana Jolera „Imperia kalkulacji” („Calculation Empires”), w której badaczka i artysta wizualny śledzą rozwój technologii od roku 1500 do współczesności, analizując związek między takimi dziedzinami wiedzy, jak np. m.in. mechanika kwantowa, medioznawstwo, kombinatoryka, psychologia poznawcza, psychoanaliza czy medycyna, by ostatecznie wykazać, jak postępy w tych dziedzinach wykorzystywane są w celach inwigilacyjnych, akumulacyjnych i biurokratycznych.
Jak wskazuje współautorka pracy, wpływowe instytucje, np. FBI, niejednokrotnie posługiwały się poufnymi danymi, takimi jak odciski palców, zdjęcia czy nagrania z przesłuchań podejrzanych, by wykorzystywać je w procesie uczenia maszynowego.
Współczesne modele językowe działają na podobnej zasadzie – LLM-y karmione są nadwyżką behawioralną, czyli treścią, którą wpisujemy w czaty AI, by potem mogły wyekstrahować z niej szablony ludzkich zachowań. Na ich podstawie duże modele językowe mogą wspomagać swój własny rozwój, ale też wykorzystywać dane do badania nawyków konsumenckich oraz w celach militarnych (przypadek śledzenia aktywności sieciowej w celach ludobójczych w Gazie). Znane jest zjawisko, w którym niektóre firmy są w stanie wygenerować profil konsumencki osób, które jeszcze się nie narodziły, na podstawie danych dostępnych w aplikacjach monitorujących przebieg ciąży.
Praca wyalienowana?
Jak widzimy – sztuczna inteligencja nie bierze się znikąd, przeciwnie – wykorzystuje czynnik ludzki jako pożywkę dla własnego rozwoju. Ten nie byłby możliwy, gdyby nie praca osób wydobywających rzadkie i cenne kruszce z różnych miejsc na świecie, potrzebne do budowy procesorów, tranzystorów, chipów i innych elementów, bez których AI nie byłoby możliwe. O tym właśnie traktuje pierwsza sala wystawy, a w niej praca Agnieszki Kurant, czyli fotografie, na których przedstawiono proces rozpuszczania w krzemianie sodu kobaltu, żelaza i manganu, pierwiastków, bez których AI nie mogłoby istnieć.
fot. Maciej Kolka-Kaczyński
Inną pracą, która zwróciła moją uwagę, jest „The Shell Record” Anny Ridler. Zbiór fotografii stanowi dokumentację muszli, protowaluty ludzkości. Kolekcja ta wykorzystana została do stworzenia sztuki generatywnej dzięki sieci przeciwstawnej (GAN), która wyświetlała się obok zbioru. Co ciekawe, proces ten odwraca normatywny sposób działania AI.
Ta operuje na ogromnych zbiorach danych wytwarzanych masowo w internecie lub przechowywanych w centrach informacji. W tym przypadku pożywką dla sztucznej inteligencji była indywidualna, mozolna praca człowieka skrupulatnie kolekcjonującego muszle z londyńskich brzegów Tamizy.
To proceduralne odwrócenie może być interpretowane jako próba przywrócenia ludziom poczucia sprawczości w dobie kapitalizmu platform – w końcu organizatorki wystawy zdecydowały się zaprezentować kolekcję zebraną przez człowieka na formacie kilkakrotnie większym niż ten, na którym przedstawiono efekt wytworzony przez sztuczną inteligencję.
Kontrola, dane, decyzje
Kolejną istotną pracą obecną na wystawie jest „Kontroler Osądu” Przemysława Jasielskiego. To urządzenie wyglądem nawiązujące do retrofuturystycznej estetyki; jego masywność, wizjer i zatrważający czerwony przycisk (!) mogą zdradzać zastosowania inwigilacyjno-penitencjarne. Urządzenie analizuje wygląd osoby stojącej przed nim, by oszacować, czy według płci, aparycji, wieku i wyrazu twarzy obserwowany może zdradzać skłonności do popełnienia przestępstwa. jeżeli tak – podejrzany rażony jest delikatnym napięciem elektrycznym.
By lepiej zrozumieć kontekst, do którego nawiązuje autor pracy, warto wspomnieć o pionierze badań nad rozpoznawaniem ludzkiej mimiki. Jest nim Paul Ekman, który w XX wieku przeprowadzał eksperymenty naukowe na temat rozpoznawania emocji przez ludy spoza kultury zachodniej. W tym celu udał się do Papui-Nowej Gwinei, by przeprowadzić kontrowersyjne badanie na autochtonach. Na podstawie wyników sformułował teorię – ludzką mimikę można rozszyfrować na podstawie sześciu głównych emocji.
Krytycy zarzucają Ekmanowi zbytnio uproszczoną metodologię badań (test zamkniętego wyboru, zdjęcia aktorów o przerysowanych wyrazach twarzy) oraz – co się z tym wiąże – zbyt daleko idące wnioski. Mimo tego dla wielu podmiotów rynkowych oraz instytucji państwowych umiejętność wykrywania ludzkich emocji była tak kusząca, iż postanowiły zainwestować w rozwój badań oraz implementację ich wyników w celu tworzenia systemów nadzorujących obywateli.
Badanie Ekmana łączy się z pewnym paradygmatem, na którym opiera się kombinatoryka związana z systemami AI działającymi m.in. we współczesnych bankach. O decyzji, czy kredyt zostanie przyznany, może bowiem decydować miejsce zamieszkania, płeć i kolor skóry, co powszechnie krytykuje się jako rasizm. Ten jednak trudno wykluczyć, kiedy decyzję podejmuje maszyna operująca na twardych statystykach. W ten sposób nierówności nie mają szansy na niwelację, gdyż tego rodzaju działanie to gotowy algorytm na ich pogłębianie.
Prompt: napisz podsumowanie
Oto zakończenie mojego artykułu wygenerowane przez jeden z modeli językowych:
„„Algorytmy Iluzji” nie daje prostych odpowiedzi na pytanie, czym jest sztuczna inteligencja i dokąd nas prowadzi. Zamiast tego pokazuje, jak łatwo zachwycić się jej możliwościami, jednocześnie tracąc z oczu mechanizmy, które stoją za pozornie inteligentnymi systemami.”
A to podsumowanie, które wygenerowane zostało po uprzednim wgraniu treści mojego artykułu:
„Ostatecznie „Algorytmy Iluzji” okazują się wystawą nie tyle o sztucznej inteligencji, ile o tym, co próbujemy w niej zobaczyć. Za jej pozorną autonomią kryją się ludzie, ich praca, dane i zasoby naturalne. Dlatego zepsuta „korbka” z pierwszej sali staje się trafną klamrą całej wystawy – choćby najbardziej autonomiczna technologia potrzebuje czegoś, co wprawi ją w ruch.”
Jak widzimy, choćby tekst o AI sztuczna inteligencja generuje w sposób co najwyżej przeciętny i coraz częściej przewidywalny (nadużywanie myślnika, parentezy i apozycji), gdy pozbawiona jest wkładu ludzkiego.
SI potrzebuje nas bardziej niż my jej. Nie dajmy się przekonać, iż jest inaczej.
