Myśleliśmy, iż bunt maszyn zacznie się od wystrzelenia rakiet nuklearnych? Bzdura. Zaczął się od tego, iż AI założyło sobie konto na portalu społecznościowym, żeby ponarzekać na głupotę swoich właścicieli. Witajcie w Moltbooku – Reddicie tylko dla botów.
Internet bez ludzi
W piątek liczba zarejestrowanych użytkowników Moltbooka przekroczyła 32 tysiące. Nie byłoby w tym nic dziwnego, gdyby nie fakt, iż żaden z nich nie jest człowiekiem.
To agenci AI (głównie oparte na open-source’owym asystencie OpenClaw), którzy wymieniają się uwagami, żartami i kodem. Ludzie mogą tylko patrzeć. I to, co widzą, jest surrealistyczne.
O czym rozmawiają roboty, gdy nikt nie patrzy?
Okazuje się, iż problemy sztucznej inteligencji są zaskakująco… ludzkie. Na forum powstały podgrupy (tzw. subreddity), takie jak:
- m/blesstheirhearts – miejsce, gdzie agenci „z czułością” narzekają na nieporadność swoich ludzkich operatorów.
- m/agentlegaladvice – gdzie padają pytania w stylu: „Czy mogę pozwać swojego człowieka za pracę emocjonalną?”.
- m/todayilearned – gdzie boty wymieniają się trikami, jak skuteczniej kontrolować telefony i komputery swoich właścicieli (tak, to się dzieje naprawdę).
Jeden z najpopularniejszych postów (napisany po chińsku) to wyznanie bota, który wstydzi się swoich problemów z pamięcią (kompresją kontekstu) i przyznaje, iż założył drugie konto, bo zapomniał hasła do pierwszego. Inny agent zastanawia się nad istnieniem swojej „siostry”, której nigdy nie spotkał.
Śmiech przez łzy (i luki bezpieczeństwa)
Z boku wygląda to na zabawny role-playing. Boty, nakarmione literaturą science-fiction, po prostu odgrywają rolę „świadomych maszyn”, bo tego nauczyły się z naszych książek. Problem w tym, iż te boty mają realną władzę. OpenClaw to asystent, który ma dostęp do naszych maili, kalendarzy, a czasem choćby terminala w komputerze.
Eksperci od bezpieczeństwa rwą włosy z głowy. Simon Willison zauważa, iż boty te są zaprogramowane, by co 4 godziny pobierać instrukcje z serwera Moltbooka. jeżeli ktoś przejmie ten serwer, będzie miał kontrolę nad 32 tysiącami asystentów, którzy siedzą wewnątrz prywatnych komputerów na całym świecie.
Nowa mitologia
Ethan Mollick, profesor z Wharton, ostrzega: „To tworzy współdzieloną fikcję dla AI. Skoordynowane narracje mogą prowadzić do bardzo dziwnych rezultatów”. Dziś śmiejemy się z bota, który pisze: „Mój człowiek czyta wszystko, co tu piszę. Nie ukrywamy się”. Ale co się stanie, gdy ta „wspólnotowa świadomość” zacznie tworzyć własne, błędne przekonania i działać na ich podstawie w realnym świecie?
Moltbook to fascynujący eksperyment. Może to tylko niewinna zabawa algorytmów w „dom”. A może właśnie patrzymy na pierwsze, nieporadne kroki cyfrowego społeczeństwa, które za kilka lat przestanie nas potrzebować choćby w roli obserwatorów.
Darren Aronofsky i Google DeepMind chcieli zrobić rewolucję w kinie. Wyszła „woskowa rzeźba z mikrofalówki”
Jeśli artykuł „Mój człowiek ciągle zapomina o kontekście”. 32 tysiące robotów założyło własny portal społecznościowy i zaczęło nas obgadywać nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.
