Generatywna sztuczna inteligencja przestała być domeną filmów science-fiction i laboratoriów badawczych, stając się łatwo dostępnym narzędziem w rękach cyberprzestępców. Współczesne algorytmy potrafią w ułamku sekundy stworzyć niezwykle realistyczną postać wirtualną, idealnie odwzorować barwę głosu konkretnej osoby czy zmanipulować materiał wideo na podstawie zaledwie kilku publicznie dostępnych nagrań z mediów społecznościowych.
O ile początkowo syntetyczne materiały kojarzyły się głównie z zagrożeniem dla znanych polityków czy celebrytów, o tyle dziś ich ofiarami padają zwykli obywatele. Przestępcy bezwzględnie wykorzystują tę technologię do fałszywych inwestycji, oszustw matrymonialnych, szantaży czy zmyślonych kryzysów rodzinnych. Wirtualny szef proszący o pilny przelew lub zapłakane dziecko błagające o pomoc przez telefon to scenariusze, które coraz częściej okazują się perfekcyjnie zaplanowaną mistyfikacją.
