Deepfake, który wymknął się spod kontroli

W dobie sztucznej inteligencji granica między rzeczywistością a fikcją zaciera się szybciej niż kiedykolwiek. Internetowy trend „AI homeless man prank” - czyli „żart z bezdomnym w domu” pochodzi z Wielkiej Brytanii, gdzie zdobył sporą popularność. Użytkownicy TikToka, Instagrama i Snapchata generują z pomocą AI zdjęcia, na których widać nieznajomego mężczyznę siedzącego w salonie, śpiącego na kanapie lub jedzącego z lodówki. Następnie wysyłają je rodzicom lub znajomym z dramatycznym podpisem w stylu: „On naprawdę tu jest!”. Efekt? Panika, strach i telefony na policję.

Policja reaguje na „żarty z AI”

Brytyjska policja, zwłaszcza w hrabstwie Dorset, zaczęła otrzymywać coraz więcej zgłoszeń od przerażonych osób, które uwierzyły w te spreparowane zdjęcia. W jednym przypadku rodzic zadzwonił po pomoc, przekonany, że w domu jego córki znajduje się intruz. Dopiero po przybyciu funkcjonariuszy wyszło na jaw, że cała sytuacja była wynikiem cyfrowego żartu.

- Wykorzystaliśmy zasoby, które mogły posłużyć do prawdziwego zagrożenia - przyznała lokalna policja, apelując do użytkowników mediów społecznościowych o rozsądek.

Jak powstają te zdjęcia?

Realizm obrazów jest tak wysoki, że nawet osoby dobrze znające technologię potrafią się nabrać. Zdjęcia generowane są przez popularne narzędzia, takie jak Midjourney, Leonardo AI czy Stability AI.
Wystarczy wpisać prostą komendę - np. „bezdomny mężczyzna siedzi na sofie w eleganckim salonie” - a algorytm w kilka sekund tworzy zdjęcie, które wygląda jak prawdziwe. Sztuczna inteligencja potrafi już oddać światło, cień, fakturę tkanin, a nawet realistyczne emocje na twarzy postaci, co sprawia, że odróżnienie obrazu AI od prawdziwego zdjęcia staje się coraz trudniejsze.

Kiedy zabawa przestaje być zabawna

Eksperci ds. bezpieczeństwa cyfrowego ostrzegają, że choć trend wydaje się niewinny, jego skutki mogą być bardzo realne. Policja apeluje, by zanim ktokolwiek zadzwoni na numer alarmowy, upewnił się, że sytuacja naprawdę ma miejsce. - Zanim uwierzysz w to, co widzisz w sieci, sprawdź źródło i zapytaj nadawcę, czy to nie prank – przekonują funkcjonariusze.

Trend z „bezdomnym w domu” to tylko kolejny przykład na to, jak szybko technologia, stworzona z myślą o kreatywności i sztuce, może zostać wykorzystana do tworzenia dezinformacji lub niebezpiecznych żartów. Choć sztuczna inteligencja daje nieograniczone możliwości, wymaga też nowej kultury odpowiedzialności - bo w świecie, w którym obraz można stworzyć z kilku słów, największym wyzwaniem staje się odróżnienie prawdy od fikcji.