Fałszywe obrazy Holokaustu z AI. Meta usuwa konta

Śledztwo dziennikarskie wykazało, że nieprawdziwe grafiki przedstawiające fikcyjne wnętrza obozów koncentracyjnych czy rzekome ofiary Zagłady były powiązane z twórcami internetowymi z Pakistanu.

Autorzy treści korzystali z programu partnerskiego Facebooka, który płaci za posty generujące duży ruch.

Jeden ze spamerów chwalił się, że dzięki takim publikacjom udało mu się zarobić 20 tysięcy dolarów. Z jego wpisów wynikało również, że jego konto w ciągu czterech miesięcy osiągnęło 1,2 miliarda wyświetleń. BBC nie potwierdziło jednak prawdziwości danych dotyczących dochodów.

Ustalono, że podobne działania nie ograniczały się wyłącznie do Pakistanu. Konta tworzące zmanipulowane obrazy wykryto także w Indiach, Tajlandii, Wietnamie i Nigerii. Część z nich podszywała się pod instytucje publiczne, w tym amerykańskie jednostki straży pożarnej czy prywatne firmy.

„Tematy historyczne zawsze generują duże zainteresowanie w sieci” – przyznał w rozmowie z BBC pakistański twórca Fazal Rahman, który utrzymuje się z publikacji w mediach społecznościowych. Dodał, że konto z ok. 300 tysiącami obserwujących może przynosić nawet 1000 dolarów miesięcznie, jeśli odbiorcami są mieszkańcy Europy i USA.

Już w czerwcu Państwowe Muzeum Auschwitz-Birkenau alarmowało, że w sieci pojawiają się konta kradnące i przerabiające jego materiały. Obrazy były zniekształcane przez AI, co prowadziło do fałszowania narracji historycznej.

– Otrzymujemy komentarze, w których internauci sugerują, że nasze oryginalne zdjęcia to wytwór sztucznej inteligencji. To uderza w naszą misję upowszechniania prawdy o Holokauście – mówił rzecznik muzeum Paweł Sawicki.

Dr Robert Williams z Międzynarodowego Sojuszu na rzecz Pamięci o Holokauście (IHRA) zwrócił uwagę, że ocalałych z Zagłady oraz ich rodziny coraz bardziej niepokoi rosnąca fala dezinformacji.

– Mają poczucie smutku, że mimo ich wysiłków edukacyjnych prawda o Holokauście jest podważana. To szczególnie bolesne, bo wkrótce ostatni z ocalałych odejdzie – podkreślił.

Meta poinformowała, że część profili i grup publikujących fałszywe obrazy została zablokowana i usunięta. Firma przyznała, że same treści graficzne nie naruszają zasad dotyczących publikacji, jednak złamano reguły dotyczące podszywania się pod inne instytucje i handlowania stronami.