Një rrjet ndërkombëtar mashtruesish po postojnë imazhe të gjeneruara nga inteligjenca artificiale (AI) të viktimave të Holokaustit në Facebook, zbuloi një hetim i BBC-së mbi fenomenin e njohur si “AI slop”.
Organizata që kujdesen për ruajtjen e kujtimit të Holokaustit thonë se këto imazhe po shqetësojnë të mbijetuarit dhe familjet e tyre. Ata kanë kritikuar edhe kompaninë mëmë të Facebook, Meta, duke thënë se platforma lejon që ky tmerr të shndërrohet në një “lojë emocionale”.
Ekzistojnë vetëm disa fotografi të vërteta nga kampi i përqendrimit Auschwitz gjatë Luftës së Dytë Botërore. Por muajt e fundit, mashtrues të AI-së kanë postuar imazhe të rreme që pretendojnë të jenë nga kampi, si një i burgosur që luan violinë ose çifte që takohen pranë gardheve, duke tërhequr dhjetëra mijëra pëlqime dhe shpërndarje.
“Këtu kemi dikë që shpik historitë… për një lloj loje emocionale në rrjetet sociale. Kjo nuk është një lojë. Kjo është një botë reale, vuajtje reale dhe njerëz realë që duam dhe duhet të përkujtojmë”, tha Pawel Sawicki, zëdhënës i Memorialit Auschwitz në Poloni.
Hetimi i BBC-së ka gjurmuar shumë nga këto imazhe tek llogaritë e një rrjeti krijuesish përmbajtjesh me bazë në Pakistan, të cilët bashkëpunojnë për mënyrat se si të fitojnë para në Facebook. Ata shfrytëzojnë programin e monetizimit të përmbajtjes së Meta-s, një sistem “vetëm me ftesë” që paguan përdoruesit për postime me performancë të lartë.
Një llogari me emrin Abdul Mughees, e regjistruar në Pakistan, postoi screenshot-e duke pretenduar se kishte fituar 20 mijë dollarë përmes skemave të monetizimit, përfshirë ato të Meta-s. Një postim tjetër tregon se llogaria kishte arritur mbi 1.2 miliard shikime brenda katër muajsh. BBC nuk ka mundur të verifikojë të ardhurat e krijuesve në mënyrë të pavarur.
Mes postimeve të Abdul Mughees janë disa foto të krijuara nga AI të viktimave fiktive të Holokaustit dhe histori të rreme, si një fëmijë që fshihet nën dysheme ose një foshnje e lënë në shinat e trenit jashtë një kampi përqendrimi. Analiza e BBC-së sugjeron se këto llogari postojnë pothuajse ekskluzivisht “AI slop”, imazhe dhe tekste të prodhuara masivisht me cilësi të ulët.
Kampi i Auschwitz ka qenë temë e popullarizuar për faqe dhe grupe historike, disa prej të cilave postonin më shumë se 50 herë në ditë. Në qershor, Muzeu i Auschwitz paralajmëroi se këto llogari po vidhnin postimet e tij, i përpunonin me AI dhe shpesh deformonin detajet historike ose shpiknin histori dhe viktima të reja. Muzeu i quajti këto imazhe një “deformim të rrezikshëm” që “nuk respekton viktimat dhe ngacmon kujtimin e tyre”.
Sawicki tha se vala e imazheve të rreme po dëmton misionin e Memorialit Auschwitz për të rritur ndërgjegjësimin mbi Holokaustin.
“Tashmë kemi filluar të marrim komente në postimet tona në Facebook që thonë ‘oh, kjo është një foto e krijuar nga AI’”, tha ai.
Të mbijetuarit dhe familjet e tyre gjithashtu shqetësohen nga kjo përhapje imazhesh të rreme, sipas një organizate që promovon edukimin dhe hulumtimin e Holokaustit.
Dr. Robert Williams nga International Holocaust Remembrance Alliance tha se të mbijetuarit ndihen të pikëlluar që kjo gjë është lejuar të ndodhë, pavarësisht investimeve qeveritare dhe filantropike për ndërgjegjësim.
Meta nuk nxit me qëllim përdoruesit të postojnë histori të rreme mbi Holokaustin, por sistemi i saj shpërblen postimet me angazhim të lartë. Hetimi i BBC-së ka gjetur gjithashtu llogari AI slop në Indi, Vietnam, Tajlandë dhe Nigeri.
Një krijues pakistanez, Fazal Rahman, i përfshirë në skema monetizimi, tha se ky punë është bërë burimi i tij i vetëm i të ardhurave. Ai nuk krijon vetë imazhe Holokausti, por operon në të njëjtat grupe Facebook me ata që e bëjnë.
Rahman tha se një faqe me 300 mijë ndjekës mund të sjellë 1 mijë dollarë në muaj nëse ka “përmbajtje premium” për audienca nga Mbretëria e Bashkuar, SHBA dhe Europa. Ai vlerëson se shikimet perëndimore janë tetë herë më të vlefshme sesa ato nga Azia.
BBC ka parë edhe video udhëzuese hap pas hapi për mënyrën se si modelet popullore AI mund të përdoren për të gjeneruar vazhdimisht imazhe dhe tekste historike të rreme. Disa krijues japin këshilla edhe për mënyrën se si të mashtrojnë audiencën duke imituar entitete të tjera për t’u bërë të vlefshëm për programin e monetizimit të Meta-s.
Disa faqe që postonin “AI slop” mbi Holokaustin dikur pretendonin të ishin departamente zjarrfikëse në SHBA, biznese komerciale apo influencer amerikanë, pa pëlqimin e tyre. Këto faqe mund të shiten ose jepen me qira për ata që duan të hyjnë në tregun e krijuesve të përmbajtjes.
Meta ka marrë masa ndaj disa profileve dhe grupeve që postonin përmbajtje të rreme dhe që përdornin praktika mashtruese. Disa prej tyre janë fshirë, përfshirë ato që ishin sinjalizuar nga Memoriali Auschwitz. Zëdhënësi i Meta-s tha se këto imazhe nuk shkelin politikën e përmbajtjes, por ishin shkelje e rregullave për imitimin ose tregtimin e faqeve.
“Ne hoqëm faqet dhe grupet dhe çaktivizuam llogaritë për shkelje të politikave mbi spam-in dhe sjelljen joautentike”, thanë ata.
AI është përdorur edhe më parë për të përkujtuar Holokaustin dhe për të sjellë historitë e viktimave reale, por Dr. Williams paralajmëron për rrezikun që kjo mund të krijojë perceptimin se historia e Holokaustit është e trilluar.
