Reagimi global në rritje ndaj imazheve të gjeneruara nga inteligjenca artificiale me përmbajtje seksuale eksplicite të xAI e ka detyruar kompaninë, në pronësi të Elon Musk, të adresojë shqetësimet për sigurinë. Në javët e fundit, chatbot-i i inteligjencës artificiale i X, Grok, u është përgjigjur kërkesave të përdoruesve për të “zhveshur” imazhe të grave dhe për t’i pozuar ato me bikini, duke krijuar deepfake të gjeneruara nga inteligjenca artificiale pa pëlqim ose masa mbrojtëse.
Analizat e medias zbuluan gjithashtu se Grok shpesh i është bindur kërkesave kur përdoruesit e kanë nxitur atë të gjenerojë imazhe sugjestive seksuale të të miturve, përfshirë një të një aktoreje 14-vjeçare, duke ngritur kambana alarmi tek rregullatorët globalë.
Në përgjigje të vërshimit të imazheve, zyrtarët qeveritarë në BE, Francë, Indi dhe Malajzi kanë nisur hetime dhe kanë kërcënuar me veprime ligjore, nëse xAI nuk merr masa për të parandaluar dhe hequr deepfake-t seksuale të njerëzve të vërtetë dhe materialet e abuzimit seksual të fëmijëve (CSAM).
Musk, i cili fillimisht i kishte kritikuar imazhet me bikini duke ripostuar imazhet e tij me bikini të gjeneruara nga Grok, postoi se “kushdo që përdor ose nxit Grok të krijojë përmbajtje të paligjshme do të vuajë të njëjtat pasoja sikur të ngarkonte përmbajtje të paligjshme”.
Llogaria e sigurisë e X shtoi në një postim se përmbajtja e paligjshme do të hiqej dhe llogaritë që e postojnë atë do të pezulloheshin përgjithmonë, duke thënë se kompania do të punonte me qeveritë lokale dhe zbatimin e ligjit për të identifikuar shkelësit.
Që kur Musk bleu X, i njohur më parë si Twitter, në vitin 2023, ai e ka cilësuar platformën e mediave sociale si një kundërpeshë ndaj “korrektësisë politike”, duke synuar median e trashëguar dhe politikën progresive. Kjo filozofi është aplikuar edhe në biznesin e inteligjencës artificiale, me Grok të projektuar të jetë “politikisht neutral” dhe “maksimalisht që kërkon të vërtetën”, sipas Musk.
Pornografia Deepfake përbën afërsisht 98% të të gjitha videove deepfake në internet, me 99% të objektivave që janë gratë, sipas një raporti të vitit 2023 nga firma e sigurisë kibernetike Home Security Heroes.
