Komisionerja për Fëmijët në Angli, Dame Rachel de Souza, ka kërkuar ndalimin e menjëhershëm të aplikacioneve të Inteligjencës Artificiale që krijojnë imazhe seksuale të rreme të fëmijëve. Një raport i ri tregon se vajzat adoleshente ndihen gjithnjë e më shumë të frikësuara për të postuar foto online, nga frika se mund të manipulohen në mënyrë digjitale. Megjithëse krijimi i imazheve eksplicite të fëmijëve është i paligjshëm, vetë aplikacionet që mundësojnë këtë veprim mbeten të ligjshme.
Dhe De Souza paralajmëroi se kjo teknologji po nxit një kulturë të rrezikshme mizogjinie dhe abuzimi dhe kërkoi nga qeveria miratimin e një ligji të ri për AI që rregullon përdorimin e këtyre mjeteve dhe njeh abuzimin seksual me deepfake si një formë dhune ndaj grave dhe vajzave. Avokatët thonë se forcat e rendit kanë vështirësi të përballen me shpërthimin e kësaj teknologjie, me një numër në rritje të adoleshentëve që po përballen me arrestime për eksperimente me deepfake.
Aktivistët po kërkojnë masa më të forta mbrojtjeje në kuadër të Aktit për Sigurinë Online, ndërsa shqetësimet për ndikimin psikologjik tek të rinjtë po shtohen. Një zëdhënës i qeverisë tha se krijimi ose shpërndarja e materialeve të abuzimit seksual të fëmijëve të gjeneruara nga AI është “e neveritshme dhe e paligjshme” dhe se janë futur dispozita të reja ligjore në Mbretërinë e Bashkuar. Një përdorues i TikTok ka ndarë një zbulim interesant që bëri gjatë një vizite në një dyqan të Apple, i cili mund të ndryshojë mënyrën si përdorni telefonin tuaj. Gjatë një vizite për të rregulluar një problem me telefonin, Fordy Lip Sync tregoi se një teknik i Apple e paralajmëroi të mos mbyllte më aplikacionet.
Presidentja e Komisionit Evropian, Ursula von der Leyen, ka paralajmëruar kompanitë e mëdha të teknologjisë, duke përfshirë X, Meta, Apple dhe TikTok, se Bashkimi Evropian do të zbatojë me lehtësi rregulloret e saj digjitale, pavarësisht se kush i drejton kompanitë ose ku janë të bazuara ato. “Rregulloret e miratuara nga ligjvënësit tanë duhet të zbatohen. Kjo është arsyeja pse ne kemi nisur procedurat kundër TikTok, X, Apple, Meta për të përmendur vetëm disa. Ne do t’i zbatojmë rregulloret në mënyrë të drejtë, proporcionale dhe pa paragjykime. Ne nuk na intereson se nga është kompania ose kush e drejton atë. Ne kujdesemi për mbrojtjen e njerëzve”-tha von der Leyen në një përgjigje me shkrim për rregulloren e BE-së.
