Google Photos së shpejti mund ta bëjë më të lehtë për të parë nëse një foto ose video është ndryshuar me mjete të Inteligjencës Artificiale. Kjo veçori e papublikuar, e zbuluar përmes referencave në një analizë të kodit të aplikacionit, do të përpiqet të zbusë problemin e pamundësisë për të identifikuar siç duhet kur një foto ose video është e vërtetë apo një deepfake. Zbulimi u bë në versionin 7.41 të aplikacionit, ku kodi i referohet një veçorie të quajtur “threepio”. Por, ideja nuk është krejtësisht e re për Google.
Kompania ka zhvilluar tashmë SynthID, një projekt DeepMind që shënon në mënyrë të padukshme imazhet e gjeneruara nga Al. Edhe pse nuk është e qartë nëse SynthID po përdoret këtu, të dyja qasjet synojnë t’u japin njerëzve më shumë kontekst rreth origjinës së përmbajtjes vizuale. Ndërkaq, komisionerja për fëmijët në Angli, Dame Rachel de Souza, ka kërkuar ndalimin e menjëhershëm të aplikacioneve të Inteligjencës Artificiale që krijojnë imazhe seksuale të rreme të fëmijëve.
Një raport i ri tregon se vajzat adoleshente ndihen gjithnjë e më shumë të frikësuara për të postuar foto online, nga frika se mund të manipulohen në mënyrë digjitale. Megjithëse krijimi i imazheve eksplicite të fëmijëve është i paligjshëm, vetë aplikacionet që mundësojnë këtë veprim mbeten të ligjshme. Dhe De Souza paralajmëroi se kjo teknologji po nxit një kulturë të rrezikshme mizogjinie dhe abuzimi dhe kërkoi nga qeveria miratimin e një ligji të ri për AI që rregullon përdorimin e këtyre mjeteve dhe njeh abuzimin seksual me deepfake si një formë dhune ndaj grave dhe vajzave. Avokatët thonë se forcat e rendit kanë vështirësi të përballen me shpërthimin e kësaj teknologjie, me një numër në rritje të adoleshentëve që po përballen me arrestime për eksperimente me deepfake.
