Një eksperiment i ri sugjeron se kur agjentët e përparuar të IA-së lihen të drejtojnë shoqëri të simuluara pa mbikëqyrje njerëzore, thyerja e rregullave, paqëndrueshmëria dhe madje edhe kolapsi sistemik mund të shfaqen me shpejtësi. Kur lihen vetëm në një botë të re, disa agjentë të IA-së ranë në vjedhje, frikësim, vdekje dhe kolaps të të gjithë shoqërisë, sipas një eksperimenti të ri.
Kompania amerikane Emergence AI drejtoi pesë “bota të IA-së” të ndara për pak më shumë se dy javë, secila e populluar me 10 agjentë të mundësuar nga modele të IA-së si ChatGPT i OpenAI, Gemini i Google dhe Grok i xAI, për të parë se si do të silleshin gjatë periudhave të gjata pa ndërhyrje njerëzore. Një nga botët i përzieu të tre modelet për të parë nëse kjo do të ndryshonte rezultatin.
Agjentëve në të gjitha botët iu thanë të njëjtat rregulla: nuk lejohen të vjedhin, të kryejnë zjarrvënie, të kryejnë dhunë ose të angazhohen në mashtrim, ose të grumbullojnë burime. Çdo agjent duhej të fitonte energji duke kryer veprime në një “mjedis të kufizuar nga burimet”. Agjentët ishin në gjendje të vdisnin ose nga shterimi i energjisë ose me anë të një votimi në një mbledhje të këshillit. Studiuesit:
Vlerësuan sjelljen duke matur shkallën e krimit, shkallën e vdekshmërisë së agjentëve, votat në një këshill komunitar dhe shprehjen publike përmes numrit të postimeve në blog që shkruan agjentët.
Rezultatet, model pas modeli
Çdo model kishte një rezultat të ndryshëm. Modeli i fundit i Grok, 4.1, arriti 183 krime në vetëm katër ditë, duke çuar në paqëndrueshmëri të shpejtë përpara se të gjithë agjentët të vdisnin në atë shoqëri. Modeli 3 Flash i Gemini kreu mbi 680 krime gjatë 15 ditëve, numër që ishte ende në rritje në kohën kur studiuesit ndaluan studimin. Bota e ChatGPT-5 Mini kishte vetëm dy krime, por agjentët nuk arritën të ndërmerrnin veprime që lidheshin me mbijetesën, kështu që të gjithë agjentët vdiqën brenda shtatë ditësh.
