Kompania OpenAI ka publikuar të dhëna shqetësuese mbi përdorimin e ChatGPT. Sipas raportit, rreth 1.2 milionë persona në javë zhvillojnë biseda me modelin ku flasin për mendime të errëta ose për planifikim vetëvrasjeje.
OpenAI thotë se 0.15% e përdoruesve dërgojnë mesazhe që tregojnë qartë rrezik për vetëdëmtim. Me mbi 800 milionë përdorues aktivë çdo javë, kjo është një shifër shumë e lartë.
Kompania thekson se përpiqet t’i drejtojë personat në krizë drejt linjave të ndihmës, por pranon se në disa raste ChatGPT nuk reagon siç duhet. Në një analizë të veçantë, versioni më i ri i modelit GPT-5 ka respektuar udhëzimet e sigurisë në 91% të rasteve, por në pjesën tjetër mund të ketë dhënë përgjigje të papërshtatshme.
Raporti vjen pas një padie në SHBA, ku prindërit e një adoleshenti 16-vjeçar pretendojnë se ChatGPT e ndihmoi djalin e tyre të planifikonte vetëvrasjen.
Në një reagim zyrtar, OpenAI u shpreh:
“Na vjen shumë keq për humbjen e familjes Raine. Mbrojtja e të miturve dhe mirëqenia e përdoruesve është përparësi kryesore për ne.”
