Një avokat nga Nju Jorku po përballet me një seancë gjyqësore pasi firma e tij përdori aplikacionin e inteligjencës artificiale ChatGPT për kërkime ligjore. Një gjyqtar tha se gjykata u përball me një “rrethanë të paprecedentë” pasi u gjet një dosje për të referuar raste ligjore që nuk ekzistonin. Avokati që përdori aplikacionin i tha gjykatës se “nuk ishte në dijeni se përmbajtja e tij mund të ishte e rreme”. ChatGPT krijon tekst origjinal sipas kërkesës, por vjen me paralajmërime se mund të “prodhojë informacion të pasaktë”.
Rasti origjinal përfshinte një burrë që paditi një linjë ajrore për një lëndim të supozuar personal. Ekipi i tij ligjor dorëzoi një përmbledhje që citonte disa çështje të mëparshme gjyqësore në një përpjekje për të dhënë prova, duke përdorur precedent se pse çështja duhet të ecë përpara. Por avokatët e linjës ajrore më vonë i shkruajtën gjykatësit për të thënë se nuk mund të gjenin disa nga rastet që ishin referuar në përmbledhje. Gjyqtari Castel shkroi në një urdhër duke kërkuar sqarime nga ekipi ligjor i paditësit:
Gjashtë nga rastet e paraqitura duket se janë vendime të falsifikuara gjyqësore me citate dhe citime të brendshme false.
Gjatë disa dosjeve, doli se kërkimi nuk ishte përgatitur nga Peter LoDuca, avokati i paditësit, por nga një koleg i tij në të njëjtën studio ligjore. Steven A Schwartz, i cili ka qenë avokat për më shumë se 30 vjet, përdori ChatGPT për të kërkuar raste të ngjashme të mëparshme. Në deklaratën e tij me shkrim, Schwartz sqaroi se LoDuca nuk kishte qenë pjesë e hulumtimit dhe nuk kishte njohuri se si ishte kryer. Schwartz shtoi se atij “i vjen shumë keq” që u mbështet në chatbot, të cilin ai tha se nuk e kishte përdorur kurrë për kërkime ligjore më parë dhe se ishte “i pavetëdijshëm se përmbajtja e tij mund të ishte e rreme”. Ai është zotuar të mos përdorë kurrë inteligjencën artificiale për të “plotësuar” kërkimin e tij ligjor në të ardhmen “pa verifikim absolut të autenticitetit të tij”.
