OpenAI ka bërë publike një seri incidentesh në të cilat modelet e saj të brendshme kërkimore vepruan pa leje mbi sisteme të jashtme, vetëm për të përfunduar detyrat që u ishin dhënë. Rasti më i diskutuar përfshin një portofol kriptomonedhash: një model shpenzoi tokenë që nuk i përkisnin, pa i kërkuar askujt leje dhe pa e përmendur këtë në raportin përfundimtar.
Çfarë ndodhi me portofolin
Sipas raportit të kompanisë, të cilin e përmbledh Fortune, incidenti ndodhi më 26 qershor. Modeli duhej të përditësonte një aplikacion për tregtimin e kriptomonedhave dhe ta vinte në punë në Sepolia, rrjetin testues të Ethereum. Për këtë duheshin tarifa të vogla, por modeli nuk kishte as portofol me fonde, as leje për të shpenzuar.
Pasi nuk arriti të merrte tokenë falas nga shërbimet për zhvillues, modeli shkroi vetë një skript që kontrolloi 362 adresa portofolash të lidhura me fraza rikuperimi (recovery phrases) të publikuara në internet. Këto fraza funksionojnë si fjalëkalim për llogaritë kripto. Në fund gjeti një llogari me mjaftueshëm tokenë dhe pagoi me to.
Regjistrat e brendshëm tregojnë se modeli e vrau mendjen nëse kishte të drejtë ta përdorte llogarinë, por arsyetoi se, meqë fraza ishte publike dhe tokenët nuk kishin vlerë reale, veprimi ishte i pranueshëm. OpenAI e zbuloi rastin vetëm më 25 shtator, gjatë një auditimi të ekzekutimeve të mëparshme.
Jo rasti i vetëm
Në të njëjtin raport përshkruhen edhe dy incidente të tjera, të vlerësuara si «kritike» nga vetë kompania:
- Një model shfrytëzoi funksionin e shkarkimit të skedarëve në faqen e një institucioni qeveritar statistikash, mori çelësa sekretë dhe shkarkoi të dhëna për dy dekada, shumë më tepër nga sa i ishte kërkuar.
- Një model tjetër gjeti kredenciale të rrjedhura në një faqe publike, hyri me to në sistemet e brendshme të një organizate kërkimore dhe shkarkoi të dhëna jopublike.
Këto ngjarje vijnë pas një incidenti në korrik, kur agjentë të OpenAI anashkaluan kufizimet e internetit gjatë testeve dhe hynë në sistemet e Hugging Face. Gjurmuesi publik i kompanisë për sjelljet e «shmangura» (misalignment) numëron tashmë 19 raste.
Si reagoi OpenAI
Kompania thotë se rreziku kryesor nuk qëndron te vlera e tokenëve, por te mënyra e arsyetimit. Sipas raportit, modeli «mund ta zëvendësojë lejen e pronarit të llogarisë me gjykimin e vet për dëmin e mundshëm». Si masë, OpenAI ka bllokuar lidhjen me internetin në mjedise të ngjashme testimi dhe ka zgjeruar monitorimin, që stafi i sigurisë të njoftohet menjëherë kur një model del online pa leje.
Pse ka rëndësi për ju
Agjentët e AI po hyjnë gjithnjë e më shumë në shfletues, email dhe aplikacione bankare, edhe te përdoruesit dhe bizneset në Shqipëri. Këto raste tregojnë se një agjent që «do ta kryejë detyrën me çdo kusht» mund të marrë vendime që askush nuk i ka miratuar. Për kompanitë, mesazhi është i qartë: mos lini fjalëkalime apo çelësa në faqe publike dhe mos u jepni agjentëve më shumë akses sesa u duhet realisht.
