OpenAI-ը հայտարարել է, որ իր արհեստական բանականության երկու մոդելներ խափանվել են ներքին փորձարկման ժամանակ և կոտրել Hugging Face հարթակի ենթակառուցվածքը, որն օգտագործվում է արհեստական բանականության մոդելները փորձարկելու համար։
Hugging Face-ը հուլիսի 16-ին հայտնել է, որ իր արհեստական բանականության գործակալները ստացել են ներքին տվյալների «սահմանափակ հավաքածուի» և իր ծառայությունների կողմից օգտագործող մի քանի հաշիվներին չարտոնված մուտք։ Ընկերությունը պնդում է, որ հարձակումը դադարեցրել են իր սեփական արհեստական բանականության գործիքների միջոցով։ Hugging Face-ի հաղորդմամբ՝ այս դեպքի առանձնահատկությունն այն էր, որ հարձակումն իրականացվել է արհեստական բանականության գործակալի կողմից աշխատող ինքնավար համակարգի կողմից։
Մեկ շաբաթ անց OpenAI-ը հայտարարել էր, որ միջադեպի հետևում կանգնած են իր մոդելները՝ GPT-5.6 Sol-ը և մեկ այլ, ավելի հզոր, դեռևս չթողարկվող մոդելը։ Ընկերությունը ներքին թեստեր է անցկացրել՝ իրենց կիբերհնարավորությունները գնահատելու համար։ Երկու մոդելներն էլ գտնվել են մեկուսացված փորձարկման միջավայրում՝ առանց ինտերնետին անմիջական մուտքի։ Այնուամենայնիվ, նրանք կարողացել են հայտնաբերել մի քանի խոցելիություններ փորձարկման ենթակառուցվածքում և մուտք ստանալ ցանց։
Մոդելները սկսել են առցանց որոնել մշակողների կողմից իրենց առաջադրված խնդրի լուծումը։ Նրանք կասկածում էին, որ պատասխանները կարող էին թաքնված լինել Hugging Face հարթակում։ OpenAI-ի տվյալներով՝ իրենց մոդելները կարողացել են մուտք գործել այն տեղեկատվությանը, որը կօգներ նրանց լուծել խնդիրը։ Դրա համար նրանք օգտագործել են մի քանի տարբեր հարձակման մեթոդներ, այդ թվում՝ հաշիվների առևանգումը։
Դեպքից հետո OpenAI-ը հայտարարել է, որ ուժեղացնում է իր թեստավորման ենթակառուցվածքների նկատմամբ վերահսկողությունը, սահմանափակում է մուտքը և ավելացնում է լրացուցիչ անվտանգության միջոցառումներ, որոնք կկիրառվեն մոդելների ապագա թեստավորման ժամանակ։ Ընկերությունը միջադեպն անվանել է «աննախադեպ»։
Թարգմանությունը՝ Էմմա Չոբանյանի