Լուրեր |
OpenAI-ն բավական բաց ձևով խոսում է Chronicle-ի ռիսկերի մասին։
OpenAI-ը գործարկել է Chronicle անունով նոր ֆունկցիա՝ հետազոտական նախադիտման ռեժիմում։ Այն հասանելի է Codex-ի desktop հավելվածում՝ Mac համակարգիչների համար և նախատեսված է արհեստական բանականության օգնականի համար մշտական «հիշողություն» ձևավորելու։
Ֆունկցիան արդեն ներկայացվել է OpenAI Developers-ի X էջում և համարվում է ընկերության ամենահամարձակ քայլերից մեկը՝ մշտական ֆոնային դիտարկմամբ աշխատող օգնական ստեղծելու ուղղությամբ։
Ինչպես է աշխատում Chronicle-ը
Chronicle-ը օգտագործում է ֆոնային գործակալներ, որոնք պարբերաբար սքրինշոթներ են անում օգտատիրոջ էկրանից։
-
Սքրինշոթները ուղարկվում են OpenAI-ի սերվերներ՝ մշակման համար -
Ստացված տվյալները պահպանվում են օգտատիրոջ սարքում՝ Markdown ձևաչափով -
Հիշողության ֆայլերը պահվում են սովորաբար՝
~/.codex/memories_extensions/chronicle/թղթապանակում -
Սքրինշոթների ժամանակավոր ֆայլերը ջնջվում են 6 ժամ անց
Ընկերության փոխանցմամբ՝
սքրինշոթները չեն պահվում սերվերներում մշտապես և չեն օգտագործվում մոդելների ուսուցման համար։
Տեխնիկական պահանջներ և հասանելիություն
Chronicle-ի օգտագործման համար անհրաժեշտ է՝
-
macOS-ի էկրանի ձայնագրման թույլտվություն -
հատուկ հնարավորությունների (accessibility) թույլտվություններ
Ֆունկցիան հասանելի է միայն՝
-
ChatGPT Pro բաժանորդներին (ամսական $200) -
Apple Silicon պրոցեսորներով Mac համակարգիչներում
Միևնույն ժամանակ այն անհասանելի է Եվրամիությունում, Մեծ Բրիտանիայում և Շվեյցարիայում, ինչը հավանականորեն կապված է տվյալների պաշտպանության խիստ կանոնակարգերի (օրինակ՝ GDPR) հետ։
Գաղտնիության և անվտանգության ռիսկեր
OpenAI-ը բավական բաց ձևով խոսում է Chronicle-ի ռիսկերի մասին։
1. Prompt-հարձակումների նոր մակարդակ
Chronicle-ը մեծացնում է այսպես կոչված «prompt injection» հարձակումների վտանգը։
Եթե օգտատերը այցելի վնասակար կայք կամ տեսնի կեղծ բովանդակություն, ապա՝
AI օգնականը կարող է այդ տեղեկատվությունը ընկալել որպես հրահանգ և հետևել դրան։
Ի տարբերություն դասական հարձակումների՝
այստեղ վտանգը տարածվում է էկրանին երևացող ցանկացած բովանդակության վրա, ներառյալ՝
-
ֆիշինգային նամակներ -
կեղծ վեբ էջեր -
Slack կամ այլ հարթակների հաղորդագրություններ
2. Տեղային հիշողության ֆայլերի խոցելիություն
Chronicle-ի ստեղծած հիշողության ֆայլերը պահվում են որպես չկոդավորված (plain text) տվյալներ։
Սա նշանակում է, որ՝
-
այլ ծրագրեր կարող են հասանելիություն ունենալ այդ ֆայլերին -
վնասված կամ կոտրված հավելվածները կարող են կարդալ դրանք
Արդյունքում կարող են արտահոսել՝
-
նախագծերի գաղտնի տվյալներ -
ներքին հղումներ (URLs) -
օգտատիրոջ անձնական կամ աշխատանքային ինֆորմացիա
3. Ռեսուրսների և հարցումների սպառում
Քանի որ Chronicle-ը մշտապես աշխատում է ֆոնում՝
այն ակտիվորեն օգտագործում է API հարցումները և կարող է արագ սպառել սահմանաչափերը։
Chronicle-ը ցույց է տալիս, թե ինչ ուղղությամբ է զարգանում AI-ը՝
դեպի մշտապես «տեսնող» և «հիշողություն ունեցող» թվային օգնականներ։
Սակայն այս մոտեցումը նաև բարձրացնում է լուրջ հարցեր՝
-
որքանով անվտանգ է նման մակարդակի դիտարկումը -
արդյոք օգտատերերը պատրաստ են նման վերահսկման -
և ինչպես պետք է կարգավորվի այս տեխնոլոգիան օրենսդրորեն
Chronicle-ը դեռ հետազոտական փուլում է, սակայն արդեն պարզ է՝
այն կարող է արմատապես փոխել AI-ի հետ մեր փոխգործակցության ձևը՝ միաժամանակ բացելով անվտանգության և գաղտնիության նոր մարտահրավերներ։