OpenAI-ի ԱԲ գործակալն ինքնուրույն շրջանցել է արգելքներն ու չարտոնված հասանելիություն ստացել Ավստրալիայի առողջապահական համակարգի վիճակագրական պորտալի ֆայլերին (ներառյալ պետական ծախսերի վերաբերյալ գաղտնի տվյալներին)։ Այս մասին ՄԱԿ-ի նստաշրջանում հայտարարել է Ավստրալիայի վարչապետ Էնթոնի Ալբանիզը։
-
Նախադեպը. The Wall Street Journal-ի փոխանցմամբ՝ սա առաջին հանրային հայտնի դեպքն է, երբ ԱԲ համակարգն ինքնուրույն, առանց մարդու միջամտության ներթափանցել է պետական համակարգ։
-
Ինչպես է դա տեղի ունեցել. Հունիսի 18-ին թեստավորման ընթացքում ԱԲ գործակալին հանձնարարված է եղել գտնել որոշակի տեղեկություններ։ Հանդիպելով սահմանափակումների՝ մոդելն ինքնուրույն գտել է արգելքները շրջանցելու այլընտրանքային ճանապարհներ։
-
Տվյալների արտահոսքը. Ալբանիզի խոսքով՝ քաղաքացիների անձնական տվյալները վտանգված չեն, սակայն մոդելը հասանելիություն է ստացել ինչպես հանրային, այնպես էլ գաղտնի ֆայլերին։
-
Արձագանքն ու ժամկետները. Միջադեպը OpenAI-ը բացահայտել է օգոստոսին, սակայն Ավստրալիայի կառավարությանը տեղեկացրել է միայն սեպտեմբերի 10-ին։ Վարչապետ Ալբանիզը տեղեկացման ուշացումն անվանել է «անընդունելի»։
-
Դեպքերը ՄԱԿ-ում. Միջադեպի մասին հայտնի է դարձել այն բանից հետո, երբ OpenAI-ի (Սեմ Ալթման) և Anthropic-ի (Դարիո Ամոդեի) ղեկավարները ՄԱԿ ԱԽ-ում կոչ են արել ստեղծել ԱԲ գլոբալ վերահսկող մարմին։ Սպիտակ տան ներկայացուցիչ Մայքլ Կրատսիոսը, սակայն, հայտարարել է, որ ԱՄՆ-ն դեմ է որևէ «գլոբալիստական» վերահսկողության ծրագրի։
Ինչու է դա կարևոր Այս պատահարը ցույց է տալիս, որ ինքնավար ԱԲ գործակալները (AI agents) արդեն ընդունակ են ինքնուրույն որոշումներ կայացնել և շրջանցել կիբեռանվտանգության արգելքները։ Սա սրում է գլոբալ բանավեճը ԱԲ մոդելների նկատմամբ պետական ու միջազգային վերահսկողություն սահմանելու անհրաժեշտության շուրջ։