Anthropic-ի, OpenAI-ի և արհեստական բանականության (AI) ոլորտի այլ ընկերությունների բարձրաստիճան ղեկավարները փակ դռների հետևում մշակում են սցենարներ՝ կապված AI-ի հետ կապված աղետալի միջադեպից հետո հնարավոր հանրային և քաղաքական ընդվզման հետ։
Պաշտոնյաները կանխատեսում են լայնածավալ միջադեպ՝ ամենայն հավանականությամբ կիբերհարձակում, որը կխափանի ֆինանսական ծառայությունների, ինտերնետ կապի կամ նույնիսկ էլեկտրաէներգիայի և ջրամատակարարման հասանելիությունը։
Անվտանգության չափանիշներին չհամապատասխանող AI-ի պատճառած իրական վնասի առաջին իսկ դեպքը կուժեղացնի առանց այն էլ զգուշավոր հանրության բացասական վերաբերմունքը տեխնոլոգիայի և դրա առաջատարների՝ այդ թվում Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյի և OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանի, ինչպես նաև նախագահ Թրամփի նկատմամբ։
Թեև սցենարների պլանավորումը տարածված պրակտիկա է բազմաթիվ ընկերություններում և ազգային անվտանգության ոլորտում (օրինակ՝ Պենտագոնը տասնամյակներ շարունակ իրականացնում է ռազմական խաղեր/սիմուլյացիաներ), տարբերությունն այն է, որ AI-ի ոլորտի բազմաթիվ առաջատար հետազոտողներ և ղեկավարներ կարծում են, թե խոշոր միջադեպն անխուսափելի է։
«OpenAI-ն իրականացնում է պատրաստվածության ստուգման վարժանքներ, որոնց ընթացքում թիմերը քննարկում և մշակում են մի շարք հնարավոր սցենարներ», – հայտնել է ընկերության խոսնակը։ «Այս սցենարները չեն դիտարկվում որպես անխուսափելի, այլ նպատակ ունեն օգնել մեզ պատրաստվել տարբեր իրավիճակների»։
Anthropic-ը հրաժարվել է մեկնաբանություն տալ։
Մեղավորներին փնտրելու գործընթացը կսկսվի անկախ նրանից՝ արդյոք «վերահսկողությունից դուրս եկած գործակալների» (rogue-agent) խումբը դուրս կգա ներքին փորձարկման միջավայրի սահմաններից, թե չարամիտ անձը կգտնի առկա մոդելներն օգտագործելու անսպասելի եղանակներ։
Հարավկորեական ֆինանսական կազմակերպությունների դեմ ուղղված վերջին արշավը, որը ներառում է նաև երկու բանկի անվտանգության խախտման դեպքեր, ցույց է տալիս, թե ինչպիսի վնաս կարող է հասցնել մեկ անձը։
Ըստ կիբերանվտանգության ոլորտի CrowdStrike ընկերության՝ Չինաստանից մի հաքեր, ենթադրաբար, օգտագործել է չինական մշակման AI մոդելների (այդ թվում՝ DeepSeek-ի) գործիքները՝ տասնյակ հազարավոր բանկային հաճախորդների տվյալներ գողանալու համար։ Հարձակվողը դիմել է «Claude Code»-ին՝ օգնություն խնդրելով գտնելու հարթակներ՝ գողացված տվյալները վաճառելու նպատակով։
AI-ի ոլորտի առաջատար ռազմավարագետները ենթադրում են, որ դեմոկրատները, որոնք ամրապնդել են դիրքերը միջանկյալ ընտրություններից հետո, արագ քայլեր կձեռնարկեն AI-ի գործունեությունը սահմանափակելու ուղղությամբ, սակայն կբախվեն լուրջ մարտահրավերների։
Տարեց կազմով Կոնգրեսը, որը հեռու է AI-ի հեղափոխության իրողություններից, կարող է հայտնվել իր հնարավորությունների սահմանից դուրս իրավիճակում։ Համաշխարհային տնտեսությունն այժմ սերտորեն կապված է AI-ի ենթակառուցվածքների զարգացման հետ։ Դրա դանդաղեցումը կարող է ծանր հարված հասցնել առանց այն էլ փխրուն տնտեսությանը։
Գոյություն ունեն բազմաթիվ «բաց ելակետային կոդով» (open-weight) մոդելներ, որոնք կարելի է ազատորեն ներբեռնել և օգտագործել վնաս հասցնելու համար. խնդիր, որը կիբերանվտանգության ոլորտի մասնագետների մեծ մասը համարում է լուծելի միայն AI-ի միջոցով՝ վնասակար AI-ի դեմ պայքարելու ճանապարհով։
Ծրագրավորումը ներառում է «red-teaming» (հնարավոր սպառնալիքների սիմուլյացիա և փորձարկում)՝ ամենավատ սցենարների համար։ Այն հիմնականում կենտրոնանում է Կոնգրեսի անդամներին արագորեն իրազեկելու և կրթելու վրա։ Ընկերությունների ղեկավարները գիտակցում են, որ կարգավորող օրենսդրությունն այս պահին ընդունվելու հնարավորություն չունի, սակայն նրանք ցանկանում են ձևավորել այն օրենքներն ու քաղաքականությունը, որոնց կդիմեն ԱՄՆ ղեկավարները առաջին աղետալի միջադեպից հետո։
AI-ի ոլորտի բազմաթիվ ներկայացուցիչներ Axios-ին հայտնել են, որ ակնկալում են խոշոր միջադեպի տեղի ունենալը առաջիկա 6-12 ամիսների ընթացքում։
Նույնիսկ Ներկայացուցիչների պալատում և Սենատում դեմոկրատների վերահսկողության պայմաններում ընկերությունները քաղաքական պառակտումը (այդ թվում՝ հենց Դեմոկրատական կուսակցության ներսում) համարում են սովորական երևույթ։
Դեմոկրատների կողմից առաջ քաշված ամենակոշտ միջոցառումներից են գերինտելեկտի արգելումը կամ արհեստական բանականության (ԱԲ) առաջադեմ համակարգերի մշակման ժամանակավոր դադարեցումը։
Այլ առաջարկներ վայելում են երկկուսակցական աջակցություն և նույնիսկ ոլորտի որոշակի հավանությունը, այդ թվում՝ ԱԲ առաջադեմ համակարգերում «սպանելու կոճակի» (kill switch) պարտադիր առկայության պահանջը։ Սակայն փորձագետները կասկածի տակ են դնում բոլոր ԱԲ համակարգերն անջատելու փորձի իրագործելիությունը։