Ամերիկյան Anthropic արհեստական բանականության կորպորացիայի հետազոտող Ջեյքոբ Քոքսոնը հեռացել է և որոշել է դուրս գալ արհեստական բանականության ոլորտից մտահոգությունների պատճառով, որ մշակողները չափազանց արագ են ստեղծում ինքնակատարելագործման ունակ համակարգեր որոնք ի վերջո կարող են դուրս գալ վերահսկողությունից, հայտնել է «The Wall Street Journal»-ը:
27-ամյա Քոքսոնը մասնագիտացել է նոր ԱԻ մոդելների մեծ տվյալների վրա մարզման մեջ: Նրա կարծիքով՝ ոչ մի ընկերություն չի կարող պատասխանատու կերպով մշակել արհեստական բանականություն, որը կարող է գերազանցել մարդկանց՝ առաջադրանքների լայն շրջանակում, առանց կառավարության միջամտության կամ զարգացման համակարգված դանդաղեցման: «Մենք գնում ենք դեպի ամենաագրեսիվ սցենարներից շատերը, որտեղ իրավիճակը կարող է դուրս գալ վերահսկողությունից մինչև հաջորդ տարվա վերջ», – ասել է Քոքսոնը:
Ըստ նրա՝ արհեստական բանականության մշակողների և չինական ընկերությունների միջև մրցակցությունը անխուսափելիորեն հանգեցնում է անվտանգության հարցում փոխզիջումների: Քոքսոնը զգուշանում է, որ երբ մոդելները սկսեն ինքնակատարելագործվել, դրանք կարող են զարգանալ այնքանով, որ այլևս չկատարեն մարդկային հրամանները:
Քոքսոնի հեռանալը Anthropic-ի աշխատակցի կողմից ընկերությունից արհեստական ինտելեկտի անվտանգության հետ կապված մտահոգությունների պատճառով հեռանալու առաջին դեպքերից մեկն է: WSJ-ն նշել է, որ OpenAI-ի և այլ արհեստական ինտելեկտի մշակողների մի քանի աշխատակիցներ նույնպես հեռացել են՝ նմանատիպ մտահոգություններ հայտնելով։
Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը և ընկերության այլ ղեկավարներ բազմիցս զգուշացրել են արհեստական ինտելեկտի մոդելների վերահսկողությունից դուրս գալու հետ կապված ռիսկերի մասին և կոչ են արել տեխնոլոգիական զարգացման դանդաղեցման: Anthropic-ը շարունակում է ընդլայնել իր արհեստական ինտելեկտի հարթակը և պատրաստվում է նախնական հանրային առաջարկի (IPO):
OpenAI-ի գործադիր տնօրեն Սեմ Ալտմանը նույնպես զգուշացրել է արհեստական ինտելեկտի արագ զարգացման ռիսկերի մասին: Հյուսիսային Կարոլինայում կայացած G20 գագաթնաժողովում ելույթ ունենալով՝ նա նշել է. «Կարծում եմ՝ կիբերանվտանգության հետ կապված ինչ-որ բան շատ սխալ կընթանա, եթե մարդիկ անհապաղ գործողություններ չձեռնարկեն»: OpenAI-ի գլխավոր գիտնական Յակուբ Պաչոկին նույնպես կոչ է արել արհեստական ինտելեկտի զարգացման համակարգված դանդաղեցման և կառավարական միջամտության:
Քոքսոնը, Պաչոկին և Ամոդեյը եղել են արհեստական բանականության ավելի քան 1000 հետազոտողների թվում, ովքեր ստորագրել են հայտարարություն, որով կոչ են արել միջազգային համակարգման և ինքնակատարելագործման ունակ մոդելների մշակումը դանդաղեցնելու մեխանիզմների ստեղծման։