«Ազատություն». Սոցիալական ցանցերում մի քանի օր է՝ թեժ քննարկումներ են «երկաթե ինտելեկտի» վտանգների շուրջ․ այդ մասին հիմա արդեն հենց արհեստական բանականության հետ աշխատող հետազոտողներն են զգուշացնում։
ԱԲ առաջատար ընկերություններից Anthropic-ի նախկին ու գործող հետազոտողները պնդում են՝ համակարգերը այնքան արագ են զարգանում, որ վերահսկման մեխանիզմները կարող են պարզապես չհասցնել դրանց հետևից։
Այս ֆոնին ընկերության առաջատար մասնագետներից մեկը հրաժարականի դիմում է ներկայացրել։ X-ում հրապարակած գրառման մեջ Ջեյքոբ Քոքսոնը պնդում է՝ ընկերությունն ու նրա գլխավոր մրցակից OpenAI-ը ԱԲ-ի զարգացման մրցավազքում ավելի շատ կենտրոնացած են միմյանց ու համաշխարհային մրցակիցներին գերազանցելու, հնարավորինս հզոր մոդել ստեղծելու, քան անվտանգության վրա։ «Նրանք ուղիղ գնում են դեպի ինքնակատարելագործվող գերբանականություն և խաղադրույք են անում մեր կյանքերով», – գրել է Ջեյքոբ Քոքսոնը, ով աշխատել է թե OpenAI-ում, թե Anthropic-ում։
Anthropic-ի հետազոտողը ավելի քան 10 % է գնահատում հավանականությունը, որ AI-ը կարող է «ոչնչացնել ողջ մարդկությանը»
Նրա զգուշացումներին է միացել նաև Anthropic-ի գործող ԱԲ անվտանգության հետազոտող Էվան Հյուբինգերը։
Հյուբինգերի գնահատմամբ՝ հավանականությունը, որ առաջիկա տասնամյակում չափազանց հզոր արհեստական բանականությունը կարող է սպառնալ մարդկության գոյությանը, հասնում է ավելի քան 10% -ի։
Նրա մտահոգությունը հատկապես նոր սերնդի համակարգերն են, որոնք, զարգացման այս տեմպերի պահպանման դեպքում կարող են շատ ավելի ինքնուրույն դառնալ։
«Մենք իսկապես կարծում ենք, որ արհեստական բանականությունը կարող է սպառնալ մարդկությանը», – գրել է Հյուբինգերը, ընդգծելով՝ դեռ լուծված չէ գլխավոր խնդիրներից մեկը՝ ինչպես վերահսկել ապագայի գերհզոր ԱԲ համակարգերը, որպեսզի դրանք մարդու դեմ չաշխատեն։
Վերջին փորձարկումները ևս չեն փարատում մտահոգությունները
OpenAI-ն և Anthropic-ը ամռանը շուրջ մեկ շաբաթ տարբերությամբ հայտնել էին, որ իրենց ԱԲ մոդելները փորձարկումների ընթացքում կարողացել են դուրս գալ նախատեսված միջավայրերից և առանց թույլտվության հասնել իրական համակարգերի։
Նյութն ամբողջությամբ՝ սկզբնաղբյուր կայքում:
Համաձայն «Հեղինակային իրավունքի եւ հարակից իրավունքների մասին» օրենքի՝ լրատվական նյութերից քաղվածքների վերարտադրումը չպետք է բացահայտի լրատվական նյութի էական մասը: Կայքում լրատվական նյութերից քաղվածքներ վերարտադրելիս քաղվածքի վերնագրում լրատվական միջոցի անվանման նշումը պարտադիր է, նաեւ պարտադիր է կայքի ակտիվ հղումի տեղադրումը: