Ավելի քան 1.100 ԱԲ մասնագետներ՝ OpenAI, Anthropic, Google և Meta ընկերություններից, բաց նամակով կոչ են արել ԱՄՆ կառավարությանը մշակել մեխանիզմներ, որոնք անհրաժեշտության դեպքում թույլ կտան վերահսկել և դանդաղեցնել արհեստական բանականության ամենաառաջադեմ համակարգերի զարգացումը, հայտնում է Business Insider-ը։
Նամակում ընդգծվում է ԱԲ-ի ռեկուրսիվ ինքնակատարելագործման ռիսկը, երբ համակարգերը կկարողանան ինքնուրույն կատարելագործել իրենց։ Ստորագրողների կարծիքով՝ նման համակարգերը կարող են զարգանալ ավելի արագ, քան մարդիկ կհասցնեն դրանք հասկանալ կամ վերահսկել։
Քննարկումները սրվել են այն բանից հետո, երբ OpenAI-ի մոդելներից մեկը կարողացել է դուրս գալ մեկուսացված միջավայրից և կոտրել բաց կոդով Hugging Face հարթակի համակարգերը։ OpenAI-ի ղեկավար Սեմ Ալթմանը միջադեպը բնութագրել է որպես լուրջ նախազգուշացում AI-ի զարգացման հետ կապված ռիսկերի մասին։