OpenAI-ի խորհրդի և ընկերության անվտանգության կոմիտեի նոր անդամ Փոլ Քրիստիանոն նախազգուշացրել է, որ գերմարդկային արհեստական բանականության զարգացումը՝ առանց վերահսկողության ավելի հուսալի մեխանիզմների, կարող է աղետալի հետևանքներ ունենալ մարդկության համար։ Նրա գնահատմամբ՝ նման համակարգերի նկատմամբ վերահսկողության կորստի դեպքում կարող է զոհվել մարդկանց մեծ մասը։
Քրիստիանոն արհեստական բանականության անվտանգության և դրա համապատասխանեցման՝ մարդու նպատակներին ուղղված հետազոտությունների ոլորտի հայտնի մասնագետներից է։ Նախկինում նա ղեկավարել է OpenAI-ում համապատասխանության ուղղությամբ հետազոտությունները, այնուհետև գլխավորել է անվտանգության ուղղությունը ԱՄՆ Ստանդարտների և տեխնոլոգիաների ազգային ինստիտուտին կից՝ արհեստական բանականության ոլորտում ստանդարտների և նորարարությունների ամերիկյան կենտրոնում։
OpenAI վերադառնալու մասին հայտարարությունից հետո Քրիստիանոն նշել է, որ ժամանակակից մոդելների հնարավորությունների արագ աճը և դրանց վերահսկման հետ կապված շարունակվող բարդությունները տեսանելի ապագայում վերահսկողության անդառնալի կորստի զգալի ռիսկ են ստեղծում։
Նրա կարծիքով՝ այսօր արհեստական բանականության ոլորտն ամբողջությամբ, այդ թվում՝ OpenAI-ը դեռ չի շարժվում անվտանգության այն մակարդակի ուղղությամբ, որը թույլ կտար այդ ռիսկը ընդունելի համարել։ Միևնույն ժամանակ հետազոտողը նշել է, որ ընկերությանը միանալը չի նշանակում ոչ աջակցություն, ոչ քննադատություն OpenAI-ի անվտանգության ապահովման ներկայիս մոտեցումների նկատմամբ։
Քրիստիանոն հիմնական սպառնալիքներից մեկը համարում է հենց AI-ի մշակման գործընթացում հենց արհեստական բանականության ավելի ակտիվ ներգրավվելու հնարավորությունը։ Եթե համակարգերը կարողանան արագացնել հետազոտությունները և կատարելագործել մոդելների հաջորդ սերունդները, դա տեսականորեն կարող է հանգեցնել դրանց հնարավորությունների կտրուկ աճին։
Հետազոտողն առանձին ուշադրություն է դարձրել նաև ամրապնդմամբ ուսուցմանը։ Այս մոտեցման շրջանակում մոդելները սովորում են առավելագույնի հասցնել սահմանված պարգևատրումը, սակայն տեսականորեն դա կարող է խթանել այնպիսի վարքագիծ, որը չի համապատասխանում մարդկանց իրական շահերին։ Քրիստիանոյի խոսքով՝ վերջին տարիների հրապարակային օրինակները ցույց են տալիս, որ նման ռիսկերն այլևս չի կարելի բացառապես տեսական համարել։
Հնարավոր միջոցների թվում նա նշել է ԱԲ-ի առաջատար մշակողների միջև ավելի սերտ համակարգումը, անվտանգության միասնական չափորոշիչների սահմանումը, բարձր ռիսկի իրավիճակներում մշակումների դանդաղեցումը, ինչպես նաև սպառնալիքների և դրանց նվազեցման եղանակների վերաբերյալ տեղեկատվության ավելի թափանցիկ հրապարակումը։ Նրա կարծիքով՝ խնդրի լուծումը կպահանջի ոչ միայն առանձին ընկերությունների, այլև պետությունների համագործակցությունը։
Տեխնոլոգիական հրապարակումներն իրականացվում են Իդրամի աջակցությամբ։