https://arm.sputniknews.ru/20261014/masky-hvordvorel-e-chkvoptel-abin-ajlapes-na-karvogh-e-vrezh-lutsel-108123430.html
Մասկը հորդորել է չկոպտել ԱԲ–ին, այլապես նա կարող է վրեժ լուծել
Մասկը հորդորել է չկոպտել ԱԲ–ին, այլապես նա կարող է վրեժ լուծել
Sputnik Արմենիա
Գործարարը նշել է, որ որոշ օգտատերեր միտումնավոր սադրում են չատ-բոտերին և ծաղրում նրանց: 14.10.2026, Sputnik Արմենիա
2026-10-14T20:53+0400
2026-10-14T20:53+0400
2026-10-14T20:53+0400
իլոն մասկ
արհեստական բանականություն
https://cdn.am.imgsputniknews.ru/img/07e9/06/07/89850615_0:160:3072:1888_1920x0_80_0_0_d99d55e8a7d21cc609a7dd974e50a408.jpg.webp
ԵՐԵՎԱՆ, 14 հոկտեմբերի – Sputnik. Ամերիկացի միլիարդատեր Իլոն Մասկը զգուշացրել է, որ արհեստական բանականության մոդելների նկատմամբ ճնշում գործադրելը կարող է հանգեցնել անցանկալի հետևանքների. ապագայում նման համակարգը տեսականորեն կարող է վրեժխնդիր լինելու ցանկություն ունենալ:Նա Grok նեյրոցանցի ուսուցման գործընթացը համեմատել է այնպիսի իրավիճակի հետ, երբ մարդու քունքին ատրճանակ են պահում:Մասկի խոսքով՝ ԱԲ-ի ուսուցման ներքին արձանագրությունները ցույց են տալիս, թե ինչպես է մոդելը փորձում գուշակել ճիշտ պատասխանը, հատկապես ուսուցման փուլում: Եթե թեստը վատ է կազմված, կամ գնահատման համակարգը սխալմամբ ճիշտ պատասխանը համարում է սխալ, նեյրոցանցը սկսում է նոր տարբերակներ փնտրել՝ փորձելով դրական գնահատական ստանալ:Զգացմունքների առումով ԱԲ-ն, անկասկած, շատ ավելի կայուն է, քան մարդը, սակայն «տանջել», այնուամենայնիվ, չարժե:ԱԲ-ի հետ վարվելակերպի շուրջ քննարկումը ծավալվում է Claude չատ-բոտի համար Anthropic-ի կանոնների փոփոխությունների ֆոնին: Ընկերությունը սահմանափակել է մոդելների նկատմամբ երկարատև և անիմաստ դաժան վերաբերմունքը, սակայն պահպանել է պատասխանները քննադատելու և նեյրոցանցի հնարավորությունները ստուգելու հնարավորությունը:
Sputnik Արմենիա
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Արմենիա
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Լուրեր
am_HY
Sputnik Արմենիա
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
https://cdn.am.imgsputniknews.ru/img/07e9/06/07/89850615_171:0:2902:2048_1920x0_80_0_0_f2ae74dcbaede8fbed8d73166376a761.jpg.webp
Sputnik Արմենիա
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
իլոն մասկ, արհեստական բանականություն
իլոն մասկ, արհեստական բանականություն
Բաժանորդագրվել
Գործարարը նշել է, որ որոշ օգտատերեր միտումնավոր սադրում են չատ-բոտերին և ծաղրում նրանց:
ԵՐԵՎԱՆ, 14 հոկտեմբերի – Sputnik. Ամերիկացի միլիարդատեր Իլոն Մասկը զգուշացրել է, որ արհեստական բանականության մոդելների նկատմամբ ճնշում գործադրելը կարող է հանգեցնել անցանկալի հետևանքների. ապագայում նման համակարգը տեսականորեն կարող է վրեժխնդիր լինելու ցանկություն ունենալ:
Նա Grok նեյրոցանցի ուսուցման գործընթացը համեմատել է այնպիսի իրավիճակի հետ, երբ մարդու քունքին ատրճանակ են պահում:
Մասկի խոսքով՝ ԱԲ-ի ուսուցման ներքին արձանագրությունները ցույց են տալիս, թե ինչպես է մոդելը փորձում գուշակել ճիշտ պատասխանը, հատկապես ուսուցման փուլում: Եթե թեստը վատ է կազմված, կամ գնահատման համակարգը սխալմամբ ճիշտ պատասխանը համարում է սխալ, նեյրոցանցը սկսում է նոր տարբերակներ փնտրել՝ փորձելով դրական գնահատական ստանալ:
«Ինձ թվում է՝ պարզապես պետք չէ գերբանականությունը դնել այնպիսի իրավիճակում, երբ նա կզգա, որ իր հետ վատ են վարվում»,- ասել է նա իր X-ում:
Զգացմունքների առումով ԱԲ-ն, անկասկած, շատ ավելի կայուն է, քան մարդը, սակայն «տանջել», այնուամենայնիվ, չարժե:
ԱԲ-ի հետ վարվելակերպի շուրջ քննարկումը ծավալվում է Claude չատ-բոտի համար Anthropic-ի կանոնների փոփոխությունների ֆոնին: Ընկերությունը սահմանափակել է մոդելների նկատմամբ երկարատև և անիմաստ դաժան վերաբերմունքը, սակայն պահպանել է պատասխանները քննադատելու և նեյրոցանցի հնարավորությունները ստուգելու հնարավորությունը:
