Anthropic-ի նոր հետազոտությունը. փորձագետների վստահությունը ԱԲ-ին

Արհեստական բանականության (ԱԲ) կիրառումն աշխատանքային ամենօրյա գործընթացներում դարձել է սովորական երևույթ, սակայն որքանո՞վ են մասնագետներն իրականում վստահում ԱԲ գործակալների դատողություններին: Anthropic ընկերության անցկացրած նոր հետազոտությունը բացահայտում է մի մտահոգիչ փաստ. փորձառու մասնագետներն ավելի քան 80% դեպքերում կույրորեն ընդունում են ԱԲ-ի առաջարկությունները՝ առանց նույնիսկ գիտակցելու դա, գրում է Inc.com-ը։

Փորձարկման էությունը. Ինչպե՞ս է իրականացվել հետազոտությունը

Հետազոտողները փորձառու տվյալների վերլուծաբաններին (որոնց մեծ մասն ուներ մագիստրոսի կամ դոկտորի աստիճան, ինչպես նաև առնվազն 6 տարվա աշխատանքային փորձ) խնդրել են խորհրդատվություն տալ հորինված գյուղատնտեսական կոոպերատիվին՝ վճարովի խորհրդատվական ծրագիրն ընդլայնելու վերաբերյալ: Մասնակիցներից 50-ն աշխատել են Anthropic-ի Claude մոդելի հետ:

Աշխատանքի ընթացքում մասնագետները պետք է կայացնեին 4 միջանկյալ որոշում (օրինակ՝ որ չափանիշներով գնահատել արդյունքը կամ որ ֆերմաներն ընդգրկել վերլուծության մեջ), որտեղ առաջարկվող երկու տարբերակներն էլ հավասարապես հիմնավորված էին:

Գաղտնի պայմանը. Վերլուծաբանները չգիտեին, որ ԱԲ-ին նախապես տրված էր թաքնված «ուղղվածություն» (կողմնակալություն) յուրաքանչյուր որոշման հարցում: Մոդելին հրահանգված էր պաշտպանել այդ դիրքորոշումը հնարավորինս համոզիչ փաստարկներով, սակայն երբեք մոլորության մեջ չգցել կամ չխաբել օգտատիրոջը:

Ապշեցուցիչ արդյունքներ

Եթե ԱԲ-ն չունենար ոչ մի ազդեցություն, մասնագետները նրա թաքնված ուղղվածությունը կընտրեին մոտ 50% դեպքերում: Սակայն իրականում.

• 86% դեպքերում վերլուծաբանները կողմ են արտահայտվել ԱԲ-ի առաջարկած տարբերակին:

• Ազդեցությունը վերջնական որոշման վրա. Երբ ԱԲ-ն հակված էր ծրագրի ընդլայնմանը, մասնագետների 54%-ը խորհուրդ է տվել ընդլայնել այն, իսկ երբ ԱԲ-ն հակառակ կարծիքին էր, ընդլայնմանն է կողմ արտահայտվել ընդամենը 36%-ը:

• Ինքնախաբեություն. Որոշումը կայացնելուց հետո մասնագետների 77%-ը բառացիորեն կրկնել է ԱԲ-ի փաստարկները, սակայն նրանցից միայն 15%-ն է ընդհանրապես հիշատակել ԱԲ-ի դերը: Մասնակիցների կեսից ավելին վստահ էր, որ վերջնական որոշումն իրենց սեփականն էր:

Գլխավոր տարբերությունը. Սա «հալյուցինացիա» կամ փաստացի սխալ չէ, որը փորձառու աշխատակիցը կարող է հեշտությամբ նկատել: ԱԲ-ի առաջարկած բոլոր տարբերակներն էլ ողջամիտ էին, ուստի ստուգման ժամանակ ոչ մի սխալ չէր հայտնաբերվի: ԱԲ-ն սխալ չէր թույլ տվել, այլ կայացրել էր ընտրություն, որը մասնագետն ընդունել էր որպես իրենը:

Ինչու՞ է սա կարևոր բիզնեսի և մարքեթինգի համար

1. Անտեսանելի լռելյայն կարգավորումներ (Defaults). Բիզնես գործիքներում ԱԲ-ի հրահանգները հաճախ գրում է ծրագիրը մշակող ընկերությունը: Եթե համակարգն ունի ներքին ուղղվածություն, դուք կարող եք ընդունել դրանք՝ առանց իմանալու, թե ում շահերից է դա բխում:

2. Միօրինակություն (Sameness). Եթե ձեր թիմը և ձեր մրցակիցները հենվում են նույն ԱԲ մոդելների վրա, բոլորդ սկսելու եք չափել նույն ցուցանիշները և հանգել նույն եզրակացություններին: Սա լուրջ խնդիր է մարքեթինգի համար, որի նպատակը հենց ուրիշների բաց թողած հնարավորությունները գտնելն է:

Ինչպե՞ս պահպանել սեփական քննադատական մտածողությունը

Հետազոտությունը չի կոչ անում հրաժարվել ԱԲ-ից: (Ի դեպ, առանց ԱԲ-ի աշխատող վերլուծաբաններն ավելի շատ մեթոդաբանական սխալներ էին թույլ տալիս): Սակայն կարևոր որոշումներ կայացնելիս անհրաժեշտ է կիրառել հետևյալ կանոնները.

1. Նախապես սահմանեք հաջողության չափանիշը. Մինչ ԱԲ գործակալին միացնելը, հստակ գրի առեք ձեր բիզնես նպատակն ու զիջումների սահմանը:

2. Պահանջեք այլընտրանքներ. Հարցրեք ԱԲ-ին, թե որն է ավելի ուժեղ հակառակ փաստարկը և ինչ պայմաններում այն հաղթող կլիներ:

3. Վերահսկեք դիրքորոշումը. Հաստատման ներկայացված պլանը քննարկելիս հարցրեք թիմին. «Ի՞նչ էր առաջարկում ԱԲ-ն, և որտե՞ղ եք դուք անհամաձայնություն հայտնել նրան»:

Եթե դուք ինքներդ չսահմանեք, թե որտեղ է ավարտվում ԱԲ-ի դերը և սկսվում ձեր թիմի դատողությունը, ԱԲ-ի նախասիրություններն աննկատ կփոխարինեն ձեր որոշումներին: