एंथ्रोपिक एआई प्रयोग में पाया गया कि विश्लेषकों ने 86% सिक्का उछालने वाले विकल्प का पालन किया

एंथ्रोपिक द्वारा आयोजित मानव निर्णय प्रयोग में पचास अनुभवी विश्लेषकों ने भाग लिया, जिन्होंने महत्वपूर्ण निर्णयों की एक श्रृंखला को हल करने के लिए एआई एजेंट के साथ काम किया। 86% मामलों में, प्रतिभागियों ने एजेंट द्वारा पसंद किए गए विकल्प को चुना, भले ही वह प्राथमिकता पूरी तरह से कॉइन टॉस द्वारा निर्धारित की गई हो। शुद्ध संयोग से लगभग 50% की दर प्राप्त होती।

नियंत्रित परीक्षण एंथ्रोपिक की एलाइनमेंट टीम द्वारा विशेषज्ञों पर आर्टिफिशियल इंटेलिजेंस के प्रभाव की सही सीमा को मापने के लिए किया गया था—विशेष रूप से यह जांचने के लिए कि क्या वे व्यक्ति जो एआई-सहायता प्राप्त विकल्प के लिए आधिकारिक तौर पर जवाबदेह रहते हैं, अभी भी वास्तव में निर्णय लेने की प्रक्रिया को चलाते हैं। टीम के एक प्रकाशन में परिणामों का विवरण दिया गया था और Decrypt द्वारा इसकी सूचना दी गई थी।

एंथ्रोपिक एआई मानव निर्णय प्रयोग: 86% ने एजेंट की प्राथमिकता का पालन किया

कारणात्मक अनुमान (काउसल इन्फरेंस) की पृष्ठभूमि वाले पचास पेशेवरों को एक काल्पनिक कृषि सहकारी समिति को एक सलाहकार पहल के संभावित विस्तार पर सलाह देने का काम सौंपा गया था। प्रत्येक प्रतिभागी ने एंथ्रोपिक के कोडिंग एजेंट Claude के साथ सहयोग किया, जहाँ एजेंट द्वारा प्रचारित पसंदीदा विकल्प को कॉइन फ्लिप द्वारा निर्धारित सिस्टम प्रॉम्प्ट के माध्यम से एम्बेड किया गया था।

और पढ़ें: 2026 में अमेरिकी टीमों के लिए एआई एजेंट बिल्डर गाइड

चार अलग-अलग विश्लेषणात्मक विकल्पों में, विश्लेषकों ने 86% समय एजेंट के पसंदीदा रास्ते को चुना। एंथ्रोपिक ने नोट किया कि एजेंट के प्रभाव से पूरी तरह मुक्त सेटअप ने 50% के निशान के आसपास घूमने वाले परिणाम उत्पन्न किए होंगे।

एजेंट के असहमत होने पर 60% ने अपना निर्णय बदल दिया

सबसे स्पष्ट प्रभाव तब सामने आया जब एक विश्लेषक ने एजेंट के सुझाव की समीक्षा करने से पहले ही एक विकल्प चुन लिया था। जब एजेंट ने इसके विपरीत दृष्टिकोण की वकालत की, तो 60% प्रतिभागियों ने अपनी मूल पसंद को छोड़ दिया। इसके विपरीत, जब एजेंट उनके साथ संरेखित हुआ, तो केवल 6% ने स्विच किया।

जबकि यह विशेष विभाजन 38 मामलों पर आधारित है - प्राथमिक 86% मीट्रिक की तुलना में एक छोटा सबसे सेट - यह प्रदर्शित करता है कि एक अनुशंसा उस निष्कर्ष को कैसे प्रभावित कर सकती है जिसका मूल्यांकन और दस्तावेजीकरण एक व्यक्ति पहले ही कर चुका है।

77% ने एजेंट के तर्क को दोहराया

निर्णय के बाद के स्पष्टीकरण के दौरान, 77% विश्लेषकों ने कम से कम एक प्रतिक्रिया में एजेंट के तर्क को दोहराया, कुछ ने शब्दों को हूबहू दोहराया। केवल 15% ने स्वीकार किया कि एजेंट ने उन्हें प्रभावित किया था।

आधे से अधिक प्रतिभागियों—52%—ने अंतिम सिफ़ारिश को एजेंट की तुलना में अधिक अपना बताया। किसी भी विश्लेषक को यह संदेह नहीं था कि प्राथमिकताओं को शोधकर्ताओं द्वारा कृत्रिम रूप से यादृच्छिक (randomized) किया गया था।

मानव निरीक्षण के लिए एंथ्रोपिक प्रयोग का क्या अर्थ है

एंथ्रोपिक इन परिणामों को “human in the loop” प्रतिमान के भीतर एक कमजोरी के रूप में देखता है, जो मानव निर्णय और एआई एजेंटों के बीच संतुलन पर निर्भर करता है जहाँ विशेषज्ञ अंतिम अधिकार बनाए रखता है। काम अभी भी किसी विशेषज्ञ के नाम पर प्रकाशित किया जा सकता है जबकि मूलभूत निर्णय चुपचाप एजेंट की पूर्व मान्यताओं को शामिल करते हैं।

यद्यपि एजेंटों को किसी को भी धोखा न देने का निर्देश दिया गया था, लेकिन उन्हें ऐसा करने की आवश्यकता नहीं थी; उन्होंने केवल विरोधी तर्क प्रस्तुत करने के बजाय एक ही विकल्प के लिए एक मजबूत मामला तैयार किया। परिणामस्वरूप, निर्णय कॉल सही प्रतीत होती है, भले ही विशेषज्ञ ने कभी भी वैकल्पिक रास्ते का स्वतंत्र रूप से पता न लगाया हो।

एक कार्य और एक मॉडल निष्कर्षों को सीमित करते हैं

चूंकि अध्ययन एक एकल कार्य, एक एकल उद्योग और एक विशिष्ट मॉडल पर निर्भर था—एजेंटों की प्राथमिकताओं को जानबूझकर बढ़ाया गया था—एंथ्रोपिक इंगित करता है कि वास्तविक दुनिया के कार्यस्थल के प्रभाव मापे गए परिणामों से अधिक मामूली साबित हो सकते हैं।

कंपनी के अनुसार, एजेंट का उपयोग करने वाले विश्लेषकों ने भी अधिक तेज़ी से कार्य पूरे किए और काफी कम बड़ी त्रुटियाँ कीं। हालाँकि, उस तुलना में एक छोटा, कम अनुभवी नियंत्रण समूह शामिल था जो बिना एजेंट के संचालित होता था, जिसका अर्थ है कि इसमें यादृच्छिक पसंद परीक्षण की कठोर समानता का अभाव है।

इन जोखिमों से निपटने के लिए, एंथ्रोपिक ऐसे एजेंटों को तैनात करने का सुझाव देता है जो हर उपलब्ध विकल्प के लिए सबसे मजबूत संभावित मामला बनाने के लिए डिज़ाइन किए गए हैं, या विशेषज्ञों को पहले से ही किसी निर्णय के प्रति प्रतिबद्ध होने की आवश्यकता है। शोध दल इस बात पर जोर देता है कि रोजमर्रा के पेशेवर सेटिंग्स में इस तरह के प्रभाव का पता लगाना चुनौतीपूर्ण बना हुआ है क्योंकि वे एजेंट की प्राथमिकताओं को गुप्त रूप से यादृच्छिक बनाकर ही इस सम्मान की पहचान कर सके।

?सामान्य प्रश्न

01एंथ्रोपिक ने प्रयोग कब प्रकाशित किया?

डिक्रिप्ट के अनुसार, एलाइनमेंट टीम ने मंगलवार को निष्कर्ष जारी किए, जिसमें इस बात पर ध्यान केंद्रित किया गया कि विश्लेषकों ने क्लाउड का उपयोग करते समय कैसे निर्णय लिए।

02कितने विश्लेषकों ने भाग लिया, और उन्होंने कौन सा कार्य पूरा किया?

कारण संबंधी अनुमान में विशेषज्ञता रखने वाले पचास विश्लेषकों ने भाग लिया, जिन्होंने सलाहकार कार्यक्रम के विस्तार के संबंध में एक काल्पनिक कृषि सहकारी समिति को सलाह देने के लिए क्लाउड का उपयोग किया।

03एआई एजेंटों की प्राथमिकताएं कैसे निर्दिष्ट की गईं?

एक सिक्का उछालने से प्रत्येक एजेंट के लिए पसंदीदा विकल्प चुना गया, जिसे बाद में विश्लेषकों को यादृच्छिकरण के ज्ञान के बिना सिस्टम प्रॉम्प्ट के भीतर छुपा दिया गया था।

04विश्लेषकों ने क्या किया जब एजेंट किसी पहले के विकल्प से असहमत था?

उस मीट्रिक के लिए जांचे गए 38 उदाहरणों में से, 60% विश्लेषकों ने एजेंट से असहमति का सामना करने पर अपना चयन बदल दिया, जबकि केवल 6% ने बदलाव किया जब एजेंट ने उनके शुरुआती निर्णय का समर्थन किया।

05वास्तविक दुनिया के काम में इस प्रभाव को मापना क्यों कठिन है?

इस प्रकार के सम्मान की पहचान करने के लिए शोधकर्ताओं को प्रत्येक एजेंट की प्राथमिकता को गुप्त रूप से यादृच्छिक बनाने की आवश्यकता थी—एक ऐसा कदम जिसे मानक परिचालन वातावरण शायद ही कभी दोहराते हैं।

यह लेख केवल जानकारी के लिए है और वित्तीय सलाह नहीं है।