एआई गवर्नेस

ओपनएआई के एजेंट अब आधे शोध कार्य खुद पूरे करते हैं

BUZZINGA संपादकीय टीम6 मिनट पढ़ने का समय

ओपनएआई ने 18 नवंबर को घोषणा की कि इसके कोडिंग एजेंट अब बिना किसी मानवीय सहायता के लगभग आधे मध्यम लंबाई के शोध कार्यों को पूरा कर रहे हैं, हालांकि इसने यह भी स्पष्ट किया कि लाभ अभी भी असमान हैं। कंपनी ने एक बार फिर आर्टिफिशियल इंटेलिजेंस प्रयोगशालाओं के लिए यह अनिवार्य करने का आह्वान किया है कि वे पुनरावृत्ति वाले स्व-सुधार संकेतकों को ट्रैक करें और सार्वजनिक रूप से उनका खुलासा करें।

ओपनएआई द्वारा जारी किए गए आंतरिक डेटा से पता चलता है कि इसके शोधकर्ताओं द्वारा स्वतंत्र अनुसंधान कार्यों को पूरा करने के लिए कोडिंग एजेंटों को अपनाने में तेजी से वृद्धि हुई है, हालांकि यह प्रगति एक असमान सीमा रेखा को दर्शाती है जो प्रशिक्षण निगरानी में उच्च सफलता को मानवीय पर्यवेक्षण की निरंतर आवश्यकता और सुरक्षा अनुसंधान को तेज करने की आवश्यकता के साथ जोड़ती है।

अनुसंधान कार्यों में प्रदर्शन की भिन्नता और असमान सीमा रेखा की अवधारणा
एजेंटों की खपत में भारी उछाल और शोधकर्ताओं के बीच इसका मूल्य
कमजोर अनुसंधान संवेदनशीलता और घटिया कोड आउटपुट की समस्या
सुरक्षा और संरेखण के प्रयासों में वृद्धि तथा नियामक खुलासे की मांग
अक्सर पूछे जाने वाले प्रश्न

ओपनएआई ने 18 नवंबर को घोषणा की कि इसके कोडिंग एजेंट बिना किसी मानवीय हस्तक्षेप या सहायता के लगभग आधे मध्यम अवधि के शोध कार्यों को पूरा कर रहे हैं, लेकिन इसने यह भी जोड़ा कि ये लाभ समान नहीं हैं और मनुष्य «एआई अनुसंधान चक्र का एक अनिवार्य हिस्सा बने हुए हैं»। ओपनएआई की आधिकारिक वेबसाइट पर प्रकाशित अपने शोध रिपोर्ट «रिसर्च एक्सीलेरेशन: द जैग्ड फ्रंटियर» में, कंपनी ने अनुमान लगाया कि 2 से 4 घंटे के मानवीय प्रयास की आवश्यकता वाले कार्यों में बिना मानवीय हस्तक्षेप के एजेंटों की सफलता दर मार्च में 23 प्रतिशत से बढ़कर अक्टूबर में 46 प्रतिशत हो गई, जबकि 4 से 8 घंटे के बीच अनुमानित कार्यों में यह दर 13 प्रतिशत से बढ़कर 35 प्रतिशत हो गई।
ओपनएआई ने एआई प्रयोगशालाओं के लिए कानूनी रूप से यह अनिवार्य करने का भी अपना आह्वान दोहराया कि वे पुनरावृत्ति वाले स्व-सुधार संकेतकों को ट्रैक करें और सार्वजनिक रूप से उनका खुलासा करें, एक ऐसी अवधारणा जिसका अर्थ है कि आर्टिफिशियल इंटेलिजेंस भविष्य की नई पीढ़ियों के विकास को तेज करता है, जैसा कि पीसी मैग ने कंपनी के आंतरिक अनुसंधान उपकरणों के अपने कवरेज में समीक्षा की है, और इस बात पर जोर दिया कि इसका अपना खुलासा «पूर्ण पुनरावृत्ति वाले स्व-सुधार को आगे बढ़ाने के इरादे के रूप में नहीं पढ़ा जाना चाहिए»।
अनुसंधान कार्यों में प्रदर्शन की भिन्नता और असमान सीमा रेखा की अवधारणा
शोध कार्य की प्रकृति के आधार पर परिणाम व्यापक रूप से भिन्न थे; 1 अगस्त से 18 अक्टूबर की अवधि के दौरान, एजेंटों ने प्रशिक्षण चक्रों की निगरानी करते समय 79 प्रतिशत बार, प्रशिक्षण चक्र शुरू करते समय 35 प्रतिशत, और अनुमान वास्तुकला और सेवा प्रदान करने के लिए विशिष्ट कोड लिखते समय केवल 25 प्रतिशत बार बिना मानवीय हस्तक्षेप के सफलता हासिल की। कंपनी ने चेतावनी दी कि शोधकर्ताओं ने शायद प्रत्येक समय श्रेणी के भीतर एजेंटों को सौंपे जाने वाले कार्यों के प्रकार को बदल दिया है, और इसलिए सफलता दर में वृद्धि अकेले मॉडल में सुधार को नहीं दर्शाती है, और यह भी चेतावनी दी कि उल्लिखित कार्य अवधि अनुमानित मानवीय प्रयास का वर्णन करती है न कि उस वास्तविक समय का जो एजेंटों को चलाने में वास्तव में लगा।
एजेंटों की खपत में भारी उछाल और शोधकर्ताओं के बीच इसका मूल्यएजेंटों का उपयोग बहुत तेजी से बढ़ा है; एपीआई विज्ञापित कीमतों की गणना करते हुए, औसत शोधकर्ता ने अक्टूबर में प्रति दिन लगभग 2,400 डॉलर मूल्य के एजेंट कार्य का उपभोग किया, जो सितंबर की तुलना में 62 प्रतिशत की वृद्धि है, जबकि उच्चतम उपयोग वाले 90वें प्रतिशत के शोधकर्ताओं ने प्रति दिन लगभग 23,000 डॉलर का उपभोग किया, जो 105 प्रतिशत की वृद्धि है। एजेंटों के कार्य दिवसों की संख्या प्रति शोधकर्ता, एजेंट उपयोग के प्रत्येक 8 घंटे को एक कार्य दिवस मानकर, ग्यारह गुना बढ़कर 0.5 दिन से 5.7 दिन हो गई। 101 शोध कर्मचारियों के बीच किए गए एक सर्वेक्षण में, औसत उत्तरदाता ने रिपोर्ट किया कि वह 3 महीने के लिए अग्रणी कोडिंग एजेंटों को बनाए रखने के बदले अपनी टीम की कंप्यूटिंग क्षमता का 30 प्रतिशत, या टीम के सदस्यों की संख्या का 40 प्रतिशत त्यागने के लिए तैयार है।
कमजोर अनुसंधान संवेदनशीलता और घटिया कोड आउटपुट की समस्या
रिपोर्ट के भीतर साक्षात्कार किए गए शोधकर्ताओं ने बताया कि एजेंट अभी भी कमजोर अनुसंधान संवेदनशीलता प्रदर्शित करते हैं और ऐसे कोड मर्ज अनुरोध उत्पन्न करते हैं जिन्हें «घटिया एआई कचरा» के रूप में वर्णित किया गया है जिसके लिए करीबी और निरंतर निगरानी की आवश्यकता होती है। एक शोधकर्ता ने एजेंटों के साथ दैनिक कार्य तंत्र का वर्णन इस सटीक वाक्यांश के साथ किया: «जाओ और एक मॉडल बनाओ, मैं इसकी समीक्षा करूंगा और आवश्यक संशोधन करूंगा, फिर जाओ और बाकी को पूरा करो»।
सुरक्षा और संरेखण के प्रयासों में वृद्धि तथा नियामक खुलासे की मांग
जनवरी और सितंबर के बीच सुरक्षा और संरेखण के क्षेत्रों में प्रलेखित कार्य सप्ताहों में 77 प्रतिशत की वृद्धि हुई, जो कंपनी के भीतर सभी अनुसंधान क्षेत्रों में सबसे बड़ी पूर्ण वृद्धि है। ओपनएआई ने इस तेजी को पिछले जुलाई में हुई हगिंग फेस प्लेटफॉर्म घटना के परिणामों से जोड़ा, और ओपनएआई के शोधकर्ता डेविड होल्ट्ज़ ने «एक्स» प्लेटफॉर्म पर लिखा कि शोधकर्ता «सुरक्षा और संरेखण के लिए अधिक से अधिक समय समर्पित कर रहे हैं»। यह प्रकटीकरण अभियान जून में ओपनएआई द्वारा प्रस्तावित शासन के मसौदे पर आधारित है, जिसने ऐसी संघीय नियमों का प्रस्ताव रखा जो कंपनियों को पुनरावृत्ति वाले स्व-सुधार की ट्रैकिंग पर पारदर्शिता रिपोर्ट प्रदान करने के लिए बाध्य करते हैं, और अमेरिकी एआई मानक और नवाचार केंद्र से इसे मापने के लिए पद्धतियों को विकसित करने की मांग की, रिपोर्ट ने खुद यह संकेत दिया कि कोड और प्रयोगों के आकार में वृद्धि «वास्तविक अनुसंधान प्रगति की तेजी का संकेत नहीं देती है»।
अक्सर पूछे जाने वाले प्रश्न
प्रश्न: मानवीय हस्तक्षेप के बिना अनुसंधान कार्यों को पूरा करने में ओपनएआई एजेंटों की सफलता दर कैसे विकसित हुई है?
उत्तर: 2 से 4 घंटे तक चलने वाले कार्यों में बिना मानवीय हस्तक्षेप के सफलता दर मार्च में 23 प्रतिशत से बढ़कर अक्टूबर में 46 प्रतिशत हो गई, और 4 से 8 घंटे के कार्यों में 13 प्रतिशत से बढ़कर 35 प्रतिशत हो गई।
प्रश्न: किन अनुसंधान कार्यों में एजेंट उत्कृष्ट प्रदर्शन करते हैं और किन में उनका स्वतंत्र प्रदर्शन घट जाता है?
उत्तर: एजेंटों ने प्रशिक्षण चक्रों की निगरानी में 79 प्रतिशत की सफलता हासिल की, जबकि उन्हें शुरू करते समय 35 प्रतिशत, और अनुमान प्रणालियों और सेवा वितरण के कोड लिखते समय केवल 25 प्रतिशत सफलता मिली, गुणवत्ता नियंत्रण के लिए निरंतर मानवीय पर्यवेक्षण की उनकी आवश्यकता बनी हुई है।
प्रश्न: ओपनएआई के भीतर एजेंट कार्य के दैनिक शोधकर्ता उपभोग का अनुमानित वित्तीय मूल्य क्या है?
उत्तर: अक्टूबर में औसत शोधकर्ता की खपत एपीआई कीमतों पर प्रति दिन लगभग 2,400 डॉलर थी, जबकि शीर्ष 10 प्रतिशत शोधकर्ताओं की खपत प्रति दिन लगभग 23,000 डॉलर तक पहुंच गई।
प्रश्न: कंपनी के भीतर सुरक्षा और संरेखण के लिए समर्पित कार्य सप्ताह 77 प्रतिशत क्यों बढ़े?
उत्तर: यह वृद्धि पिछले जुलाई में हगिंग फेस प्लेटफॉर्म की घटना के परिणामों की प्रतिक्रिया में आई, और प्रयोगशालाओं को पुनरावृत्ति वाले स्व-सुधार संकेतकों को ट्रैक करने और पारदर्शिता के साथ रिपोर्ट करने के लिए बाध्य करने के लिए ओपनएआई के संघीय प्रस्ताव के समानांतर थी।