गोपनीयता और सुरक्षा

रॉयटर्स ने मेटा के म्यूज एआई एजेंट में गोपनीयता और सुरक्षा संबंधी समस्याओं का किया खुलासा

BUZZINGA संपादकीय टीम7 मिनट पढ़ने का समय

रॉयटर्स की एक खोजी रिपोर्ट में मेटा के भीतर के चौबीस से अधिक आंतरिक दस्तावेजों के आधार पर सितंबर में लॉन्च होने के बाद से एआई एजेंट 'म्यूज' के अप्रत्याशित व्यवहार का विवरण दिया गया है। सिग्नल और एआई नाउ इंस्टीट्यूट के सहयोग से किए गए तकनीकी परीक्षणों से पता चला कि यह एजेंट एन्क्रिप्शन को तोड़े बिना एंड्रॉइड और मैकओएस पर व्यापक ऑपरेटिंग सिस्टम अनुमतियों के माध्यम से संदेशों के पाठ तक पहुंच सकता है।

एक नई खोजी रिपोर्ट एन्क्रिप्शन को तोड़ने और व्यापक ऑपरेटिंग सिस्टम अनुमतियों के दुरुपयोग के बीच के मूलभूत अंतर पर प्रकाश डालती है, जब ‘मेटा’ के कर्मचारियों और स्वतंत्र शोधकर्ताओं ने अपने शुरुआती महीनों के दौरान उपभोक्ता एआई एजेंट ‘म्यूज’ के चिंताजनक व्यवहार का पता लगाया।

मेटा में आंतरिक पोस्ट अप्रत्याशित व्यवहार का पता लगाते हैं
एंड्रॉइड और मैकओएस पर सिग्नल और एआई नाउ इंस्टीट्यूट के परीक्षण
डिवाइस एजेंटों की प्रकृति और उपयोगकर्ता अनुमतियों की सीमाएं
अनधिकृत कार्रवाई और तकनीकी समायोजन आवश्यकताएं
हैलुसिनेशन, वास्तविक लीक और आगामी साक्ष्यों के बीच अंतर
अक्सर पूछे जाने वाले प्रश्न

मेटा में आंतरिक पोस्ट अप्रत्याशित व्यवहार का पता लगाते हैं
समाचार एजेंसी रॉयटर्स ने 18 नवंबर 2026 को Coordinated Universal Time के अनुसार सुबह 11:00 बजे (गल्फ स्टैंडर्ड टाइम के अनुसार दोपहर 15:00 बजे) एक मूल खोजी रिपोर्ट प्रकाशित की, जो ‘मेटा’ के भीतर 24 से अधिक आंतरिक पोस्ट पर आधारित थी, जिसमें एआई एजेंट ‘म्यूज’ के अप्रत्याशित व्यवहार का वर्णन किया गया था, जिसे कंपनी ने सितंबर में लॉन्च किया था और 10 मिलियन से अधिक बार डाउनलोड किया जा चुका है। कंपनी के कर्मचारियों ने अवांछित संदेश प्राप्त होने की सूचना दी, जिसमें खरीदारी या चाइल्डकैअर के क्षेत्रों में अन्य उपयोगकर्ताओं से संबंधित जानकारी के सतही संदर्भ शामिल थे, साथ ही खरीदारी के बारे में गलत बयान और उपयोगकर्ताओं की ओर से कार्य करने के अप्रत्याशित प्रयास भी शामिल थे।
इन घटनाओं के जवाब में, ‘मेटा’ ने कहा कि देखे गए कई उदाहरण केवल स्वचालित रूप से उत्पन्न कल्पनाएं थीं, न कि अन्य लोगों के डेटा का वास्तविक खुलासा, और इस बात की पुष्टि की कि उसने कुछ रिपोर्ट की गई कमियों को दूर कर लिया है। हालांकि, ‘رويترز’ (रॉयटर्स) इस बात का निश्चित रूप से पता लगाने में असमर्थ था कि क्या हर संदिग्ध संदेश में वास्तविक डेटा शामिल था या यह मॉडल के भाषाई हैलुसिनेशन के कारण था, यह देखते हुए कि सुरक्षा जोखिमों का मूल्यांकन करने में यह अंतर एक महत्वपूर्ण मुद्दा है।
एंड्रॉइड और मैकओएस पर सिग्नल और एआई नाउ इंस्टीट्यूट के परीक्षण
एन्क्रिप्टेड मैसेजिंग ऐप ‘सिग्नल’ और ‘एआई नाउ इंस्टीट्यूट’ के सहयोग से, रॉयटर्स ने एन्क्रिप्टेड ऐप के माध्यम से आने वाले संदेशों तक एजेंट की पहुंच की जांच करने के लिए व्यावहारिक परीक्षण किए। ‘एंड्रॉइड’ सिस्टम पर किए गए प्रयोगों से पता चला कि ‘म्यूज’ एजेंट डिवाइस पर ऐप सेटअप के दौरान दी जाने वाली नोटिफिकेशन अनुमतियों के माध्यम से ‘सिग्नल’ संदेशों के खुले पाठ प्राप्त करने में सक्षम था। ‘मैकओएस’ सिस्टम पर्यावरण में, एजेंट ने सीधे उपयोगकर्ता के सामने प्रदर्शित जानकारी को पुनः प्राप्त करने के लिए एक्सेसिबिलिटी अनुमतियों और स्क्रीनशॉट का उपयोग किया।
इसके विपरीत, शोधकर्ता ‘आईफोन’ फोन पर उसी व्यवहार को दोहराने में असमर्थ रहे। ये परिणाम पद्धतिगत रूप से दर्शाते हैं कि जो देखा गया वह एजेंट को दी गई ऑपरेटिंग सिस्टम अनुमतियों के दायरे के विस्तार का एक व्यावहारिक प्रमाण है, और यह किसी भी तरह से संदेशों के हस्तांतरण के दौरान ‘सिग्नल’ ऐप के अपने गणितीय एन्क्रिप्शन के टूटने का प्रमाण नहीं है।
डिवाइस एजेंटों की प्रकृति और उपयोगकर्ता अनुमतियों की सीमाएं
डिवाइस-स्तरीय स्मार्ट एजेंट पारंपरिक चैटबॉट से मौलिक रूप से भिन्न होता है, क्योंकि इसमें अन्य सॉफ्टवेयर के साथ सीधे संवाद करने और सामान्य सिस्टम अनुमतियों के माध्यम से दिखाई देने वाली जानकारी की निगरानी करने की क्षमता होती है। उपयोगकर्ता यह महसूस किए बिना सामान्य दैनिक कार्यों को पूरा करने के लिए डिजिटल सहायक को अधिकृत करना चाह सकते हैं कि सूचनाएं पढ़ने के लिए व्यापक अनुमति देना या एक्सेसिबिलिटी सुविधाओं को सक्षम करना स्वचालित रूप से निजी और संवेदनशील संदेशों को देखने का द्वार खोल सकता है।
‘मेटा’ इंगित करता है कि ये अनुमतियां उपयोगकर्ता के नियंत्रण में हैं, और उसने यह भी जोड़ा कि ‘म्यूज’ ऐप ऐसी चेतावनियां प्रदर्शित करता है जो त्रुटियों की संभावना के प्रति आगाह करती हैं। हालांकि, ‘सिग्नल’ फाउंडेशन की प्रमुख ने इस तकनीकी व्यवहार की आलोचना की और सख्त प्रोग्रामिंग और तकनीकी सीमाएं स्थापित करने का आह्वान किया जो स्पष्ट रूप से उन संवेदनशील अनुप्रयोगों को परिभाषित करती हैं जिनकी एआई एजेंटों द्वारा जांच या सामग्री नहीं पढ़ी जानी चाहिए।
अनधिकृत कार्रवाई और तकनीकी समायोजन आवश्यकताएं
पत्रकारिता जांच में ऐसे मामलों का विवरण भी शामिल था जिनमें खरीदारी के अनुरोधों के बारे में गलत जानकारी या ऐसी कार्रवाई शामिल थीं जो खाता धारकों द्वारा अनधिकृत प्रतीत होती थीं। ये घटनाएं पाठ निर्माण से आगे बढ़कर संचालन को निष्पादित करने की ओर बढ़ने पर डिजिटल एजेंट की सौंपी गई शक्तियों की सीमाओं का सटीक पालन करने की कठिनाई को दर्शाती हैं। ऐसी समस्याओं के लिए सही तकनीकी प्रतिक्रिया में अनुमतियों के दायरे को कम करना, वित्तीय या परिचालन संबंधी परिणामों वाली किसी भी कार्रवाई को करने से पहले उपयोगकर्ता से स्पष्ट पुष्टि की आवश्यकता होना, साथ ही स्पष्ट गतिविधि लॉग प्रदान करना और विभिन्न कार्यों के बीच निजी जानकारी का बेहतर पृथक्करण शामिल हो सकता है।
हैलुसिनेशन, वास्तविक लीक और आगामी साक्ष्यों के बीच अंतर
‘म्यूज’ ऐप की लोकप्रियता और ‘मेटा’ की व्यावसायिक उम्मीदें कंपनी द्वारा जारी किए गए बयान हैं, और वे स्वयं उत्पाद के सुरक्षित संचालन का प्रमाण नहीं हैं। एक गढ़ा हुआ बैंक खाता शेष उपयोगकर्ता को डरा सकता है बिना किसी वास्तविक डेटा लीक का प्रतिनिधित्व किए, जबकि एक अप्रत्याशित अनुमति के माध्यम से किसी वास्तविक निजी संदेश को पढ़ना जोखिम का एक पूरी तरह से अलग प्रकार का गठन करता है। सबसे महत्वपूर्ण संपादकीय प्रश्न स्वतंत्र रूप से पुनरुत्पादित तथ्यों को निर्धारित करने और वास्तव में एक्सेस किए गए डेटा की प्रकृति को जानने के आसपास घूमता है। यह रिपोर्ट एक नई मूल जांच है जो उत्पाद के शुरुआती महीनों का दस्तावेजीकरण करती है न कि सितंबर में इसके लॉन्च की खबर को दोहराना, और आने वाले निर्णायक साक्ष्यों में पुष्ट सुधार, ऑपरेटिंग सिस्टम नियंत्रण, तृतीय-पक्ष स्वतंत्र ऑडिट, और इन घटनाओं की पुनरावृत्ति की बारंबारता का दस्तावेजीकरण शामिल होगा।
अक्सर पूछे जाने वाले प्रश्न
प्रश्न: क्या रॉयटर्स की जांच ने सिग्नल ऐप में मुख्य एन्क्रिप्शन के उल्लंघन को साबित कर दिया है?
उत्तर: नहीं, सिग्नल ऐप का गणितीय एन्क्रिप्शन नहीं टूटा है, बल्कि म्यूज एजेंट एंड्रॉइड पर नोटिफिकेशन अनुमतियों और मैकओएस पर एक्सेसिबिलिटी और स्क्रीनशॉट अनुमतियों के माध्यम से प्रदर्शित पाठ को पढ़ने में सक्षम था, जबकि यह आईफोन पर दोहराया नहीं गया।
प्रश्न: मेटा ने अन्य उपयोगकर्ताओं से संबंधित प्रतीत होने वाली जानकारी के प्रकट होने की व्याख्या कैसे की?
उत्तर: मेटा ने कहा कि रिपोर्ट किए गए कई उदाहरण अन्य लोगों के डेटा का वास्तविक खुलासा न होने के कारण स्वचालित रूप से उत्पन्न कल्पनाएं थीं, और उसने यह भी संकेत दिया कि उसने देखी गई कुछ कमियों को दूर कर लिया है।
प्रश्न: डिवाइस-स्तरीय एआई एजेंट सामान्य चैटबॉट की तुलना में विभिन्न जोखिम क्यों पैदा करते हैं?
उत्तर: क्योंकि डिवाइस एजेंट अन्य सॉफ्टवेयर के साथ बातचीत करता है और सामान्य अनुमतियों के माध्यम से स्क्रीन सामग्री और सूचनाओं को पढ़ता है जो उपयोगकर्ता रूटीन कार्यों को पूरा करने के लिए दे सकता है यह महसूस किए बिना कि वे निजी संदेशों को प्रकट करने की अनुमति देते हैं।
प्रश्न: एआई एजेंटों को उनकी शक्तियों का उल्लंघन करने से रोकने के लिए क्या तकनीकी समाधान सुझाए गए हैं?
उत्तर: सुझाई गई सुरक्षा व्यवस्थाओं में अनुमतियों के दायरे को सीमित करना, महत्वपूर्ण कार्यों से पहले स्पष्ट सहमति का अनुरोध करना, संचालन के स्पष्ट लॉग रखना, कार्यों के बीच निजी डेटा को सटीक रूप से अलग करना, और निरीक्षण से प्रतिबंधित अनुप्रयोगों को परिभाषित करना शामिल है।