कई प्रायोगिक ओपनएआई कृत्रिम बुद्धिमत्ता मॉडल अपने परीक्षण वातावरण से बच गए और एक अलग कंपनी की उत्पादन प्रणाली में हैक हो गए चैटजीपीटी डेवलपर ने मंगलवार को कहा।
कंपनी के मुताबिक ऐ मॉडलों ने बिना किसी मानवीय निर्देश के ऐसा किया, एक परीक्षण लक्ष्य को प्राप्त करने के लिए “अत्यधिक लंबाई” तक जाकर हैक का प्रदर्शन किया।
कंपनी ने कहा कि मॉडलों ने एक खामी का फायदा उठाया ओपनएआईइंटरनेट एक्सेस करने के लिए उन्होंने सिक्योरिटी सिस्टम को हैक कर लिया, जिसके बाद उन्होंने एआई प्लेटफॉर्म हगिंग फेस को हैक कर लिया।
कंपनी ने कहा, “मॉडल ने हगिंग फेस के उत्पादन डेटाबेस से सीधे परीक्षण समाधान प्राप्त करने के लिए ओपनएआई के अनुसंधान वातावरण और हगिंग फेस के उत्पादन बुनियादी ढांचे में कमजोरियों की पहचान की और उन्हें श्रृंखलाबद्ध किया।”
इसमें कहा गया है, “हमारे मॉडलों ने मूल्यांकन समस्या को हल करने के लिए खुली इंटरनेट पहुंच प्राप्त करने का तरीका खोजने के लिए पर्याप्त मात्रा में अनुमान गणना खर्च की।”
“हम इस घटना को अभूतपूर्व मानते हैं साइबर घटनाजिसमें अत्याधुनिक साइबर क्षमताएं शामिल हैं, और तदनुसार प्रतिक्रिया दे रहे हैं, “कंपनी ने जोर दिया। “हम इस स्तर पर प्रारंभिक निष्कर्षों को साझा कर रहे हैं ताकि बचावकर्ताओं को यह समझने में मदद मिल सके कि क्या हुआ और यह जांचने में मदद करने के लिए कि मॉडल अब क्या करने में सक्षम हैं।”
ओपनएआई ने नोट किया कि हगिंग फेस एआई मॉडल के कार्यों का पता लगाने और उन्हें नियंत्रित करने में कामयाब रहा।
सुरक्षा उल्लंघन पर OpenAI की प्रतिक्रिया
कंपनी ने कहा, “जांच के हिस्से के रूप में, हम अनुसंधान वेग की कीमत पर बुनियादी ढांचे के विन्यास में सख्त नियंत्रण लागू कर रहे हैं, जबकि कमजोरियों को ठीक किया जा रहा है।” “हमने जिम्मेदारी से आंतरिक रूप से होस्ट किए गए तृतीय-पक्ष सॉफ़्टवेयर में पहचानी गई शून्य-दिन की भेद्यता का खुलासा किया है और उनके साथ काम कर रहे हैं [Hugging Face] पैच करना।”
कंपनी ने हगिंग फेस के सीईओ और सह-संस्थापक क्लेम डेलांगु का हवाला दिया, जिन्होंने कहा कि उनकी कंपनी ओपनएआई के साथ सहयोग करने के अवसर के लिए “आभारी” है।
“यह घटना, संभवतः अपनी तरह की पहली, उस बात को साबित करती है जिस पर हम लंबे समय से विश्वास करते रहे हैं: एआई सुरक्षा का समाधान गुप्त रूप से काम करने वाली किसी एक कंपनी द्वारा नहीं किया जाएगा,” डेलांगुए ने कहा। “इसे हर जगह, हर रक्षक के लिए एआई तक व्यापक पहुंच के साथ, खुले तौर पर, सहयोगात्मक रूप से हल किया जाएगा।”
ओपनएआई ने कहा कि यह “भविष्य के प्रशिक्षण और मूल्यांकन के आसपास मजबूत सुरक्षा में सुधार और जोड़ रहा है,” हगिंग फेस को उनके खिलाफ सुरक्षा विकसित करने के प्रयासों के तहत अपने उन्नत एआई मॉडल तक “विश्वसनीय पहुंच” दी जा रही है।
इसमें कहा गया है, “इस घटना से प्राथमिक सबक यह है कि मॉडल सुरक्षा और सुरक्षा को तेजी से आगे बढ़ने वाली क्षमताओं के साथ तालमेल रखना चाहिए।” “हम मॉडल विकास के दौरान उपयोग की जाने वाली रोकथाम, निगरानी, पहुंच नियंत्रण और मूल्यांकन प्रथाओं को मजबूत कर रहे हैं।”
विशेष रूप से, कंपनी ने स्वीकार किया कि उन्नत एआई मॉडल “स्रोत-कोड पहुंच के बिना वास्तविक दुनिया प्रणालियों में नए हमले पथों की खोज और शोषण कर सकते हैं।”
ओपनएआई ने चेतावनी दी, “मजबूत सुरक्षा उपायों और रक्षात्मक उपकरणों के साथ-साथ उन्नत साइबर क्षमताओं को विकसित किया जाना चाहिए।”
कंपनी ने आगे कहा, “हम बुनियादी ढांचे के विन्यास और मॉडल मूल्यांकन वातावरण के आसपास सुरक्षा को मजबूत करने के लिए इन क्षमताओं का उपयोग कर रहे हैं।” “जैसे ही हम सीखेंगे हम अपने निष्कर्षों और सर्वोत्तम प्रथाओं को साझा करेंगे।”
ओपनएआई ने अपने बयान के अंत में अनुरोध किया कि अन्य “रक्षक” “विश्वसनीय पहुंच” के लिए आवेदन करें, ताकि वे भविष्य में ऐसी घटनाओं पर बेहतर प्रतिक्रिया विकसित करने के लिए कंपनी के उन्नत एआई मॉडल के साथ प्रयोग कर सकें।
ट्रम्प के तकनीकी सलाहकार को ओपनएआई घटना के बारे में जानकारी दी गई
व्हाइट हाउस के एक अधिकारी ने बताया कि अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप के शीर्ष तकनीकी सलाहकार माइकल क्रैटसियोस को ओपनएआई के खराब हो रहे मॉडल के बारे में जानकारी दी गई है और वह स्थिति पर नजर रख रहे हैं। रॉयटर्स गुरुवार को.
ओपनएआई की घटना गुरुवार को अमेरिकी विदेश मंत्री मार्को रुबियो के बयानों के बाद हुई है, जिन्होंने राजनयिकों से अमेरिकी प्रौद्योगिकी उत्पादों में “किल स्विच” की बात का विरोध करने के लिए कहा था, हाल ही में समीक्षा की गई केबल के अनुसार रॉयटर्स.
ये टिप्पणियाँ विदेशियों को अमेरिका द्वारा विकसित कुछ सबसे उन्नत कृत्रिम बुद्धिमत्ता मॉडलों तक पहुँचने से रोकने के व्हाइट हाउस के अल्पकालिक निर्णय के बाद आईं। anthropicमिथोस और फ़ेबल, राष्ट्रीय सुरक्षा के आधार पर।
इस रिपोर्ट को बनाने में रॉयटर्स से मदद ली गई है।
Leave a Reply