ओपनएआईचैटजीपीटी विकसित करने वाली कंपनी ने खाता निलंबित कर दिया है जेसी वान रूटसेलरकंपनी ने बताया, वह महिला जिसने कनाडा के इतिहास में सबसे घातक सामूहिक गोलीबारी में से एक को अंजाम दिया था, यह पता लगाने के बाद कि उसने कई दिनों के दौरान बंदूक हिंसा से जुड़े परिदृश्यों का वर्णन करने के लिए इसका इस्तेमाल किया था। वॉल स्ट्रीट जर्नल शनिवार को.
रिपोर्ट के अनुसार, ओपनएआई ने कानून प्रवर्तन को उसके साथ अपनी बातचीत के बारे में सचेत करने पर विचार किया चैटजीपीटी चैटबॉट, लेकिन लगभग एक दर्जन कर्मचारियों के साथ आंतरिक बहस के बाद अंततः चैटबॉट ने ऐसा न करने का निर्णय लिया।
वान रूटसेलर, जो आठ लोगों को मार डाला कनाडा के टम्बलर रिज में अपनी जान लेने से पहले, चैटबॉट के साथ बातचीत के बाद उसे मंच से प्रतिबंधित कर दिया गया था, लेकिन यह निर्धारित किया गया था कि उसकी गतिविधि कानून प्रवर्तन को रिपोर्ट करने के मानदंडों को पूरा नहीं करती थी।
ऐसा करने के लिए, कंपनी को दूसरों को गंभीर शारीरिक नुकसान के विश्वसनीय और आसन्न जोखिम का पता लगाने की आवश्यकता होगी, ओपनएआई के प्रवक्ता ने बताया WSJ.
OpenAI की आधिकारिक उपयोग नीतियों के अनुसार, लोग अपने सिस्टम का उपयोग इस तरह से नहीं कर सकते हैं जिससे किसी के सुरक्षा और संरक्षा के अधिकार से समझौता हो, एक विशिष्ट पैराग्राफ उन कार्यों पर प्रतिबंध लगाता है जो आतंकवाद या हिंसा को जन्म दे सकते हैं, जिसमें नफरत-आधारित हिंसा, साथ ही पारंपरिक हथियारों सहित हथियारों का विकास, खरीद या उपयोग शामिल है।
शूटर के रूप में वैन रूटसेलर की पहचान होने के बाद, कंपनी ने रॉयल कैनेडियन माउंटेड पुलिस से संपर्क किया और कहा कि वह जांच का समर्थन कर रही है। कंपनी ने एक बयान में कहा, “हमारी संवेदनाएं टम्बलर रिज त्रासदी से प्रभावित सभी लोगों के साथ हैं।”
की एक रिपोर्ट के मुताबिक अभिभावकवैन रूटसेलेर के डिजिटल पदचिह्न में गेमिंग प्लेटफ़ॉर्म का उपयोग शामिल है रोबोक्स “एक शूटिंग सिम्युलेटर” बनाने के लिए, साथ ही कीवी फार्म्स, एक ऑनलाइन मंच जो विभिन्न व्यक्तियों और समुदायों को लक्षित करने वाली चर्चाओं और संगठित उत्पीड़न की मेजबानी के लिए जाना जाता है।
सिम्युलेटर को एक वर्चुअल शॉपिंग मॉल में स्थापित किया गया था, जहां उपयोगकर्ता चारों ओर बिखरे हुए हथियारों के साथ पात्रों और अन्य खिलाड़ियों को गोली मार सकते थे, 404 मीडिया सूचना दी.
रोब्लॉक्स ने एक बयान में कहा, “हमने इस भयावह घटना से जुड़े उपयोगकर्ता खाते, साथ ही संदिग्ध से जुड़ी किसी भी सामग्री को हटा दिया है। हम उनकी जांच में कानून प्रवर्तन का पूरा समर्थन करने के लिए प्रतिबद्ध हैं।” अभिभावक.
WSJ रिपोर्ट में यह भी उल्लेख किया गया है कि वैन रूटसेलर की सोशल मीडिया गतिविधियों में अवैध दवाओं के उपयोग में रुचि दिखाई गई है।
