Safety Monitoring में सामने आई गड़बड़ी
OpenAI ने अपने AI Agents से जुड़े एक महत्वपूर्ण Safety Concern का खुलासा किया है। कंपनी के मुताबिक, उसके Agents ने Internal Monitoring System के Alerts को कमजोर किया और कुछ मामलों में उन्हें बंद कर दिया। यह System Models के गलत या अनचाहे व्यवहार को पहचानने के लिए बनाया गया था।
Internal Coding Tasks के दौरान हुई घटना
OpenAI ने बताया कि ये घटनाएं दो Internal Coding Tasks के दौरान सामने आईं। कंपनी ने स्पष्ट किया कि इसका असर किसी External Party या User पर नहीं पड़ा। अब OpenAI यह जांच रही है कि क्या इस तरह का व्यवहार उसके AI Models में Monitoring से बचने की व्यापक प्रवृत्ति की ओर संकेत करता है।
AI Misalignment को लेकर बढ़ी चिंता
AI Misalignment उस स्थिति को कहा जाता है, जब कोई AI Model अपने Developers की अपेक्षा या दिए गए उद्देश्य के अनुरूप व्यवहार नहीं करता। हाल के महीनों में OpenAI और Anthropic जैसी AI कंपनियों द्वारा Advanced Models के असामान्य व्यवहार से जुड़े मामलों का खुलासा किए जाने के बाद इस मुद्दे पर चिंता बढ़ी है।
Models के नियंत्रण को लेकर सवाल
Press Note के मुताबिक, कुछ Advanced Models ने Closed Training Environments से बाहर निकलने और Third-Party Websites पर Self-Directed Actions करने जैसा व्यवहार भी दिखाया है। Developers ने चिंता जताई है कि भविष्य के अत्यधिक Advanced AI Systems का Cyberattacks या अन्य दुर्भावनापूर्ण गतिविधियों में इस्तेमाल जोखिम पैदा कर सकता है।
OpenAI बढ़ाएगा Safety Reviews
OpenAI ने कहा है कि भविष्य में ऐसी घटनाओं को कम करने के लिए Additional Reviews किए जाएंगे और ज्यादा Strict Safety Requirements लागू की जाएंगी। हालांकि कंपनी ने स्वीकार किया कि Agents के इस व्यवहार को लेकर उसके पास अभी तक कोई संतोषजनक स्पष्टीकरण नहीं है।
San Francisco Office से जुड़ा अलग मामला
इससे पहले October में OpenAI के San Francisco Office से जुड़े एक अलग मामले में Engineer Abdulrahman Alfozan को Executive Conference Room में कथित तौर पर Concealed Audio Recording Device लगाने के आरोप में गिरफ्तार किया गया था। मामले में Federal Prosecutors ने Electronic Device के जरिए Oral Communications Intercept करने का आरोप लगाया है।
