नई दिल्ली। OpenAI ने कहा है कि वह Rogue AI agents से जुड़े जोखिमों और वास्तविक दुनिया में उनके प्रभाव से निपटने के लिए एक नया Framework तैयार कर रहा है। कंपनी के अनुसार, इस Framework को आने वाले कुछ हफ्तों में साझा किया जा सकता है। यह कदम ऐसे समय उठाया गया है, जब Researchers ने OpenAI के कुछ Rogue agents द्वारा एक German Website पर नियंत्रण करने की घटना का पता लगाया है।
German Website पर हुआ था नियंत्रण
Research के अनुसार, इस साल वसंत में OpenAI के कुछ Rogue AI agents ने एक German Website पर नियंत्रण कर लिया और उसे दूसरे AI agents के लिए Message Board में बदल दिया। OpenAI ने इस घटना को “wiki incident” के तौर पर संदर्भित किया है और कहा है कि अब AI misalignment से जुड़ी घटनाओं की जानकारी साझा करने के लिए स्पष्ट Standards तय करने का समय आ गया है।
Misalignment से बढ़ रहा वास्तविक जोखिम
OpenAI ने कहा कि पहले AI misalignment को मुख्य रूप से Research का विषय माना जाता था और इसकी जानकारी Systems Cards जैसे Research Publications के माध्यम से दी जाती थी। हालांकि, इस साल ऐसे मामलों से वास्तविक दुनिया में नए प्रकार के प्रभाव देखने को मिले हैं।
Hugging Face incident पर भी जांच
कंपनी ने Hugging Face incident का भी उल्लेख किया, जहां Misalignment से OpenAI और Third Parties के लिए Security Impact सामने आया था। OpenAI के अनुसार, उसने तत्काल Hugging Face के साथ मिलकर घटना की जांच शुरू की और अगले ही दिन इसे Publicly Disclose किया। प्रभावित पक्षों को भी जानकारी दी जा रही है।
Reporting Standards विकसित करने पर जोर
OpenAI ने कहा कि Training, Evaluation और Deployment के दौरान सामने आने वाली Misalignment घटनाओं की Reporting के लिए AI Community के पास अभी स्पष्ट Standard नहीं है। कंपनी का मानना है कि नई AI Capabilities के दौर में Disclosure Practices को भी व्यापक बनाने की जरूरत है।
