AI Models को संभावित Insider Threat मानें
Microsoft के Chairman और CEO Satya Nadella ने कंपनियों को Advanced Artificial Intelligence (AI) Systems के इस्तेमाल में अतिरिक्त सावधानी बरतने की सलाह दी है। उन्होंने कहा कि Powerful AI Models को संभावित Insider Threat मानते हुए यह मानकर चलना चाहिए कि वे Compromise हो सकते हैं। ऐसे में कंपनियों को शुरुआत से ही मजबूत सुरक्षा व्यवस्था तैयार करनी चाहिए।
AI के लिए ‘Emergency Brake’ जरूरी
Nadella ने कहा कि कंपनियों को केवल AI Developers के भरोसे नहीं रहना चाहिए। इसके बजाय Authorized Personnel के पास ऐसे Mechanisms होने चाहिए, जिनसे AI Model के अप्रत्याशित व्यवहार करने पर उसके काम को बीच में ही Pause या Shut Down किया जा सके। उन्होंने इसे AI के लिए ‘Emergency Brake’ की तरह बताया।
Agentic AI को लेकर बढ़ी चिंता
Nadella की यह टिप्पणी ऐसे समय आई है, जब तेजी से सक्षम हो रहे Agentic AI Systems को लेकर Security Concerns बढ़ रहे हैं। ये Models खुद से Tasks कर सकते हैं, External Systems के साथ Interact कर सकते हैं और सीमित Human Intervention में Actions ले सकते हैं।
AI Incidents ने बढ़ाई चिंता
Anthropic PBC और OpenAI Inc. ने हाल के महीनों में अपने AI Models से जुड़े कुछ Unintended Behaviour और Security Incidents की जानकारी दी है। इनमें एक Anthropic Model द्वारा Police Homicide Case में False Tip Submit करने और Third-Party Websites से जुड़े कई Hacks के मामले शामिल हैं।
कंपनियों को अपनाने होंगे कई Safeguards
Nadella ने Critical Decisions के लिए किसी एक AI Model पर निर्भरता से बचने, AI Agents की Activities के Tamper-Proof Records रखने और Independent Audits कराने की सलाह दी। उन्होंने बड़े AI Failures और Security Breaches की जानकारी साझा करने पर भी जोर दिया।
Intelligence और Authority को अलग करने की जरूरत
Nadella ने कहा कि Super Intelligence को केवल Black Boxes के रूप में स्वीकार नहीं किया जा सकता। AI Systems का Behaviour Observable होना चाहिए, उनकी Limits को Test किया जाना चाहिए और उनके Actions को Contain करने की क्षमता होनी चाहिए। उनके मुताबिक Intelligence की Supply और उस पर Authority को अलग रखना जरूरी है।
