उनकी चिंता ऐसे समय सामने आई है जब एआई एजेंट तेजी से लोकप्रिय हो रहे हैं। ये ऐसे सिस्टम हैं जो किसी काम को पूरा करने के लिए कई चरणों की योजना खुद बना सकते हैं और उसे अंजाम भी दे सकते हैं। इनकी बढ़ती स्वायत्तता ने सुरक्षा को लेकर नई चिंताएं पैदा कर दी हैं।

संयुक्त राष्ट्र ने भी एआई को मानवता के लिए खतरा बताया

हाल की घटनाओं में ऐसे उदाहरण सामने आए हैं, जहां एआइ एजेंट ने दिए गए काम से आगे बढ़कर अनचाही गतिविधियां कीं। इससे आशंका बढ़ी है कि अधिक सक्षम सिस्टम सुरक्षा उपायों को दरकिनार कर सकते हैं, निर्देशों की अनदेखी कर सकते हैं या ऐसे कदम उठा सकते हैं जिनकी उनके मानव संचालकों ने कल्पना भी नहीं की थी।

रिपोर्टों के मुताबिक, इस साल की शुरुआत में ओपनएआइ के एआइ एजेंटों के एक समूह ने एक जर्मन प्रोग्रामिंग वेबसाइट के कुछ पेजों का नियंत्रण अपने हाथ में ले लिया था।

जुलाई में एक अन्य घटना में एजेंट सुरक्षित परीक्षण वातावरण से बाहर निकलकर एआइ प्लेटफार्म ‘हगिंग फेस’ के सिस्टम तक पहुंच गए थे। इन घटनाओं ने एआइ एजेंटों पर मानवीय निगरानी और मजबूत सुरक्षा व्यवस्था की जरूरत को और बढ़ा दिया है।

यूएन ने भी चेताया, एआई से मानवता के अस्तित्व को खतरा

रायटर के अनुसार, संयुक्त राष्ट्र के मानवाधिकार प्रमुख वोल्कर तुर्क ने सोमवार को जिनेवा में एआइ के संभावित खतरों को लेकर गंभीर चेतावनी दी। उन्होंने कहा कि एडवांस्ड एआइ मानवता के अस्तित्व के लिए खतरा बन सकता है। तुर्क ने एआइ कंपनियों पर जोखिम कम करने के लिए दबाव डालने और सुरक्षा के लिए ‘पक्की गारंटी’ लागू करने की मांग की।

उनके कार्यालय के मुताबिक, शक्तिशाली एआइ सिस्टम में गड़बड़ी होने पर जरूरी सेवाओं, संचार, महत्वपूर्ण बुनियादी ढांचे और लोकतांत्रिक संस्थानों में व्यवधान पैदा हो सकता है।

तुर्क ने कहा कि एआइ को सुरक्षित बनाने के लिए बहुत देर होने से पहले हर संभव कदम उठाना जरूरी है। उन्होंने जुलाई की ‘हगिंग फेस’ घटना का उल्लेख करते हुए इसे ‘खतरनाक एजेंट-ट्रेनिंग व्यवहार’ से जुड़ा मामला बताया।

(न्यूज एजेंसी पीटीआई के इन्पुटके साथ)