डिजिटल डेस्क, वाशिंगटन। ओपन एआई ने अपने आगामी एआई मॉडल एस्ट्रा पर काम रोक दिया है, क्योंकि आंतरिक मूल्यांकन में एजेंटिक कोडिंग (एआई एजेंट्स का स्वत: काम करने लगना) और साइबर सिक्योरिटी में संभावित खतरनाक विकास दिख रहा है। कंपनी इस बात से इनकार नहीं कर है कि सिस्टम में “क्रिटिकल साइबर कैपेबिलिटीज” हो सकती हैं।
ओपन एआई के प्रिपेयर्डनेस फ्रेमवर्क के तहत, ऐसी मॉडल में कैपेबिलिटीज के संभावित विकास से सख्त सुरक्षा उपाय करने होते हैं, खासकर तब जबकि माडल से गंभीर नुकसान होने का खतरा पैदा हो सकता है।
ओपन एआई ने कहा कि वह अपने सिक्यूरिटी कंट्रोल्स को मजबूत करते हुए एस्ट्रा से जुड़ी गतिविधियों को “रोक” रहा है। कंपनी की साइबर सिक्योरिटी गाइडलाइंस के तहत उन मॉडल्स के लिए अतिरिक्त सुरक्षा आवश्यक होती है जो बड़े पैमाने पर साइबर हमलों व खामी से फायदा उठा सकने का नया जोखिम पैदा करते हैं।
दरअसल, एस्ट्रा को शुरू करने से पहले ओपन एआई अतिरिक्त सुरक्षा उपाय लागू करने की योजना बना रही है। इनमें नए सुरक्षा उपाय लागू होने तक मॉडल पर काम को रोकना, सीमित नेटवर्क और टूल एक्सेस के साथ परीक्षण के अलग-अलग माहौल का इस्तेमाल करना, सैंडबाक्स्ड एक्जीक्यूशन (सुरक्षा एवं परीक्षण का तरीका) जोड़ना और मानिटरिंग क्षमताओं को बढ़ाना शामिल है।
ओपन एआई का यह भी कहना है कि वह एस्ट्रा को टेस्ट करने के लिए संबंधित सरकारी एजेंसियों और एआई सेफ्टी संगठनों के साथ काम करेगा।
(समाचार एजेंसी एएनआई के इनपुट के साथ)