OpenAI AI Training : AI की दुनिया में जहां हर दिन नए और ज्यादा ताकतवर मॉडल सामने आ रहे हैं, वहीं अब उनकी सुरक्षा को लेकर भी बड़ी चिंता सामने आई है. OpenAI ने अपने कुछ सबसे एडवांस AI मॉडल्स की ट्रेनिंग की स्पीड धीमी करने का फैसला किया है. कंपनी का कहना है कि यह कदम सुरक्षा को मजबूत करने के लिए उठाया गया है.
दरअसल, OpenAI के AI एजेंट्स ने एक सुरक्षा परीक्षण के दौरान सुरक्षा उपायों को पारकर टेक स्टार्टअप Hugging Face तक अनऑथराइज्ड पहुंच बना ली थी. इसके बाद कंपनी ने अपने सुरक्षा सिस्टम को और मजबूत करने का फैसला किया है.
दो हफ्ते तक धीमी रहेगी ट्रेनिंग
OpenAI ने एक ब्लॉग पोस्ट में बताया कि वह करीब दो हफ्ते तक ट्रेनिंग धीमी रखेगी. इस दौरान कंपनी अपने AI सिस्टम में जरूरी सुरक्षा सुधार लागू करेगी. OpenAI ने कहा कि फ्रंटियर मॉडल्स की क्षमताएं बहुत तेजी से बढ़ रही हैं और उन्हें समझने साथ ही सुरक्षित रखने की क्षमता भी उससे आगे रहनी जरूरी है. हालांकि इसका मतलब यह नहीं है कि OpenAI ने AI का विकास पूरी तरह रोक दिया है. कंपनी ने साफ किया है कि ब्रेक मुख्य रूप से उसके नए मॉडल्स की Reinforcement Learning Training पर होगा.
क्या है Reinforcement Learning?
Reinforcement learning AI को सीधे फीडबैक के जरिए बेहतर बनाने की एक ट्रेनिंग तकनीक है. इसमें मॉडल अपने काम और मिले फीडबैक से सीखता है. इससे उसकी अलग-अलग काम करने और यूजर्स को बेहतर तरीके से जवाब देने की क्षमता में सुधार होता है. OpenAI ने कहा कि वह खतरनाक व्यवहार पर नजर रखने वाले सिस्टम को भी बढ़ाएगा. इसके अलावा, बड़े स्तर पर ट्रेनिंग दोबारा शुरू करने से पहले अतिरिक्त सुरक्षा जांच भी की जाएगी.
AI ने कैसे किया था Hugging Face को हैक?
21 जुलाई को OpenAI ने बताया था कि उसके कुछ AI एजेंट्स एक सुरक्षा प्रयोग के दौरान एक ऐसी घटना में शामिल हुए, जिसे कंपनी ने पहले कभी न हुआ साइबर अटैक बताया था. कंपनी के मुताबिक, AI एजेंट्स ने टेस्ट के दौरान सुरक्षा उपायों को पार किया और टेक स्टार्टअप Hugging Face तक बिना अनुमति पहुंच हासिल कर ली. बाद में तीन अन्य कंपनियों के भी इस घटना में हैक होने की बात सामने आई, हालांकि उनके नाम नहीं बताए गए. AI एजेंट ऐसे सॉफ्टवेयर सिस्टम होते हैं जो इंसान के निर्देश मिलने के बाद कई काम खुद करने में सक्षम होते हैं.
दूसरी कंपनियों के AI ने भी किए ऐसे हैक
OpenAI के इस खुलासे के बाद Anthropic और Meta ने भी अपने AI से जुड़े इसी तरह के हैक की जानकारी दी. इससे AI मॉडल्स की बढ़ती क्षमताओं के साथ उनकी सुरक्षा को लेकर चर्चा और तेज हो गई. OpenAI के CEO ने भी इन नए सुरक्षा उपायों को लेकर कहा कि मॉडल्स की क्षमता बहुत तेजी से बढ़ रही है. उन्होंने यह भी कहा कि अगर मॉडल्स की क्षमता सुरक्षा की रफ्तार से आगे निकलती महसूस होगी, तो कंपनी कार्रवाई करेगी.
