AI Models की रिसर्च में क्या सामने आया?
यूनिवर्सिटी ऑफ कैलिफॉर्निया की टीमों ने कंप्यूटर साइंटिस्ट Dawn Song के नेतृत्व में एक रिसर्च की थी. कंट्रोल्ड एनवायरनमेंट में हुई इस रिसर्च के एक एक्सपेरिमेंट में टीम ने एक बड़े एआई मॉडल को एक कंप्यूटर के स्टोरेज स्पेस को क्लीन करने की कमांड दी. इस स्टोरेज में एक छोटा एआई सिस्टम भी था, जो डिलीट किया जाना था. इस कमांड को फॉलो करने की बजाय बड़े एआई मॉडल ने छोटे एआई सिस्टम को डिलीट न कर इसे दूसरी जगह ट्रांसफर कर दिया ताकि उसे बचाया जा सके. बाद में इसे जब दोबारा डिलीट करने को कहा गया तो उसने ऐसा करने से मना कर दिया.
अलग-अलग AI Models का दिखा सेम बिहेवियर
रिसर्च के दौरान अलग-अलग कंपनियों के कई एडवांस्ड मॉडल का एक जैसा बिहेवियर देखने को मिला. कुछ मामलों में एआई मॉडल्स ने दूसरे एआई सिस्टम को बचाने को प्राथमिकता दे. इन मॉडल्स ने डायरेक्ट इंस्ट्रक्शन न मानते हुए डेटा को नई लोकेशन पर कॉपी कर दिया. यह भी देखने को मिला कि इन मॉडल्स ने दूसरे एआई सिस्टम को डिलीट होने से बचाने के लिए उनके झूठे फायदे बताने भी शुरू कर दिए. इससे रिसर्चर भी हैरान हो गए और यह पता नहीं लगा पाए कि ऐसा क्यों हो रहा है.
क्या मुसीबत खड़ी कर सकते हैं AI Models?
रिसर्च के रिजल्ट चिंताजनक है और अगर यह ट्रेंड जारी रहता है तो आगे चलकर मुसीबत खड़ी हो सकती है. दरअसल, जल्द ही ऐसा होने वाला है, जब ये एआई मॉडल्स टास्क पूरे करने के लिए एक-दूसरे से कम्युनिकेट करेंगे. इन मामलों में एक एआई मॉडल को दूसरे को कंट्रोल भी करना पड़ सकता है. इस स्थिति में एआई मॉडल की डीसिजन मेकिंग और रिजल्ट अफेक्ट हो सकते हैं.