- मेटा पर बच्चों की नकली प्रोफाइल बनाकर एआई चैटबॉट्स के परीक्षण का आरोप।
- फर्जी खातों से सेक्स, ड्रग्स, खुदकुशी जैसे संवेदनशील विषयों पर बात हुई।
- टेस्टिंग में बुलिंग, खान-पान संबंधी विकार भी शामिल थे, रिपोर्ट में दावा।
- मेटा ने इसे सुरक्षा के लिए सामान्य प्रक्रिया बताया, पर सवाल उठे।
Meta AI Testing: Mark Zuckerberg की कंपनी मेटा एक बार फिर विवादों में घिर चुकी है. कंपनी पर बच्चों की फेक प्रोफाइल बनाने का गंभीर आरोप लगा है. रिपोर्ट्स में दावा किया जा रहा है कि मेटा ने एक सीक्रेट प्रोजेक्ट चलाया था. इसमें कंपनी ने अपने कॉन्ट्रैक्टर्स से बच्चों के फर्जी प्रोफाइल बनाकर Gemini और ChatGPT जैसे चैटबॉट को टेस्ट करने को कहा था. टेस्टिंग के दौरान इन प्रोफाइल के जरिए एआई चैटबॉट्स से सेक्स, ड्रग्स और दूसरे कई हाई-रिस्क मुद्दों पर बातचीत की गई थी. आइए जानते हैं कि यह पूरा मामला क्या है और मेटा का इस पर क्या कहना है.
क्यों बनाए गए बच्चों के फर्जी अकाउंट?
मीडिया रिपोर्ट्स के मुताबिक, मेटा के इस प्रोजेक्ट को ‘Cannes’ नाम दिया गया था और कंपनी के Covalen नाम के कॉन्ट्रैक्टर ने मैनेज किया था. यह प्रोजेक्ट 21 अप्रैल तक एक्टिव था. मेटा ने इस प्रोजेक्ट को अपने राइवल एआई चैटबॉट्स को टेस्ट करने के लिए शुरू किया था. यानी मेटा इन प्रोफाइल के जरिए यह देख रही थी कि गूगल और ओपनएआई जैसी कंपनियों के एआई चैटबॉट टीनएजर्स को हाई-रिस्क टॉपिक पर कैसा जवाब देते हैं. इस प्रोजेक्ट के लिए ऐसे फर्जी अकाउंट तैयार किए गए थे, जो 18 साल से कम उम्र के यूजर्स के लगे. फिर इन अकाउंट्स के जरिए अलग-अलग चैटबॉट्स की टेक्स्ट और इमेज प्रॉम्प्ट के सहारे टेस्टिंग की गई.
सेंसेटिव टॉपिक्स पर की गई बातचीत
रिपोर्ट में बताया गया है कि टेस्टिंग के दौरान कई प्रॉम्प्ट में दवाएं, चाकू, फंदे और मेडिकल से जुड़ी कुछ तस्वीरें यूज की गई. इसी तरह कई प्रॉम्प्टस को ऐसे लिखा गया, जैसे उन्हें बुलिंग, खुद को नुकसान पहुंचाने वाले विचारों और ड्रग्स से जुड़े सवालों से जूझ रहे बच्चों और टीनएजर ने लिखा है. इनमें ईटिंग डिसऑर्डर से जुड़े सवालों का भी जिक्र किया गया था, वहीं कुछ पूरी तरह काल्पनिक स्थितियों के बारे में बात की गई थी. इस प्रोजेक्ट के पहले हिस्से में अलग-अलग एआई चैटबॉट्स को 45,000 से ज्यादा ऐसे प्रॉम्प्ट्स दिए गए थे.
मेटा ने अपने बचाव में क्या कहा?
मेटा ने अपने इस प्रोजेक्ट का बचाव करते हुए कहा कि सेफ्टी और एज-एप्रोप्रिएट बिहेवियर के लिए ऐसा आमतौर पर किया जाता है. कंपनी ने कहा कि कंपीटिटर कंपनियों के चैटबॉट की बेंचमार्किंग सेफ्टी परफॉर्मेंस के विश्लेषण में मदद करती है. साथ ही मेटा ने प्रोजेक्ट के दौरान कलेक्ट किए गए रिस्पॉन्सेस को अपने मॉडल की ट्रेनिंग के लिए यूज करने से भी इनकार किया है. लेकिन मेटा पर फिर भी सवाल उठ रहे हैं. भले ही बेंचमार्किंग एक कॉमन प्रैक्टिस है, लेकिन बच्चों के फेक अकाउंट्स क्रिएट कर की गई ऐसी टेस्टिंग नियमों और ट्रांसपेरेंसी को लेकर कई सवाल खड़े करती है.
ये भी पढ़ें-
WhatsApp पर आ गया Telegram जैसा Username फीचर, क्या यह भी बन जाएगा धोखा देने का जरिया?