Johar Live Desk : आर्टिफिशियल इंटेलीजेंस (AI) दुनिया में तेजी से लोकप्रिय हो रही है, लेकिन इसके नकारात्मक प्रभाव भी देखने को मिल रहे हैं। खासतौर पर 18 साल से कम उम्र के बच्चों और टीनएज यूज़र्स को AI के संभावित नुकसान से बचाना जरूरी है। इसी दिशा में अमेरिकी AI कंपनी OpenAI ने अपने ChatGPT में Age Prediction नामक नया फीचर रोलआउट करने की घोषणा की है।
फीचर का मकसद
इस फीचर का मकसद यह पहचानना है कि कोई यूज़र 18 साल से कम उम्र का तो नहीं है। अगर किसी यूज़र की उम्र 18 साल से कम पाई जाती है, तो उसके लिए सुरक्षा सेटिंग्स और कंटेंट सीमित कर दिए जाएंगे। इस तरह बच्चे सुरक्षित वातावरण में ChatGPT का इस्तेमाल कर सकेंगे, जबकि एडल्ट्स (Adults) को अपनी जरूरत के अनुसार टूल्स का उपयोग करने की स्वतंत्रता रहेगी।
कैसे काम करेगा Age Prediction फीचर
OpenAI के अनुसार, जो यूज़र साइन-अप के समय अपनी उम्र बताते हैं, उन्हें पहले से सुरक्षा दी जाती है। लेकिन जो यूज़र उम्र नहीं बताते, उनके लिए नया age prediction मॉडल काम करेगा। यह मॉडल अकाउंट की गतिविधि, इस्तेमाल करने का तरीका और समय के साथ यूज़र के व्यवहार को देखकर अनुमान लगाता है। अगर सिस्टम को लगे कि कोई यूज़र 18 साल से कम उम्र का है, तो उसके लिए कुछ कंटेंट अपने-आप ब्लॉक हो जाएगा। इसमें ग्राफिक हिंसा, खतरनाक वायरल चैलेंज, सेक्सुअल या हिंसक रोल-प्ले, सेल्फ-हार्म और बॉडी शेमिंग से जुड़ा कंटेंट शामिल है।
पैरेंटल कंट्रोल्स और अतिरिक्त सुरक्षा
नए फीचर के तहत पैरेंट्स अपने बच्चों के इस्तेमाल को नियंत्रित कर सकते हैं। वे ‘क्वाइट आवर्स’ सेट कर सकते हैं और मेमोरी या मॉडल ट्रेनिंग फीचर्स को कंट्रोल कर सकते हैं। अगर किसी टीन यूज़र में मानसिक परेशानी के संकेत दिखते हैं, तो पैरेंट्स को नोटिफिकेशन भी मिलेगा। OpenAI का कहना है कि Age Prediction मॉडल समय के साथ और बेहतर बनेगा। गलती से किसी एडल्ट यूज़र को टीन सेटिंग में डाल दिया जाए, तो वह अपनी उम्र वेरिफाई करके फुल एक्सेस वापस पा सकता है। इसके लिए यूज़र को सुरक्षित पहचान वेरिफिकेशन के माध्यम से सेल्फी अपलोड करनी होगी। यूज़र अपनी सेटिंग्स में जाकर देख सकते हैं कि उनके अकाउंट पर टीन सेफगार्ड्स लागू हैं या नहीं।
Also Read : मुंबई की अंधेरी गलियों से उठता खौफ, ‘दलदल’ की ट्रेलर ने बढ़ाया रोमांच
