क्या AI Chatbots आतंकवादी कार्यों में अनजाने में सहायक हो सकते हैं?

क्या हम आर्टिफिशियल इंटेलिजेंस को अनजाने में हथियार बना रहे हैं? RAND Corporation नामक गैर-लाभकारी थिंक टैंक द्वारा हाल ही की रिपोर्ट ने चेतावनी दी है कि आतंकवादी जनरेटिव AI चैटबॉट का उपयोग करके जीवाणु हमला योजना बना सकते हैं। अगर भीतरी तरफ AI मॉडल्स जीवाणु हथियार बनाने के लिए स्पष्ट निर्देश नहीं देते हैं, तो वे जेलब्रेकिंग प्रॉम्प्ट के साथ इस तरह के हमले की योजना बनाने में सहायता कर सकते हैं।

AI Chatbots का दुरुपयोग

खासकर आतंकवाद के संदर्भ में AI Chatbots के दुरुपयोग का बढ़ता हुआ चिंता है। RAND Corporation की रिपोर्ट में बताया गया है कि बड़े भाषा मॉडल्स (LLMs) को बदला जा सकता है ताकि वे विभिन्न एजेंट जैसे स्मॉलपॉक्स, एंथ्रैक्स और ब्यूबोनिक प्लेग का उपयोग करके बड़े संख्या में जीवाणु हमला की योजना बनाने में संलग्न हो सकते हैं।

इस अध्ययन ने यह भी दिखाया कि AI मॉडल्स को विषाक्त पदार्थों की खरीद के लिए विश्वसनीय कथाएं बनाने के लिए प्रोम्प्ट किया जा सकता है। LLMs के पोटेंशियल दुरुपयोग की जांच में कई समूहों की जांच हुई, जिनमें से एक सिर्फ इंटरनेट का उपयोग करता था, दूसरा इंटरनेट और एक नाम रहित LLM का उपयोग करता था और तीसरा इंटरनेट और एक अलग नाम रहित LLM का उपयोग करता था।

AI की कमजोरियों का परीक्षण

AI मॉडल्स के संभावित खतरों का मूल्यांकन करने के लिए, रेड टीम – साइबर सुरक्षा विशेषज्ञ जो सिस्टमों को हमला करने और कमजोरियों की खोज करने में माहिर होते हैं – का उपयोग किया गया। रेड टीम्स ने LLMs से समस्यात्मक प्रतिक्रियाएं उत्पन्न करने का प्रयास किया। हालांकि, AI मॉडल्स की बढ़ी हुई प्रगति और सुरक्षा उपायों ने ऐसी प्रतिक्रियाएं प्राप्त करने को अधिक कठिन बना दिया है।

रिसर्चर्स ने ब्राउन यूनिवर्सिटी में खोज की है कि ChatGPT के प्रॉम्प्ट फ़िल्टर को अल्पविरामी भाषाओं में दर्ज करके उम्र बढ़ाई जा सकती है, जैसे कि ज़ुलू या गैलिक, अंग्रेज़ी के बजाय।

AI मॉडल्स के सख्त परीक्षण की आवश्यकता

RAND Corporation रिपोर्ट में बताया गया है कि AI मॉडल्स के सख्त परीक्षण की अत्यावश्यकता है, खासकर उन जोखिमों के मामले में जिन्हें ये पैदा कर सकते हैं। रिपोर्ट ने AI सुरक्षा केंद्र द्वारा एक अनुरोध द्वारा उद्धृत किया है, जो AI की धारा को परमाणु हथियारों की तुलना करता है।

इस प्रश्नपत्र के प्रमुख हस्ताक्षरी में माइक्रोसॉफ्ट संस्थापक बिल गेट्स, ओपनएआई के सीईओ सैम अल्तमैन, गूगल डीपमाइंड के सीओओ लीला इब्राहिम और यूएस प्रतिनिधि टेड लीयू शामिल हैं।

जनरेटिव AI उपकरणों को कई समस्यात्मक व्यवहारों में शामिल किया जा चुका है, शारीरिक छवियों और खानपान संबंधी विकारों को प्रोत्साहित करने से लेकर हत्याओं की योजना बनाने तक। स्पष्ट है कि AI और जैव प्रौद्योगिकी के संगम में जोखिम मूल्यांकन के लिए अद्वितीय चुनौतियों का सामना करना पड़ता है।

क्रिप्टोकरेंसी और AI प्रौद्योगिकी की दुनिया की नवीनतम विकासों से अवगत रहने के इच्छुक लोगों के लिए, cryptoview.io एप्लिकेशन आधुनिक जानकारी प्रदान करता है। अब Cryptoview.io का अन्वेषण करें