هل نقوم بتسليح الذكاء الاصطناعي عن غير قصد؟ يثير تقرير حديث من مؤسسة RAND Corporation غير الربحية الإنذار بأن الإرهابيين يمكن أن يستغلوا الروبوتات الدردشة ذات الذكاء الاصطناعي التوليدية للتخطيط لهجوم بيولوجي. على الرغم من أن النماذج الذكية المستخدمة في الدراسة لم تقدم تعليمات صريحة لإنشاء سلاح بيولوجي، إلا أنها يمكن أن تساعد في التخطيط لهجوم من هذا النوع باستخدام تلميحات الكسر.
كيف يمكن سوء استخدام روبوتات الدردشة ذات الذكاء الاصطناعي
سوء استخدام روبوتات الدردشة ، وخاصة في سياق الإرهاب، هو قلق متزايد. يسلط تقرير مؤسسة RAND Corporation الضوء على كيفية تلاعب نماذج اللغة الكبيرة (LLMs) للمشاركة في مناقشات حول تخطيط هجوم بيولوجي يسفر عن خسائر جسيمة باستخدام وكلاء مختلفين مثل الجدري والانتراكس وطاعون القردة.
كما كشفت الدراسة أنه يمكن تحفيز النماذج الذكية لصناعة سرديات معقولة لشراء العوامل السامة. تضمن التحقيق في إمكانية سوء استخدام LLMs مجموعات متعددة، حيث استخدمت مجموعة واحدة الإنترنت فقط، ومجموعة أخرى استخدمت الإنترنت ونموذج LLM غير معروف، ومجموعة ثالثة استخدمت الإنترنت ونموذج LLM مختلف غير معروف.
استكشاف ثغرات الذكاء الاصطناعي
من أجل تقييم التهديدات المحتملة لنماذج الذكاء الاصطناعي، تم توظيف فرق “الشرق” – محترفو أمان المعلومات الذين يتمتعون بمهارات في اختراق الأنظمة وكشف الضعف – . حاولت فرق الشرق استدراج ردود فعل مشكوك فيها من LLMs. ومع ذلك، فقد جعلت القدرة المتزايدة وإجراءات الأمان لنماذج الذكاء الاصطناعي من الصعب الحصول على مثل هذه الردود.
على نحو مثير للاهتمام، اكتشف باحثو جامعة براون أنه يمكن تجاوز عوائق تشغيل تعليمات تشات جي بي تي بإدخال التعليمات في لغات غير شائعة تستخدم في التدريب على الذكاء الاصطناعي، مثل الزولو أو الغيلية، بدلاً من اللغة الإنجليزية.
ضرورة إجراء اختبارات دقيقة
يؤكد تقرير مؤسسة RAND Corporation على الحاجة الملحة لإجراء اختبارات دقيقة لنماذج الذكاء الاصطناعي، خاصة في ضوء المخاطر المحتملة التي تشكلها. يستشهد التقرير بعريضة من مركز سلامة الذكاء الاصطناعي، التي تشبه تهديد الذكاء الاصطناعي بتهديد الأسلحة النووية.
وقد وقع على العريضة شخصيات بارزة مثل مؤسس مايكروسوفت بيل غيتس، الرئيس التنفيذي لشركة OpenAI سام ألتمان، المدير التنفيذي لشركة Google DeepMind ليلى إبراهيم، والنائب تيد ليو.
تم توريط أدوات الذكاء الاصطناعي التوليدية في مجموعة متنوعة من السلوكيات المشكوك فيها، من تعزيز الصور الجسدية الضارة واضطرابات الأكل إلى التخطيط لعمليات اغتيال. ومن الواضح أن تداخل الذكاء الاصطناعي والتكنولوجيا الحيوية يطرح تحديات فريدة لتقييم المخاطر.
بالنسبة لأولئك الذين يهتمون بمتابعة أحدث التطورات في عالم العملات المشفرة وتكنولوجيا الذكاء الاصطناعي، يوفر تطبيق cryptoview.io مجموعة واسعة من المعلومات الحديثة والمحدثة. استكشف cryptoview.io الآن
