“OpenAI” تطلق ميزتين أمنيتين جديدتين لتعزيز حماية مستخدمي

كتب- محمود عبدالرحمن:

أعلنت شركة OpenAI، أمس الجمعة، عن إطلاق ميزتين أمنيتين جديدتين لروبوت الدردشة ChatGPT، في خطوة تهدف إلى تعزيز حماية المستخدمين في ظل التحديات المتسارعة المرتبطة بأمن أنظمة الذكاء الاصطناعي.

وأوضحت الشركة أن الميزتين الجديدتين تحملان اسمي “Lockdown Mode” و “Elevated Risk” وقد تم تطويرهما خصيصا لمواجهة هجمات “حقن الأوامر”، وهي أسلوب شائع تستخدمه جهات خبيثة للتلاعب بنماذج الذكاء الاصطناعي بهدف تسريب معلومات حساسة أو تنفيذ أوامر غير مصرح بها.

وبحسب البيان، يعد “وضع القفل” إعدادا أمنيا متقدما واختياريا، موجها للمستخدمين الأكثر عرضة للمخاطر، مثل القيادات التنفيذية وفرق الأمن السيبراني في المؤسسات الكبرى، حيث يوفر مستوى حماية أعلى ضد التهديدات المتقدمة، فيما أكدت الشركة أنه غير ضروري لمعظم المستخدمين العاديين.

ويعمل “وضع القفل” على فرض قيود صارمة على تفاعل ChatGPT مع الأنظمة والأدوات الخارجية، من خلال تعطيل بعض القدرات بشكل إجباري، بهدف تقليل فرص استغلالها في تسريب البيانات أو اختراق التطبيقات المتصلة عبر هجمات حقن الأوامر.

وأشارت OpenAI إلى أن هذه الميزة ستكون متاحة مبدئيا لمشتركي ChatGPT Enterprise وChatGPT Edu، إضافة إلى ChatGPT for Healthcare وChatGPT for Teachers، مع خطط لتوسيع نطاق الإتاحة ليشمل…