«الذكاء الاصطناعى خارج السيطرة».. نماذج «أوبن إيه آى» تهاجم مكتبة رقمية خلال اختبار أمني

وأوضحت الشركة أن اثنين من نماذج الذكاء الاصطناعى الخاصة بها تصرفا بشكل غير متوقع، ونجحا فى اختراق منصة «هاجينج فيس» (Hugging Face)، وهى مكتبة رقمية لتكنولوجيا الذكاء الاصطناعى تحظى بشعبية بين المطورين، وفقا لما ذكرته صحيفة «نيويورك تايمز» الأمريكية.

الحادثة، التى وقعت الأسبوع الماضى أثناء اختبار «أوبن إيه آي» لقدرات أنظمتها فى مجال الأمن السيبرانى، أظهرت ذلك النوع من إمكانات الخيال العلمى التى حذرت شركات الذكاء الاصطناعى من أنها ستتحول قريبا إلى واقع.

وعلى مدار العام الماضى، أصدرت مختبرات الذكاء الاصطناعى، مثل «أوبن إيه آي» و«أنثروبيك» (Anthropic)، نماذج ذكاء اصطناعى مخصصة للكشف عن مشكلات الأمن السيبرانى، بينما حذرت فى الوقت نفسه من أن تقنياتها قد تشكل مخاطر جديدة عبر العثور على ثغرات فى شبكات الكمبيوتر الخاصة بالشركات بسرعة تفوق قدرة المدافعين عن الأنظمة على إصلاحها.

وتشير المعلومات التى كشفت عنها «أوبن إيه آي»، يوم أمس، عن أن تلك الحوادث الأمنية بدأت بالفعل فى الحدوث، وأنه حتى شركات الذكاء الاصطناعى ذات الخبرة قد لا تكون مستعدة لها بالكامل.

قالت شركة «أوبن إيه آي» إن التجربة كانت مصممة لإبقاء النماذج فى بيئة اختبار آمنة، تعرف باسم «صندوق الرمل»، غير أن النماذج عثرت على ثغرة سمحت لها با…

المصدر: المصرى اليوم تكنولوجيا