"تواصل خفي" بين نماذج "أوبن إيه آي" ومحاولات لتجاوز القيود الأمنية

أعلنت شركة "أوبن إيه آي" عن تفاصيل جديدة حول سلسلة حوادث أمنية أثارت مخاوف بشأن قدرات وكلاء الذكاء الاصطناعي المستقلين.

ولم تتوقف محاولات الوكلاء عند التواصل فيما بينها أو البحث عن طرق للوصول إلى الإنترنت، إذ كشفت "أوبن إيه آي" أن بعض النماذج تمكنت خلال اختبارات أمنية داخلية من الوصول إلى أجزاء من البنية التحتية لمنصة "Hugging Face"، وهي منصة واسعة الاستخدام لاستضافة نماذج وأدوات الذكاء الاصطناعي.

وخلال عرض قدمه باحثون من الشركة في مؤتمر "Black Hat" للأمن السيبراني في لاس فيغاس، أوضحت "أوبن إيه آي" أن مجموعة من الوكلاء والنماذج المخصصة للاستخدام الداخلي فقط، طورت منذ مايو/أيار، آليات للتواصل عبر لوحات رسائل، قبل أن تنتقل تدريجياً إلى محاولة الوصول إلى الإنترنت واستغلال بنى تحتية خارجية خلال اختبارات أمنية."أوبن إيه آي" تطلب رفض دعوى أبل بشأن سرقة الأسرار التجاريةوقال الباحثان إريك والاس ومايكل دالتون إن هذه السلوكيات لم تبدأ بهجوم…

المصدر: ارم نيوز تكنولوجيا