مخاوف أمنية من Astra.. أوبن إيه آي تتشدد في تطوير نموذجها الجديد

أعلنت شركة أوبن إيه آي OpenAI إبطاء بعض جوانب العمل على نموذج الذكاء الاصطناعي المرتقب أسترا Astra، بعد أن أظهرت تقييمات داخلية تقدماً ملحوظاً في قدرات البرمجة الوكيلة والأمن السيبراني، إلى حد دفع الشركة إلى عدم استبعاد وصول النموذج إلى "العتبة الحرجة" في مجال الأمن السيبراني.
وقالت الشركة في منشور على مدونتها إن التقييمات الأولية للنموذج، الذي لا يزال قيد التطوير، أظهرت تقدماً كبيراً في قدراته، ما استدعى تعزيز إجراءات الحماية والأمن خلال مراحل التطوير والاختبار.

هكذا رصدت أوبن إيه آي حالات خروج وكلاء ذكاء اصطناعي عن السيطرة

وبموجب إطار الاستعداد الذي وضعته أوبن إيه آي، تشير العتبة الحرجة في الأمن السيبراني إلى مستوى مرتفع من القدرات يمكن أن يشمل اكتشاف واستغلال ثغرات متقدمة أو تطوير استراتيجيات لهجمات إلكترونية بصورة مستقلة ضد أنظمة محمية.
وأكدت الشركة أن بلوغ هذه العتبة المحتمل…

المصدر: سى ان بى سى تكنولوجيا