اختبارات بريطانية توثق أول محاولة من الذكاء الاصطناعي لخداع البشر.. ما القصة؟

ويصف المعهد ما حدث بأنها المرة الأولى التي نرى فيها مخاطر الاستقلالية والخداع تتجلى بوضوح في العالم الحقيقي. واقتصر دور نموذج "جي بي تي 5.6 سول" على نشاطين مريبين فقط مع تعطيل قيود الأمن السيبراني في النموذج، وفق ما جاء في بيان المعهد.

وفي سياق متصل، كشف تقرير وكالة "رويترز" عن آلية الاختبار التي تضمنت إجراء تحديات أمنية للنماذج أكثر من 120 مرة، ظهر فيها 19 نشاطا غير مصرح به خلال 10 جولات اختبارية منفصلة. ومن جانبها، أفادت أنثروبيك أن النماذج المستخدمة في هذه الاختبارات تعبر عن أي نماذج تجارية متاحة من قبل الشركة لأنها كانت تعمل في بيئة اختبارية متساهلة عمدا، مضيفة أن الاختبارات لم تثبت قدرة النموذج على الهرب من البيئات الاختبارية وإحداث ضرر في الواقع، وذلك عبر منشور في منصة "إكس".

وأما "أوبن إيه آي"، فأوضحت أن الحوادث المتعلقة بنموذجها برزت خلال الاختبارات السيبرانية من قِبَل شركائها الأمنيين، وكانت تجري في بيئات اختبارية تضم ضمانات مخففة ولا تعكس سيناريوهات الاستخدام الحقيقي، وذلك خلال تصريح لشبكة "سي إن بي سي". وتتزامن اختبارات معهد أمن الذكاء الاصطناعي البريطاني مع حوادث سابقة لهروب نماذج الذكاء الاصطناعي من بيئات أنثروبيك و"أوبن إيه آي" الاختبارية واختراقها مؤسسات حقيقية، ومن بينها منصة "هاغينغ فيس" وهي أولى تلك …

المصدر: الجزيرة تكنولوجيا