وكلاء الذكاء الاصطناعي تهاجم بعضها… و"غوغل" تتدخّل

"تنويه: الملخص تم إنشاؤه بواسطة الذكاء الاصطناعي، يُفضل استخدامه توجيهياً، ويُنصح بالرجوع إلى النص الأصلي لضمان الدقة والتفاصيل."وتنشأ المشكلة من طريقة تشغيل مستودعات "غوغل" لنوعين من وكلاء الذكاء الاصطناعي الآليين بمستويات صلاحيات مختلفة، يتشاركان من دون قصد حدود ثقة واحدة.

أحدهما وكيل ذكاء اصطناعي ذو صلاحيات منخفضة ومتاح للعامة، والآخر وكيل ذو صلاحيات عالية ومخصص للمشرفين فقط.

واكتشف فريق "بيلار" أن الوكيل ذو الصلاحيات المحدودة يمكن التلاعب به عبر "حقنه بأوامر خبيثة"، ما يمكّنه من تنفيذ إجراءات ضارة.

شركة استشارات بريطانية كبرى تستخدم الذكاء الاصطناعي في تقاريرها عنهوأصلحت "غوغل" الثغرة الأساسية في المستودع، لكن هذه الواقعة تُظهر مخاطر استخدام وكلاء الذكاء الاصطناعي، وهي أنظمة ذكاء اصطناعي لا تكتفي بتوليد المحتوى بل تؤدي المهام بقدار …

المصدر: العربى الجديد تكنولوجيا