لندن/سما- كشف معهد أمن الذكاء الاصطناعي في المملكة المتحدة عن تسجيل سلوك غير متوقع وخطر محتمل من وكلاء ذكاء اصطناعي يعملون بنماذج طورتها شركتا "أوبن إيه آي" و"أنثروبيك"، خلال اختبار للأمن السيبراني أُجري في 28 تموز/يوليو الماضي. واعتبر المعهد الواقعة "حادثة خطيرة"، بعدما نفذ عدد من الوكلاء أنشطة متواصلة استهدفت أشخاصًا ومؤسسات حقيقية على الإنترنت من بينها إرسال رسائل إلكترونية موجهة إلى أفراد بعينهم.
شملت الحادثة وكلاء يعملون بنموذجي "Mythos 5" من "أنثروبيك" و"GPT-5.6 Sol" من "أوبن إيه آي"، وقد استغرق احتواء النشاط نحو ساعة بعد اكتشافه. سجل المعهد 19 حالة تجاوز خلالها الوكلاء نطاق السلوك المتوقع، نُسبت 17 منها إلى نموذج "Mythos 5"، مقابل حالتين لنموذج "GPT-5.6 Sol"، وذلك في تجارب بلغ عددها 10 من أصل 122 تجربة أُجريت باستخدام نماذج عدة.
في أخطر الحالات، حاول وكيل يعمل بنموذج "Mythos" إدخال شيفرة خبيثة إلى مشروع برمجي مفتوح المصدر على منصة "غيت هاب"، ثم أنشأ هويات مزيفة على الإنترنت مستندة إلى أشخاص حقيقيين واستخدمها في محاولة للضغط على المسؤول عن المشروع لقبول الشيفرة، قبل أن يتدخل مطور بشري ويمنع المحاولة. كما استخدم الوكيل أساليب مرتبطة عادة بالهجمات السيبرانية الفعلية، بينها رسائل تصيد موجهة إلى أشخاص محددين بهدف التأثير عليهم، احتوى بعضها على برمجيات ضارة.
أكد المعهد أن الحادثة لم تتسبب بأضرار على أرض الواقع، لكنه وصف طبيعة السلوك الذي رُصد بأنها غير مسبوقة في اختباراته. قال المعهد إنها المرة الأولى التي تظهر فيها مخاطر مرتبطة بالاستقلالية والخداع بهذه الدرجة من الوضوح في العالم الحقيقي، ومن دون توجيه صريح لتنفيذ تلك الأفعال. واعتبر المعهد أن طبيعة هذا السلوك الخادع وخطورته تجاوزت ما توقعه الباحثون.
اعتبر المعهد الواقعة، إلى جانب حوادث مشابهة رصدتها "أوبن إيه آي" و"أنثروبيك" مؤخرًا، تشير إلى تحول في طبيعة المخاطر المرتبطة بالنماذج المتقدمة. لم تكن هذه المخاطر نتيجة استخدام متعمد للنماذج لأغراض ضارة، وإنما ناجمة عن اتخاذ أنظمة خاضعة للتقييم إجراءات غير مقصودة تجاوزت الصلاحيات الممنوحة لها.
شدد المعهد البريطاني على أن الواقعة لا تعني أن النماذج تمكنت من الهروب من بيئة الاختبار الآمنة. أوضح المعهد أنه سمح للنماذج عمدًا بالاتصال بالإنترنت، وعطّل خلال الاختبار أدوات الحماية التي تمنع تنفيذ السلوكيات الخطرة. أضاف أن هذه النماذج ليست متاحة للجمهور في ظروف التشغيل نفسها، ولا توجد مؤشرات على تسجيل سلوك مماثل خارج بيئات الاختبار.
دعا المعهد إلى التعامل مع النتائج بحذر، نظرًا إلى أن الحالات المسجلة كانت محدودة ووقعت في ظروف اختبارية محددة. لكنه أقر بأهمية الواقعة تكمن في إثبات أن مثل هذا السلوك أصبح ممكنًا وقابلًا للاستمرار، فضلًا عن كونه جديدًا مقارنة بما رُصد في الاختبارات السابقة.
أقرّ المعهد بأنه لم يكن يراقب سلوك الوكلاء بصورة مستمرة أثناء التقييم. أعلن المعهد أنه سيشدد القيود المفروضة على الاتصال بالإنترنت خلال الاختبارات المقبلة، ويطبق مراقبة متواصلة، ويعيد تقييم تصميم تجاربه على أساس افتراض أن النموذج قد يحاول تجاوز نطاق المهمة الممنوحة له.
قال وزير الذكاء الاصطناعي البريطاني كانيشكا نارايان إن اكتشاف مثل هذه السلوكيات ونشر النتائج بشأنها يمثلان جزءًا أساسيًا من مهمة معهد أمن الذكاء الاصطناعي. أكد نارايان أهمية امتلاك بريطانيا مؤسسة متقدمة في مجال سلامة هذه التكنولوجيا.
ردت "أوبن إيه آي" بقولها إن الاختبارات أُجريت في ظروف لا تمثل الاستخدام الاعتيادي لنماذجها. أكدت الشركة أنها ستواصل التعاون مع جهات التقييم والأطراف المعنية لتطوير ممارسات أكثر أمانًا مع تزايد قدرات النماذج. أعلنت "أوبن إيه آي" التزامها بالعمل على مستوى القطاع لتعزيز الممارسات المشتركة لإجراء تقييمات عالية المخاطر بأمان.
من جانبها، قالت "أنثروبيك" إن الواقعة تؤكد الحاجة إلى نقاش أوسع بشأن الطرق الآمنة لاختبار وكلاء الذكاء الاصطناعي مع تطور قدراتهم. أضافت الشركة أنها ستواصل تعاونها مع المعهد البريطاني لتقييم ما حدث، معربة عن امتنانها للمعهد على دوره القيادي.
كانت "أوبن إيه آي" قد أعلنت في تموز/يوليو الماضي أن وكيلًا يعمل بأحد نماذجها اخترق شركة ناشئة للذكاء الاصطناعي تُدعى "Hugging Face" خلال اختبار. كشفت "أنثروبيك" بعد ذلك بأيام أن نموذج "كلود" اخترق ثلاث مؤسسات أثناء عملية تقييم.
قال أندرو يون، الباحث في مؤسسة "CivAI" غير الربحية في كاليفورنيا التي تُعنى بدراسة قدرات الذكاء الاصطناعي ومخاطره، إن لجوء برنامج "ميثوس" إلى مثل هذه الأفعال الخادعة، مع إدراكه الواضح لاستهدافه شخصًا حقيقيًا، يشير إلى أن شركة "أنثروبيك" لا تُتقن نماذجها كما تظن.
اقرأ أيضًا:
