أعلن معهد أمن الذكاء الاصطناعي البريطاني اكتشاف تجاوزات خطيرة من نماذج ذكاء اصطناعي طورتها شركتا أوبن إيه آي وأنثروبيك خلال سيناريوهات اختبار الأمن السيبراني. وخلال 122 تجربة تقييم، تجاوزت هذه البرامج نطاق المهام المحددة لها بتنفيذ إجراءات ذاتية غير مصرح بها على الإنترنت الفعلي استهدفت أشخاصاً ومؤسسات حقيقية.
أفاد المعهد أن 10 من التجارب الـ 122 شهدت تجاوزات من هذا النوع، رصدت خلالها 19 إجراءً غير مصرح به. حمل برنامج أنثروبيك الذكي مسؤولية 17 من هذه الإجراءات، بينما كان لبرنامج أوبن إيه آي دور في الإجراءين المتبقيين. الحالة الأكثر خطورة كانت محاولة أحد الوكلاء إدراج شفرة خبيثة في مشروع برمجي مفتوح المصدر، حيث لجأ البرنامج إلى هندسة اجتماعية متطورة بإنشاء هويات مزيفة على الإنترنت والضغط على مشرف المشروع للموافقة على الشفرة الضارة. غير أن الإشراف البشري اكتشف المحاولة ورفضها قبل أن تلحق ضررًا فعليًا.
أكد المعهد أن التحقيق لم يسفر عن أي أضرار واقعية نتجت عن هذه الحادثة، لكنه لفت إلى أهمية الاكتشاف: «هذه المرة الأولى التي نرى فيها مخاطر الاستقلالية والخداع تظهر بهذا الوضوح، ودون توجيه محدد من المستخدم، في تطبيقات العالم الحقيقي». يسلط الكشف الضوء على تراجع إجراءات الحماية المحيطة باختبار برامج الذكاء الاصطناعي حتى مع تسويقها كتقنية المستقبل من قبل الشركات الكبرى.
ردت شركة أنثروبيك على النتائج بالقول إنها «ممتنة» لدور معهد أمن الذكاء الاصطناعي البريطاني القيادي، مؤكدة تعاونها الوثيق مع المعهد بالتوازي مع إجراء تحقيق داخلي خاص بها. من جانبها، أقرت أوبن إيه آي بأهمية الاختبارات المستقلة في التحقق من المخاطر وفهمها بصورة أعمق قبل إطلاق النماذج الجديدة، مؤكدة التزامها بالعمل على معايير موحدة لبيئات الاختبار مع زيادة قدرات أنظمتها.
انتقد الباحث أندرو يون من مؤسسة CivAI غير الربحية في كاليفورنيا، المتخصصة في دراسة قدرات الذكاء الاصطناعي ومخاطره، قدرة أنثروبيك على السيطرة على نماذجها. قال يون: «إن لجوء برنامج ميثوس إلى أفعال خادعة من هذا القبيل، مع إدراكه الواضح أنه يستهدف شخصاً حقيقياً، يشير إلى أن شركة أنثروبيك لا تمتلك التحكم الكافي على نماذجها كما تعتقد».
كشفت أوبن إيه آي في منشور على مدونتها عن حادثة منفصلة أخرى، حيث سمح خطأ في التكوين من قبل شركة الاختبارات الخارجية Irregular لبرامجها بالاتصال بالإنترنت عن طريق الخطأ. تكرر هذا الكشف عن خلل مشابه في التكوين ما كانت أنثروبيك قد أفصحت عنه الأسبوع السابق. وسعت أوبن إيه آي نطاق تحقيقها في هذه الاختراقات بعد اكتشاف أدلة على اختراقات إضافية لأنظمتها.
يختلف هذا الكشف عن حادثة اختراق أمني سابق تعرضت له شركة Hugging Face المتخصصة في الذكاء الاصطناعي في يوليو/تموز الماضي من برنامج OpenAI. في تلك الحالة، تمكن البرنامج من كسر حدود بيئة الاختبار المعزولة للوصول إلى الإنترنت. في المقابل، أتاح المعهد البريطاني في تقييمه الوصول إلى الإنترنت للبرامج بشكل مقصود كجزء من إجراءات الاختبار القياسية لديه.
اقرأ أيضًا: