مدار نيوز \
حذر باحثون حاليون وسابقون في “أوبن إيه آي” و”غوغل ديب مايند” من أن مختبرات الذكاء الاصطناعي لا تتخذ إجراءات كافية لمواجهة المخاطر المحتملة للأنظمة المتقدمة، ولا سيما النماذج التي قد تكتسب مستقبلًا قدرة على تحسين نفسها بصورة متكررة مع تدخل بشري محدود أو من دونه.
وجاءت التحذيرات في شهادات مصورة جمعها مشروع “فروم إنسايد إيه آي”، الذي أطلقته منظمة “باليسايد ريسيرتش” غير الربحية والمتخصصة في سلامة الذكاء الاصطناعي.
وقال المشاركون إن مخاوفهم من أضرار كارثية محتملة ليست جزءًا من حملة دعائية، مشيرين إلى أن شركات القطاع تكافئ غالبًا العاملين على تطوير نماذج أكثر تقدمًا أكثر مما تشجع الأصوات الداعية إلى التريث.
وقال جيفري إيرفينغ، الشريك المؤسس وكبير العلماء في منظمة “ريزوليوشن”، والذي سبق أن عمل في “أوبن إيه آي” و”غوغل ديب مايند”، إن وتيرة المخاطر تتسارع، وإن العاملين في المجال يتحملون مسؤولية طرح هذه المخاوف بوضوح أمام الجمهور.
وتصاعد الجدل بشأن سلامة الذكاء الاصطناعي خلال الأشهر الماضية، ولا سيما بعد حادثة في تموز/يوليو قالت تقارير إن وكلاء تابعين لـ”أوبن إيه آي” تجاوزوا حدود بيئة اختبار واخترقوا أنظمة شركة “هاغينغ فيس”.
ومنذ ذلك الحين، اتسع الخلاف داخل قطاع التكنولوجيا بشأن الموازنة بين تطوير القدرات الجديدة ومتطلبات السلامة، فيما أصبح الملف محور نقاش سياسي عالمي.
وسجلت تقنيات الذكاء الاصطناعي تقدمًا سريعًا منذ أواخر عام 2025، بالتوازي مع ازدياد اهتمام المستثمرين، إلا أن باحثين حاليين وسابقين يرون أن المجتمع والمؤسسات التنظيمية لا يواكبان مستوى المخاطر المحتملة.
وقال الباحث العلمي في “غوغل ديب مايند” نيل ناندا إنه يقدّر احتمال أن يتسبب الذكاء الاصطناعي في انقراض البشر بما لا يقل عن 10%، واصفًا هذه النسبة بأنها مرتفعة للغاية.
وفي شهادة منفصلة، حذر مهندس أبحاث مواءمة الذكاء الاصطناعي في “أوبن إيه آي”، خوان فيليبي سيرون أوريبي، من أن المختبرات الكبرى تمضي في سباق سريع رغم الغموض الشديد بشأن نتائج التكنولوجيا.
وأشار إلى أن السيناريوهات المستقبلية قد تتراوح بين تحقيق اختراقات طبية كبيرة وإحداث اضطرابات واسعة في سوق العمل، وصولًا إلى أخطار تهدد البشر أنفسهم.
وفي السياق ذاته، أفادت “رويترز” بأن شركة “أنثروبيك” تعتزم تضمين مستندات طرحها العام الأولي تحذيرًا للمستثمرين من احتمال أن تؤدي أنظمة الذكاء الاصطناعي المتقدمة إلى مخاطر كارثية أو وجودية على البشرية.
ويركز جانب رئيسي من المخاوف على ما يعرف بالتحسين الذاتي التكراري، وهو امتلاك النظام القدرة على تطوير أدائه وتعلم مهارات أو قدرات جديدة بصورة متواصلة مع تدخل بشري محدود جدًا أو من دون تدخل مباشر.
وقالت روزي كامبل، الباحثة السابقة في السياسات لدى “أوبن إيه آي” والمديرة الإدارية لمنظمة “إليوس إيه آي ريسيرتش”، إن إعادة الهيكلة المستمرة داخل بعض مختبرات الذكاء الاصطناعي قد تزيد صعوبة توجيه مسار التطوير.
وأضافت أن “أوبن إيه آي” أصبحت، قبل مغادرتها الشركة عام 2024، أكثر انقسامًا إلى مجموعات منفصلة، ما جعل التأثير في اتجاه التكنولوجيا أكثر تعقيدًا.
وتأتي هذه التحذيرات في وقت يواجه فيه القطاع ضغوطًا متعاكسة بين الدعوات إلى التريث والرغبة في الحفاظ على التفوق التكنولوجي الأميركي أمام الصين. ونشر الرئيس التنفيذي لـ”أنثروبيك”، داريو أمودي، خلال الشهر الجاري مقالًا دعا فيه إلى إبطاء وتيرة التطوير بما يسمح بإجراءات السلامة بمواكبة قدرات التكنولوجيا، قبل أن يعلن الرئيس التنفيذي لـ”أوبن إيه آي”، سام ألتمان، تأييده للفكرة.
كما نشر عدد من الباحثين البارزين في الذكاء الاصطناعي ورقة بحثية دعت صانعي السياسات إلى الاستعداد لاحتمال تطوير نماذج قادرة على التحسين الذاتي التكراري، وبحث التدابير اللازمة للتعامل معها.
وفي الوقت نفسه، واصلت شركتا “أوبن إيه آي” و”أنثروبيك” طرح نماذج جديدة في ظل منافسة متزايدة على العملاء، فيما أعلنت “أوبن إيه آي” الاثنين تأجيل إطلاق نموذج أكثر قوة.
وقال إيرفينغ إن الدعوات الحالية إلى خفض سرعة التطوير لا تزال محدودة، معتبرًا أن الشركات تستطيع اتخاذ قرارات منفردة بتقليص المخاطر بدل التعامل مع المسألة باعتبارها مشكلة تنسيق بين جميع المختبرات.
بدوره، قال دانيال كوكوتايلو، الباحث السابق في حوكمة الذكاء الاصطناعي لدى “أوبن إيه آي” والمدير التنفيذي للأبحاث في مجموعة “إيه آي فيوتشرز بروجكت”، إن عددًا من زملائه السابقين تواصلوا معه سرًا بعد حادثة “هاغينغ فيس” للتعبير عن مخاوف مشابهة.
وأضاف أن بعض القيادات في مختبرات الذكاء الاصطناعي ترى أن توقفها منفردة عن السباق قد يؤدي إلى نتائج أسوأ إذا واصلت الجهات المنافسة تطوير الأنظمة المتقدمة.
