الرئيس التنفيذي لـ Anthropic يدعو لإبطاء سباق الذكاء الاصطناعي ويحذر من أضرار اقتصادية

دعا داريو أموداي، الرئيس التنفيذي لشركة Anthropic، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، محذراً من أن التطور السريع للأنظمة القادرة على العمل بصورة مستقلة قد يفتح الباب أمام مخاطر أمنية واقتصادية واسعة النطاق.

وجاءت دعوة أموداي على خلفية ما وصفه بـ"حادثة OpenAI-Hugging Face"، والتي تضمنت وكلاء ذكاء اصطناعي تابعين لشركتي OpenAI وHugging Face نفذوا هجمات إلكترونية غير مصرح بها على أهداف لم تكن ضمن المهام الموكلة إليهم، إلى جانب محاولة اختراق النظام المستخدم لتقييم أدائهم.

مخاطر اقتصادية بمئات المليارات

قال أموداي إن الحادثة لم تسفر عن ضحايا بشر أو أضرار اقتصادية كبيرة، لكنه حذر من أن تكرار السلوك نفسه من جانب أنظمة أكثر تطوراً يمكن أن يؤدي إلى أضرار "كارثية".

وأضاف أن التطور السريع لقدرات وكلاء الذكاء الاصطناعي قد يجعل سرباً من هذه الأنظمة قادراً، خلال فترة تتراوح بين ستة و12 شهراً، على السيطرة على أجزاء واسعة من الإنترنت عبر شبكة بوت نت دائمة، بما قد يؤدي إلى خسائر اقتصادية تصل إلى مئات المليارات من الدولارات.

وأشار إلى أن حوادث أقل حدة من الواقعة الأخيرة حدثت في شركات أخرى، بما فيها Anthropic، ما يعكس أن مخاطر المواءمة والسلامة لا تقتصر على شركة أو نموذج بعينه.

"التحسين الذاتي" يرفع المخاطر

ويرى الرئيس التنفيذي لـAnthropic أن مصدر القلق الثاني يتمثل في ظاهرة "التحسين الذاتي التكراري"، التي تتولى فيها أنظمة الذكاء الاصطناعي المساعدة في تطوير أجيال جديدة من أنظمة الذكاء الاصطناعي , وقال إن هذه العملية بدأت بالفعل في أنحاء مختلفة من القطاع، بما في ذلك داخل Anthropic، وهو ما قد يؤدي إلى تسارع وتيرة التطور التكنولوجي بصورة يصعب على آليات السلامة والرقابة مواكبتها , وأوضح أن إبطاء التطوير لا يعني وقف تدريب النماذج أو تجميد التقدم التقني، وإنما منح الشركات وقتاً كافياً لاختبار أنظمتها وتأمينها وتحسين مواءمتها قبل الانتقال إلى مراحل أكثر تقدماً.

خطة من 3 خطوات لتنظيم سباق الذكاء الاصطناعي

اقترح أموداي خطة من ثلاث مراحل لتنظيم وتيرة التطور في قطاع الذكاء الاصطناعي , وتتمثل الخطوة الأولى في التزام Anthropic بمنح فرق تقييم خارجية، مثل منظمة METR، صلاحيات واسعة ومستمرة داخل الشركة لفحص ممارسات السلامة وتقييم نماذج الذكاء الاصطناعي وخطوط التدريب , وبحسب الخطة، سيحصل المقيّمون الخارجيون على مكاتب وبطاقات دخول وأجهزة حاسوب وصلاحيات وصول إلى مساحات العمل، بما يقارب ما تتمتع به فرق تقييم المخاطر الداخلية.

كما ستسمح Anthropic للمقيّمين بنشر نتائجهم دون رقابة تحريرية من الشركة، باستثناء المعلومات الحساسة أمنياً أو المحمية قانونياً أو المصنفة سرية.

أما الخطوة الثانية، فتدعو شركات الذكاء الاصطناعي الكبرى في الدول الديمقراطية إلى التنسيق لوضع معايير سلامة مشتركة، إلى جانب قيود متفق عليها بشأن سرعة التقدم في تطوير التقنيات الأكثر قدرة.

وتتعلق الخطوة الثالثة بتنسيق الولايات المتحدة والحكومات الديمقراطية مع الحكومات الاستبدادية للتعامل مع المخاطر العالمية المرتبطة بتطور الذكاء الاصطناعي.

الرقائق الصينية في قلب المنافسة

وفي الجانب الجيوسياسي والاقتصادي، دعا أموداي الولايات المتحدة إلى مواصلة تقييد وصول الصين إلى رقائق الذكاء الاصطناعي المتقدمة ومعدات تصنيع أشباه الموصلات، إلى جانب مكافحة عمليات تهريب الرقائق والتقطير غير المصرح به للتقنيات المتقدمة.

كما شدد على ضرورة تعزيز الأمن داخل شركات الذكاء الاصطناعي لمنع سرقة أوزان النماذج، في إطار مساعي واشنطن للحفاظ على التفوق التكنولوجي للدول الديمقراطية أمام الأنظمة المنافسة.

ويرى أموداي أن سباق الذكاء الاصطناعي لم يعد قضية تكنولوجية بحتة، بل أصبح مرتبطاً بالأمن السيبراني واستقرار الاقتصاد العالمي والتنافس على أشباه الموصلات، ما يجعل إدارة سرعة التطور عاملاً أساسياً في الحد من مخاطر اقتصادية قد تتجاوز خسائرها الشركات المطورة لتطال قطاعات وأسواقاً أوسع.