آخر الأخبار
دعا الرئيس التنفيذي لشركة "أنثروبيك"، داريو أمودي، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج، محذراً من أن سرعة التقدم الحالية قد تتجاوز قدرة الشركات والحكومات على التعامل مع المخاطر التي قد تفرضها الأنظمة الأكثر تطوراً.
وقال أمودي في تغريدة على موقع إكس، إن على صناعة الذكاء الاصطناعي "إبطاء وتيرة تحسين قدرات النماذج"، موضحاً أن التقدم سيظل سريعاً حتى مع خفض سرعته، لكن الوقت الإضافي الذي سيوفره التباطؤ يمكن استثماره في تطوير وسائل أمان أفضل والاستعداد للمخاطر المرتبطة بالأنظمة المستقبلية.
3 خطوات لضبط سباق التطوير
كما اقترح أمودي إطاراً من ثلاث خطوات للتعامل مع تسارع تطوير القدرات. تتمثل الأولى في إلزام شركات الذكاء الاصطناعي بإتاحة وصول دائم لمقيّمين خارجيين مستقلين، وبمستوى قريب من وصول الموظفين، لتمكينهم من فحص إجراءات السلامة وتقييم مدى توافق النماذج وبيئات التدريب مع معايير الأمان.
وتدعو الخطوة الثانية شركات الذكاء الاصطناعي في الدول الديمقراطية إلى التنسيق لوضع معايير سلامة مشتركة وحدود لسرعة تطوير القدرات، بما يحول دون تحول المنافسة بينها إلى سباق يدفع كل طرف إلى تسريع التطوير على حساب إجراءات الحماية.
أما الخطوة الثالثة فتتعلق بالحكومات، إذ دعا أمودي الدول الديمقراطية إلى التنسيق، قدر الإمكان، لوضع حدود ومحاذير مشتركة للتعامل مع الذكاء الاصطناعي المتطور.
ويرى أمودي أن استمرار التطور بالوتيرة الحالية قد يقود خلال فترة قصيرة إلى ظهور وكلاء ذكاء اصطناعي أكثر استقلالية وقادرين على تنفيذ مهام واسعة النطاق، مشيراً إلى مخاطر تشمل فقدان السيطرة على الأنظمة المتقدمة وإساءة استخدامها في الهجمات السيبرانية والإرهاب البيولوجي والعمليات التأثيرية وتطوير وسائل تدمير أكثر فتكاً.
كما لفت إلى أن تعدد الشركات والنماذج لا يمثل ضمانة كافية للسلامة، إذ قد تشترك أنظمة مختلفة في أساليب التدريب والتقنيات الأساسية، ما يعني أن فشل إحدى وسائل الحماية يمكن أن يتكرر في أكثر من نظام.
استقالة باحث تشعل الجدل
تأتي دعوة أمودي بعد أيام من استقالة الباحث جاكوب كوكسون من "أنثروبيك"، في خطوة أعادت إلى الواجهة المخاوف المتزايدة داخل صناعة الذكاء الاصطناعي بشأن مخاطر التطور المتسارع.
وكان كوكسون قد عمل سابقاً في «أوبن إيه آي» أيضاً، وقال إن شركات الذكاء الاصطناعي تخوض سباقاً نحو تطوير أنظمة قادرة على تحسين نفسها، محذراً من أن بلوغ هذه المرحلة قد يجعل السيطرة على الأنظمة المتقدمة أكثر صعوبة.
وحذر كوكسون من أن الذكاء الاصطناعي قد يشكل تهديداً بالغاً للبشرية خلال العقد الحالي، منتقداً ما وصفه بسباق الشركات نحو التفوق على المنافسين على حساب إجراءات السلامة.
وانتشرت رسالته على نطاق واسع وحصلت على أكثر من 100 مليون مشاهدة، فيما أيد زميله في "أنثروبيك" إيفان هوبينغر المخاوف نفسها، مقدراً احتمال أن يؤدي الذكاء الاصطناعي إلى كارثة وجودية خلال العقد المقبل بأكثر من 10 بالمائة.
وتكشف تصريحات أمودي واستقالة كوكسون عن اتساع الجدل داخل صناعة الذكاء الاصطناعي نفسها حول معضلة أساسية: هل تستطيع الشركات مواصلة تطوير قدرات النماذج بالسرعة الحالية، مع ضمان امتلاك البشر الوقت والأدوات اللازمة لفهم مخاطرها والسيطرة عليها؟
