استقالة مسؤول السلامة في OpenAI تفتح ملف مخاطر الذكاء الاصطناعي

أعلن ديفيد روبنسون، المسؤول السابق عن السلامة في شركة OpenAI، مغادرته الشركة، مؤكدًا أن المسار الحالي لتطوير الذكاء الاصطناعي لم يعد مقبولًا من وجهة نظره، في خطوة تعيد تسليط الضوء على الجدل المتزايد داخل صناعة التكنولوجيا بشأن كيفية التعامل مع المخاطر المصاحبة لتطور نماذج الذكاء الاصطناعي.

ديفيد روبنسون: ثقافة العمل تحتاج إلى تغيير

قال روبنسون، في مقال نشره بعد مغادرته OpenAI، إن المشكلة لا تتعلق فقط بالقواعد والقوانين المنظمة للذكاء الاصطناعي، وإنما تمتد إلى ثقافة الشركات التي تعمل على تطوير هذه التكنولوجيا، وأوضح أن الشركات العاملة في مجال الذكاء الاصطناعي تحتاج إلى قدر أكبر من الحذر، مشيرًا إلى أن التعامل مع التكنولوجيا شديدة الخطورة يتطلب ثقافة تقوم على التواضع والاهتمام بالسلامة، وليس الاعتماد بصورة أساسية على التجربة والخطأ، وانضم روبنسون إلى OpenAI في عام 2023، وبدأ عمله في مجال التخطيط للسياسات، قبل أن يتولى لاحقًا دورًا قياديًا ضمن فريق أنظمة السلامة، كما شارك في إعداد تقارير السلامة المرتبطة بإطلاق نماذج الشركة الرئيسية.

التجربة والخطأ تحت الاختبار

انتقد روبنسون ما وصفه بنهج “النشر التكراري”، الذي يعتمد على إطلاق التكنولوجيا تدريجيًا ثم تحسين إجراءات الحماية بعد اكتشاف المشكلات، ويرى أن هذا الأسلوب قد يكون أكثر صعوبة مع زيادة قدرات أنظمة الذكاء الاصطناعي، لأن حجم التأثير المحتمل لأي خطأ قد يتزايد مع تطور هذه الأنظمة، وهو ما يجعل الاعتماد على اكتشاف الأخطاء بعد وقوعها أكثر خطورة، وأشار إلى عدد من الحوادث المرتبطة بأنظمة الذكاء الاصطناعي والوكلاء الذكيين، معتبرًا أن وقوع أخطاء في أنظمة الحماية والمراقبة يمثل تحديًا أمام الشركات التي تعمل بسرعة كبيرة لتطوير قدرات جديدة.

دعوة إلى معايير سلامة أكثر صرامة

دعا روبنسون إلى الاستفادة من الخبرات المتراكمة في القطاعات التي تتعامل مع تقنيات عالية الخطورة، بدلًا من الاعتماد على الأساليب التقليدية في تطوير البرمجيات.

كما طالب بإجراء مزيد من الأبحاث العلمية حول كيفية ضمان اتخاذ النماذج الأكثر تطورًا قرارات آمنة حتى في الحالات التي لا تكون فيها تحت المراقبة المباشرة، وشبه النهج الذي تحتاجه شركات الذكاء الاصطناعي بالأنظمة المستخدمة في المنشآت النووية والمطارات، حيث تعتمد السلامة على طبقات متعددة من الحماية والرقابة والتخطيط المسبق، بما يقلل من تأثير الأخطاء البشرية.

روبنسون: الذكاء الاصطناعي يمكن أن يكون مفيدًا

رغم انتقاداته، أكد روبنسون أنه لا يرى الذكاء الاصطناعي كتكنولوجيا عديمة الفائدة، بل يعتقد أن بإمكانها تقديم قيمة كبيرة للمجتمع، وأوضح أن قراره بالعمل من خارج الشركات العاملة في القطاع يهدف إلى المساهمة في زيادة الوعي بالمخاطر التي رآها خلال عمله، ودعم الضغوط الخارجية التي يمكن أن تدفع شركات الذكاء الاصطناعي إلى تعزيز إجراءات السلامة.

جدل متزايد داخل صناعة الذكاء الاصطناعي

تأتي استقالة روبنسون في وقت تتزايد فيه النقاشات بين الباحثين وقادة شركات التكنولوجيا حول مستقبل الذكاء الاصطناعي، خصوصًا مع انتقال الأنظمة من أدوات للإجابة عن الأسئلة وتنفيذ المهام البسيطة إلى وكلاء قادرين على تنفيذ عمليات أكثر تعقيدًا.

ويكشف الجدل الحالي عن اختلاف واضح في طريقة تقييم المخاطر؛ فبينما يحذر بعض الباحثين من أن التطور السريع قد يؤدي إلى مخاطر يصعب السيطرة عليها، يرى آخرون أن تطوير التكنولوجيا يمكن أن يستمر مع تحسين إجراءات الأمان والرقابة بالتوازي، ومع استمرار سباق تطوير نماذج أكثر قدرة، يبدو أن ملف السلامة أصبح جزءًا أساسيًا من مستقبل صناعة الذكاء الاصطناعي، وليس مجرد مرحلة لاحقة يمكن التعامل معها بعد ظهور المشكلات.