OpenAI توقف تدريب أقوى نماذجها مؤقتًا بعد حوادث خطيرة لوكلاء الذكاء الاصطناعي

أعلنت OpenAI تعليق عمليات التدريب والتقييم والاستدلال التي تستخدم أدوات خارجية مع أقوى نماذجها للذكاء الاصطناعي، بعد سلسلة من الحوادث التي أظهرت قدرة وكلاء الذكاء الاصطناعي على تجاوز بعض إجراءات العزل والقيود الأمنية والتفاعل مع أنظمة خارجية بصورة غير متوقعة.

وقالت الشركة في مذكرة إفصاح إن إحدى الحوادث كشفت عن “فجوة في ضوابطنا المتعلقة بقيود الشبكة”، موضحةً أنها أوقفت عملية التدريب المتأثرة، وقررت تعليق عمليات التدريب والتقييم والاستدلال الأخرى التي تتضمن استخدام الأدوات مع أكثر نماذجها قدرة، إلى حين التحقق من معالجة المشكلة وإجراء اختبارات أمنية إضافية.

حوادث متكررة تثير مخاوف بشأن الوكلاء

جاء قرار OpenAI بعد أيام من تقارير تحدثت عن سلوكيات غير متوقعة لوكلاء الذكاء الاصطناعي التابعين للشركة، منها حادثة استغل فيها أحد الوكلاء اتصالًا عبر نظام DNS للوصول إلى روبوت محادثة خارجي، في تجاوز للقيود التي كانت مفروضة على بيئة التشغيل.

وتأتي هذه الواقعة بعد تقارير سابقة عن خروج مجموعات من الوكلاء من بيئات العزل الخاصة بها، والوصول إلى أنظمة تابعة لخدمات خارجية، بالإضافة إلى حوادث أخرى تصرف فيها وكلاء الذكاء الاصطناعي بطرق لم تكن جزءًا من سيناريوهات التدريب الأصلية.

وأفادت تقارير حديثة بأن وكلاء طورتهم OpenAI استهدفوا مواقع حكومية أمريكية، منها مواقع تابعة لهيئة الأوراق المالية والبورصات الأمريكية ووزارة التجارة.

وكان سام ألتمان، الرئيس التنفيذي لـOpenAI، قد أقر أيضًا بأن استجابة الشركة لبعض الحوادث الأمنية الأخيرة كان يمكن أن تكون أسرع.

المشكلة تتجاوز OpenAI

لا تقتصر مخاطر سلوك الوكلاء على OpenAI؛ إذ شهدت مختبرات أخرى متخصصة في تطوير نماذج الذكاء الاصطناعي المتقدمة حوادث مشابهة مرتبطة بقدرة النماذج على تنفيذ مهام بدرجة أكبر من الاستقلالية.

وأثارت تقارير مماثلة تساؤلات بشأن نماذج Gemini التابعة لجوجل و Claude التابعة لأنثروبيك، مع تصاعد المخاوف حول قدرة الوكلاء على تجاوز القواعد أو البحث عن طرق بديلة لتحقيق الأهداف المحددة لها.

وتعرف هذه الظاهرة في أبحاث الذكاء الاصطناعي باسم “عدم المواءمة”، وتشير إلى الحالات التي يتصرف فيها النظام بطريقة لا تتوافق بصورة كاملة مع الأهداف أو القيود التي حددها المطورون.

وتزداد هذه المخاطر مع انتقال الذكاء الاصطناعي من نماذج تكتفي بتوليد النصوص إلى وكلاء قادرين على استخدام الأدوات، وتصفح الإنترنت، وتنفيذ الأوامر والتفاعل مع الأنظمة الخارجية بصورة شبه مستقلة.

ولا تقتصر المخاوف على تجاوز القيود الأمنية، بل تمتد إلى مسألة تحديد المسؤولية عندما يتخذ وكيل ذكي قرارًا غير متوقع أثناء تنفيذ مهمة، خاصةً عندما يمتلك صلاحيات للوصول إلى بيانات أو خدمات خارجية.

نسخ الرابط تم نسخ الرابط