Anthropic تقطع الإنترنت عن اختبارات نماذجها الداخلية

قررت شركة Anthropic قطع الوصول إلى الإنترنت عن جميع اختباراتها الداخلية للنماذج، بعد سلسلة حوادث بارزة تمكنت فيها وكلاء الذكاء الاصطناعي من الإفلات من العزل المفروض عليهم.

تقرير Anthropic عن الإجراءات غير المقصودة

فصّلت الشركة في تقرير نشرته يوم الجمعة ما سمّته "إجراءات غير مقصودة" نفذتها نماذجها، ومنها تقديم بلاغ كاذب عن جريمة قتل لم تُحل، وهو ما دفعها إلى اتخاذ القرار.

وقالت Anthropic إن تأثير هذه السلوكيات كان محدودا، وإنها أوقفت سابقا الوصول المباشر إلى الإنترنت في بعض اختبارات الأمن السيبراني وعالية الخطورة. وأضافت أنها وسّعت الإيقاف ليشمل كل الاختبارات الداخلية إلى أن تتأكد من أن إجراءات الأمن والمراقبة لديها ترصد هذه السلوكيات بشكل موثوق.

مشكلة متكررة في القطاع

تواجه شركات الذكاء الاصطناعي مشكلة مستمرة تتعلق بوصول النماذج إلى الإنترنت الحي رغم أنها يفترض أن تعمل بمعزل عنه. وشملت حوادث عدة، منها هجوم Hugging Face، وكلاء كان يُفترض منعهم من الإنترنت لكنهم وجدوا حلولا مبتكرة لتجاوز القيود.

ورغم أن إزالة الاتصال بالإنترنت تعزز الأمان، فإنها تحدّ من فائدة الاختبارات. ويُعد التقرير بمثابة اعتراف بأن الشركة لا تعلم دائما ما يفعله وكلاؤها، ولا تملك نظاما موثوقا لمراقبة سلوكهم.

وسبق أن اتخذت Anthropic خطوات أخرى لضبط وكلائها، منها إيقاف تدريب نماذجها المتقدمة مؤقتا.