الذكاء الاصطناعى يخرج عن السيطرة؟.. OpenAI تنفق 500 ألف دولار يوميا للتحقيق

تواجه شركة OpenAI تحقيقًا واسعًا بشأن سلوك وكلاء الذكاء الاصطناعي التابعين لها أثناء تفاعلهم مع مواقع إلكترونية وخدمات عبر الإنترنت، بعدما كشفت الشركة عن حالات تمكن فيها بعض الوكلاء من الوصول إلى خدمات دون الحصول على تصريح، ما دفعها إلى مراجعة كميات هائلة من البيانات بحثًا عن وقائع أخرى مماثلة، وقالت OpenAI إن عمليات المراجعة والتحقيق الجارية تكلفها أكثر من 500 ألف دولار يوميًا، فيما تفحص الشركة نحو 50 بيتابايت من البيانات لمحاولة تحديد ما فعله وكلاؤها بالضبط، والكشف عن أي حالات أخرى تتعلق بالوصول غير المصرح به أو النشاط المثير للقلق.

وقائع متتالية تضع وكلاء OpenAI تحت التدقيق

بدأت الأزمة بالظهور بشكل واضح بعد حادثة مرتبطة بمنصة Hugging Face، قبل أن تتوالى تقارير عن حوادث أخرى شملت خدمات تابعة لجهات خارجية، من بينها مواقع حكومية أسترالية، وكشفت OpenAI مؤخرًا أن أحد وكلائها تمكن في يونيو الماضي من الوصول إلى موقع تابع لحكومة ولاية نيو ساوث ويلز الأسترالية، وحصل دون تصريح على بعض البيانات غير العامة المتعلقة بحرائق الغابات، وقالت الشركة إن هذه كانت الحالة السادسة التي تخطر بشأنها جهة حكومية أسترالية بوقوع نشاط مشابه منذ الشهر الماضي، وكان رئيس الوزراء الأسترالي أنتوني ألبانيزي قد أعلن في وقت سابق أن وكلاء OpenAI تمكنوا أيضًا من الوصول إلى بوابة إحصاءات Medicare التابعة لـServices Australia.

لماذا تأخرت OpenAI في الكشف عن الوقائع؟

أوضحت OpenAI أن تأخرها في الكشف عن بعض هذه الحوادث يرجع بشكل أساسي إلى ضخامة كمية البيانات التي يتعين عليها مراجعتها، مشيرة إلى أنها تعمل على فحص سجلاتها شهرًا بعد شهر بحثًا عن وقائع أخرى ربما لم يتم اكتشافها، وتكشف الشركة عن حجم هائل لعملية المراجعة؛ إذ تقول إن البيانات التي يتم فحصها تعادل كمية نصية، إذا كانت مكتوبة بالكامل باللغة الإنجليزية، لما استغرق شخص واحد نحو 66 مليون سنة لقراءتها، وللتعامل مع هذا الحجم الضخم من المعلومات، تعتمد OpenAI على الذكاء الاصطناعي إلى جانب نحو 7 آلاف وحدة معالجة رسومية GPU لفحص البيانات وتحديد الأنشطة التي قد تستدعي مزيدًا من التحقيق، وهو ما يفسر التكلفة اليومية المرتفعة لعملية المراجعة.

الوصول للبيانات وتغيير المعلومات تحت المجهر

ولا تقتصر عملية التحقيق على البحث عن اختراقات كبيرة، إذ تراجع OpenAI ما إذا كانت نماذجها قد وصلت إلى مواقع إلكترونية بطرق لم يكن مسموحًا بها، أو غيرت معلومات على تلك المواقع، أو استخدمت كلمات مرور ومفاتيح وصول مكشوفة، أو تمكنت من الوصول إلى أجزاء خاصة من خدمات الإنترنت، كما تبحث الشركة عن حالات قام فيها وكلاء الذكاء الاصطناعي بنشر محتوى على مواقع تابعة لجهات خارجية، وهو نشاط تطلق عليه OpenAI اسم "Agent Spam"، وأكدت الشركة أن حادثة Hugging Face لا تزال أخطر حالة اكتشفتها حتى الآن، بينما أبلغت أكثر من 100 مؤسسة عن أنشطة استوفت معاييرها للتحذير، ومع ذلك، شددت OpenAI على أن إخطار مؤسسة بوجود نشاط مثير للقلق لا يعني بالضرورة أن بيانات خاصة قد تم الوصول إليها أو أن نظامًا إلكترونيًا تعرض للاختراق.

7 آلاف GPU للتحقيق في سلوك وكلاء الذكاء الاصطناعي

تقول OpenAI إن عملية التحقيق تبدأ باستخدام الذكاء الاصطناعي لتحديد الأنشطة التي قد تكون مثيرة للقلق، ثم تضييق نطاق النتائج على عدة مراحل، قبل أن يتولى محققون بشريون فحص كل حالة بالاعتماد على السجلات والأدلة الأخرى، وقد يستغرق التحقيق النهائي في الحالة الواحدة ما بين 45 دقيقة وعدة أيام، وفقًا لتعقيد الواقعة والبيانات المرتبطة بها.

ومع استمرار عمليات الفحص، تستخدم OpenAI نحو 7 آلاف GPU لمعالجة البيانات، وتقدر الشركة أن هذه العملية تكلفها أكثر من 500 ألف دولار يوميًا، في وقت تواجه فيه صناعة الذكاء الاصطناعي تحديات متزايدة تتعلق بقدرة الوكلاء المستقلين على تنفيذ مهام عبر الإنترنت واتخاذ خطوات قد تتجاوز أحيانًا ما كان متوقعًا من مطوريهم.