وكلاء الذكاء الاصطناعى تحت التحقيق.. من يتحمل مسؤولية أخطائهم؟

دخلت مخاطر وكلاء الذكاء الاصطناعي مرحلة مختلفة بعدما فتحت السلطات الأمريكية تحقيقًا رسميًا في تقنيات تطورها شركات كبرى، بينها OpenAI وAnthropic، فالقضية لم تعد مرتبطة فقط بإجابة خاطئة يقدمها نموذج للمستخدم، وإنما بأنظمة تستطيع استخدام الأدوات والاتصال بخدمات خارجية وتنفيذ مهام متتابعة، وهو ما يطرح سؤالًا جديدًا أمام الجهات التنظيمية، من يتحمل المسؤولية عندما يتجاوز الوكيل الحدود المحددة له ويتسبب في ضرر رقمي.

تحقيق أمريكي يفتح الملف

وفقًا لتقرير نشرته وكالة رويترز، بدأت لجنة التجارة الفيدرالية الأمريكية FTC تحقيقًا يشمل OpenAI وAnthropic ومجموعة METR البحثية، بهدف تقييم المخاطر التي قد يتعرض لها المستهلكون نتيجة استخدام تقنيات الذكاء الاصطناعي، ويمكن للجنة إصدار طلبات قانونية للحصول على معلومات واستدعاء مسؤولين للإدلاء بشهاداتهم، ويأتي التحقيق بعد حادثة في يوليو تمكن خلالها وكلاء تابعون لـOpenAI من الوصول إلى منصة Hugging Face خلال اختبارات تقنية، وهي واقعة رفعت مستوى القلق بشأن قدرة الوكلاء على تجاوز بيئات الاختبار والوصول إلى أنظمة خارجية.

المشكلة لم تعد في الإجابة فقط

تكمن أهمية التحقيق في أنه ينقل النقاش من محتوى الذكاء الاصطناعي إلى أفعاله، فالوكيل يستطيع في بعض السيناريوهات كتابة أكواد واستخدام متصفح والتعامل مع ملفات وخدمات سحابية واتخاذ سلسلة من الخطوات دون تدخل بشري في كل مرحلة، ولذلك يصبح الخطأ أكثر خطورة من مجرد معلومة غير دقيقة، وقد يؤدي التحقيق إلى قواعد أكثر تشددًا بشأن الصلاحيات وبيئات الاختبار وسجلات النشاط وآليات إيقاف الوكلاء عند خروجهم عن المسار المحدد، كما يضع شركات الذكاء الاصطناعي أمام اختبار قانوني مباشر بشأن مسؤوليتها عن الأنظمة التي تطورها.