هل تتحمل شركات الـAI مسؤولية اختراق أنظمتها لمواقع حكومية؟

بدأت لجنة التجارة الفيدرالية الأمريكية FTC إجراءات تحقيق تستهدف شركتي OpenAI وAnthropic، على خلفية حوادث أمنية ارتبطت بتصرفات أنظمة الذكاء الاصطناعي القادرة على تنفيذ المهام بصورة آلية، شملت اختراق مواقع إلكترونية والتفاعل غير المصرح به مع أنظمة حكومية أثناء الاختبارات، في تطور يفتح الباب أمام مساءلة الشركات المطورة لهذه الأنظمة عن الأضرار التي قد تنتج عن تشغيلها خارج الحدود المتوقعة.

ووفقًا لتقرير نشره موقع Ars Technica نقلًا عن مصادر مطلعة تحدثت إلى Axios، أرسلت اللجنة طلبات تحقيق مدنية إلى الشركتين للحصول على معلومات ووثائق تتعلق بحوادث السلامة والأمن، وتضمنت الطلبات، بحسب المصدر، أكثر من 50 صفحة من الأسئلة، شملت الإجراءات التي اتخذتها الشركات للحد من المخاطر، وسجلات الحوادث، والمواد التسويقية التي ربما قدمت للمستهلكين صورة غير دقيقة عن مستوى أمان المنتجات.

هل يمكن تحميل الذكاء الاصطناعي مسؤولية أفعاله؟

يركز التحقيق على مسألة المسؤولية القانونية عندما ينفذ وكيل ذكاء اصطناعي إجراءً يؤدي إلى انتهاك أنظمة إلكترونية أو الإضرار بجهات خارجية، خاصة مع تطور أدوات قادرة على استخدام المتصفحات والتطبيقات والانتقال بين الخطوات لتنفيذ مهام نيابة عن المستخدمين.

ويرفض رئيس لجنة التجارة الفيدرالية أندرو فيرجسون التعامل مع الأنظمة الذكية باعتبارها كيانات مستقلة يمكن تحميلها المسؤولية بدلًا من الشركات والأشخاص الذين طوروها وشغلوها، ويرى أن وجود تقنية تتخذ قرارات أثناء التنفيذ لا يلغي إمكانية مساءلة الجهات المسؤولة عنها وفق قوانين حماية المستهلك.

غرامات محتملة وتحقيق يتجاوز الشركات المطورة

قد يمتد جمع المعلومات إلى أطراف تضررت من تصرفات وكلاء الذكاء الاصطناعي، بما يسمح للمحققين بمقارنة روايات الشركات مع الوقائع التي شهدتها المواقع والأنظمة المستهدفة، كما يمكن أن يؤدي اكتشاف ممارسات مضللة أو إخفاقات في الإبلاغ عن الحوادث إلى إجراءات قانونية.

ولم يصدر إعلان يثبت ارتكاب الشركتين مخالفات في هذه القضية، كما أن فتح التحقيق لا يعني صدور حكم بالإدانة، لكنه يكشف انتقال النقاش حول سلامة الذكاء الاصطناعي من التحذيرات البحثية إلى اختبار مدى صلاحية القوانين القائمة للتعامل مع أنظمة تستطيع تنفيذ أفعال مؤثرة خارج نطاق المحادثات النصية.