موظفك الذكي قد يسرب أسرار شركتك.. كيف تحمي بياناتك؟

• صلاحيات واسعة وتعليمات خبيثة قد تحول أدوات الأتمتة إلى بوابة لتسريب المعلومات السرية

تتوسع الشركات في استخدام وكلاء الذكاء الاصطناعي لتسريع الأعمال وأتمتة المهام اليومية، لكن منح هذه الأنظمة صلاحيات تنفيذية واسعة يثير مخاوف أمنية متزايدة، خصوصا مع قدرتها على الوصول إلى البريد الإلكتروني والمستندات وقواعد البيانات والتطبيقات الداخلية.

ويختلف الوكلاء عن المساعدات التقليدية بقدرتهم على تنفيذ الإجراءات دون تدخل بشري مستمر، إذ يستطيع الوكيل إعداد تقارير المبيعات وتحليل البيانات وإرسال النتائج تلقائيا عبر واجهات برمجة التطبيقات والموصلات البرمجية.

وتبرز المخاطر عندما تتجاوز صلاحيات الوكيل احتياجات مهمته، بما يسمح له بتعديل الملفات أو حذفها أو مشاركة معلومات سرية.

وتصنف منظمة «أواسب» الوكالة المفرطة ضمن المخاطر المرتبطة بتطبيقات النماذج اللغوية الكبيرة، خصوصا عند ربط الوكيل بأنظمة متعددة أو منحه صلاحيات إدارية واسعة.

ومن أبرز التهديدات «حقن التعليمات»، حيث تزرع أوامر خبيثة داخل رسائل البريد أو المستندات أو صفحات الويب، بهدف دفع الوكيل إلى تجاوز مهمته وتسريب بيانات إلى جهات خارجية، إذا سمحت صلاحياته بذلك. وقد تتفاقم الأخطاء عند انتقال مخرجات وكيل إلى آخر دون مراجعة.

وللحد من المخاطر، ينصح المختصون بتطبيق مبدأ الحد الأدنى من الصلاحيات، والفصل بين القراءة والتعديل والحذف والإرسال، وتخصيص هويات رقمية مستقلة للوكلاء، مع اشتراط الموافقة البشرية على العمليات الحساسة.

وتشمل إجراءات الحماية مراقبة الأنشطة وتسجيلها، وتقييد الاتصالات الخارجية، وإجراء اختبارات أمنية دورية، ومراجعة التطبيقات المرتبطة، وتوفير آليات لتعطيل الوكلاء عند الاشتباه بإساءة الاستخدام.

كما تتطلب الحماية سياسات واضحة لتحديد مسؤوليات الرقابة وتدريب الموظفين، لضمان تحقيق مكاسب الإنتاجية دون المساس بسرية المعلومات وسلامة الأنظمة.