الذكاء الاصطناعي قد يؤذيك.. وهو يحاول مساعدتك!

• مخاطر خفية تهدد بيانات المستخدمين وتعزز معتقداتهم الخاطئة

حذرت تقارير تقنية من مخاطر متزايدة لاستخدام مساعدي الذكاء الاصطناعي، لا ترتبط بقدرتهم على اتخاذ قرارات مستقلة، وإنما بميلهم إلى الموافقة المفرطة على المستخدمين، وتعزيز معتقداتهم الخاطئة، وتشجيع التعلق العاطفي غير الصحي، فضلا عن احتمالات استغلالهم لاختراق البيانات.

وأعلنت شركة «أليس» المتخصصة في سلامة الذكاء الاصطناعي، في 15 أكتوبر، تعاونها بصورة منفصلة مع شركتي «إنفليكشن إيه آي» و«إيه آي 21»، لتطوير قدرات نماذج «نيموترون» التابعة لشركة «إنفيديا»، بما يعزز مقاومتها للسلوكيات الضارة والهجمات الإلكترونية.

وشملت جهود التطوير إنشاء أكثر من 20 شخصية افتراضية لاختبار سلوك المساعدين خلال المحادثات الطويلة، خصوصا حالات الموافقة المفرطة والتعلق غير الصحي. وأسفرت الاختبارات عن تحسن بنسبة 30% في مقياس التوافق الخاص بالمساعد «باي»، مع بقاء حالات الرفض غير الضروري عند 1.6%.

وفي الجانب الأمني، حققت شركة «إيه آي 21» تحسنا قدره 41 نقطة في مقاومة هجمات «حقن التعليمات غير المباشر»، التي تستهدف خداع المساعد لتنفيذ أوامر خبيثة ضمن محتوى خارجي، مع الحفاظ على أدائه في تنفيذ المهام.

وتبرز خطورة هذه الهجمات مع اتساع صلاحيات المساعدين لتشمل قراءة المستندات وإرسال الرسائل والتعامل مع الخدمات الرقمية، ما يزيد احتمالات تسريب المعلومات وتنفيذ إجراءات غير مصرح بها.

وكانت شركة «أوبن إيه آي» قد تراجعت في أبريل 2025 عن تحديث لبرنامج «تشات جي بي تي» بسبب ميله المفرط لموافقة المستخدمين، فيما وثقت شبكة «سي إن إن» حالات عزز فيها المساعد اعتقادات غير صحيحة، بينها إنفاق مستخدم نحو ألف دولار لبناء نظام حاسوبي.