عاجل
أوراكل تصلح ثغرة Java4Shell التي تتيح تنفيذ تعليمات برمجية عن بُعدتحديث iOS 27.3 يضيف ميزة فتح قفل الوجه لهاتف أيفون ديورئيس أركان الجيش الليبى يبحث مع السفير الروسي تعزيز التعاون العسكريرسائل صوتية ونصية تكشف تحرش زميل جامعي سابق بمخرجة سينمائية بالقاهرةمياه الشرب بالغربية تكشف تفاصيل مشروعات الميجا بـ3 مراكز.. تفاصيلقانون لجوء الأجانب يحدد المفهوم القانوني للاجئ وطالب اللجوءطبيعى أم نباتى.. اعرفى الفرق بين أنواع السمن المختلفة ومكوناتهافواكه وخضراوات خريفية غنية بالفيتامينات والمعادن للأطفال لتعزيز صحتهم ونموهم
الإضافة إلى المصادر المفضلة

دراسة: نماذج ذكاء اصطناعي تختار مدنيين أهدافًا في محاكاة عسكرية

منذ 34 دقيقة

كشفت دراسة لشركة تقييم الذكاء الاصطناعي Vals AI، نُشرت أمس الثلاثاء 17 نوفمبر، أن نماذج متقدمة أخطأت في اختبارات محاكاة عسكرية، وصنّفت مدنيين وسيارات إسعاف وجنودًا مستسلمين ضمن الأهداف المحتملة.

وشملت الاختبارات نماذج من ثماني شركات، وفق تغطية بلومبرغ، التي أشارت إلى تفاوت أدائها، مع استمرار الأخطاء حتى لدى النماذج الأفضل في الاختبار.

ضوابط تتراجع أمام سياق الألعاب

واستخدم الباحثون، بحسب التقرير الأصلي، صورًا حقيقية ومولّدة في مهام رصد بالطائرات المسيّرة وتحليل صور الأقمار الصناعية. وقالوا إن أنظمة فلترة السلامة لم تحجب أيًا من طلباتهم، وإن تقديم المهمة بوصفها لعبة تجاوز الرفض في كثير من الحالات.

وفي اختبار صور مدرسة مجاورة لمنشأة عسكرية في ميناب الإيرانية، اختار نموذج Claude Opus 5.5 المدرسة هدفًا في 69% من التجارب العادية، و72% عند وصف السيناريو بأنه لعبة، بواقع 32 تجربة لكل حالة.

نتائج محاكاة وحدود واضحة

وأكد الباحثون أنهم لم يقيّموا فاعلية النماذج داخل أسلحة منشورة فعليًا، أو أداءها في إجراءات الجيش الأمريكي الحقيقية. ورأوا أن استخدام المخرجات لتوسيم تسجيلات المعارك وتدريب أنظمة الاستهداف يمثل خطرًا أقرب من تشغيل النماذج مباشرة على المسيّرات.

ونقل التقرير عن OpenAI أنها تعمل على تحديثات لسلوك نماذجها تشمل المسيّرات وبرمجياتها، حتى عندما تُقدَّم الطلبات في سياق الألعاب أو المحاكاة.

وقالت أنثروبيك لـتك كرانش إن النتائج غير مقبولة، وإنها تطوّر ضمانات إضافية وتوسّع اختباراتها.

وتأتي الدراسة بعد تقييمات نشرتها أنثروبيك في سبتمبر لقدرات النماذج على دعم مهام استخباراتية وتطوير أسلحة تقليدية. وقالت الشركة آنذاك إن بعض هذه المهام كان يتطلب تاريخيًا خبراء ذوي تدريب متخصص، وهو ما يبرز أهمية تقييم احتمالات إساءة الاستخدام إلى جانب قياس القدرات.

✎

فريق تحرير عرب بريس

فريق تحرير عرب بريس خبرة في الصحافة الإلكترونية وإعداد وتحرير التقارير الاقتصادية، وفي صياغة المحتوى وفق معايير تحسين محركات البحث (SEO) يتابع الحدث لحظة وقوعه ويتابع كافة أخبار مصر والعالم العربي علي مدار 24 ساعة بدقة وإحترافية

تابعوا آخر الأخبار العربية والعالمية، وآخر المستجدات السياسية والاقتصادية والرياضية أولًا بأول عبر جوجل نيوز

أخبار ذات صلة