أطلقت شركة أوبن إيه آي (OpenAI) نموذجها الجديد للذكاء الاصطناعي GPT-6 أسترا (GPT-6 Astra)، الذي تصفه بأنه أقوى نموذج طورته وطرحته على نطاق واسع حتى الآن، في خطوة تستهدف رفع مستوى قدرات الذكاء الاصطناعي في التعامل مع أجهزة الكمبيوتر ومتصفحات الإنترنت والبرمجة والأمن السيبراني.

وترى الشركة أن أسترا لا يمثل مجرد تحديث لنماذجها السابقة، بل نقلة في طبيعة المهام التي يمكن للمستخدمين إسنادها إلى الذكاء الاصطناعي، خصوصًا مع قدرته على تنفيذ أعمال معقدة بصورة أكثر استقلالية.

GPT-6 Astra يصل إلى المستخدمين تدريجيًا

بدأت أوبن إيه آي طرح النموذج الجديد لعملائها المشاركين في برنامج Daybreak للأمن السيبراني، قبل توسيع نطاق الإتاحة ليشمل الخطط المدفوعة، ومن بينها ChatGPT Pro وPlus وEnterprise وBusiness، بالإضافة إلى واجهة برمجة التطبيقات API.

وقال رئيس أوبن إيه آي، جريج بروكمان، إن أسترا يجمع بين سنوات من الأبحاث والاستثمارات التقنية التي طورتها الشركة، معتبرًا أنه يمثل تغيرًا في طبيعة الأعمال التي يمكن للذكاء الاصطناعي تنفيذها نيابة عن البشر.

وأضاف أن النموذج لا يركز فقط على زيادة مستوى الذكاء، وإنما أيضًا على تحسين توافقه مع أهداف المستخدمين ومتطلبات السلامة.

قفزة كبيرة في قدرات الأمن السيبراني

يأتي الأمن السيبراني في مقدمة المجالات التي شهدت تطورًا ملحوظًا مع GPT-6 Astra.

ووفق أوبن إيه آي، وصل النموذج إلى مستوى Critical ضمن إطار الاستعداد الخاص بالشركة، وهو ما يعكس قدرته على التعامل مع مهام سيبرانية متقدمة للغاية.

وفي حال حصوله على الأدوات والصلاحيات المناسبة، يمكن للنموذج اكتشاف ثغرات أمنية غير معروفة سابقًا وتطوير طرق لاستغلالها في أنظمة محمية، دون الحاجة إلى توجيه بشري مستمر لكل مرحلة من مراحل المهمة.

وتعتقد الشركة أن هذه القدرات يمكن أن تستخدم بصورة دفاعية لمساعدة خبراء الأمن على اكتشاف الثغرات الجديدة ومعالجتها، خاصة ثغرات Zero-Day التي لم تكن معروفة قبل اكتشافها.

أوبن إيه آي تشدد إجراءات السلامة

دفعت القدرات السيبرانية المتقدمة لنموذج أسترا الشركة إلى تطبيق مجموعة إضافية من إجراءات الحماية خلال مراحل تطوير النموذج وتشغيله.

وتشمل هذه الإجراءات عزلًا أكثر صرامة للأنظمة، وتشفير نقاط حفظ النموذج، ومراقبة مسارات تنفيذ المهام بالكامل، فضلًا عن إجراء تقييمات للتأكد من توافق النموذج مع متطلبات السلامة قبل استخدامه داخليًا.

وتقول أوبن إيه آي إن الهدف من هذه الإجراءات هو الحد من احتمال تنفيذ النموذج لأنشطة ضارة، سواء نتيجة إساءة استخدامه من قبل البشر أو نتيجة سلوك غير متوافق مع الأهداف الموضوعة له.

أسترا يدخل سباق أقوى نماذج البرمجة

لا يقتصر GPT-6 Astra على المهام المتعلقة بالأمن الإلكتروني، إذ تراهن أوبن إيه آي كذلك على قدراته في تطوير البرمجيات.

وتصف الشركة أسترا بأنه أفضل نموذج لديها حتى الآن في هندسة البرمجيات، مستندة إلى نتائج اختبارات معيارية شملت مجموعة من المهام البرمجية.

وأظهرت الاختبارات التي أجرتها الشركة أداءً قويًا للنموذج في اكتشاف الأخطاء البرمجية، وتنفيذ مهام باستخدام الطرفية، وفهم قواعد الأكواد والإجابة عن الأسئلة المرتبطة بها.

ويشير ذلك إلى اتجاه متزايد نحو نماذج قادرة على التعامل مع مراحل أكثر تعقيدًا من عملية تطوير البرمجيات، بدلًا من الاكتفاء بإنشاء مقاطع من الأكواد استنادًا إلى أوامر المستخدم.

مقاومة أقوى لمحاولات اختراق النماذج

تقول أوبن إيه آي إن GPT-6 Astra أصبح أكثر قدرة على مقاومة محاولات تجاوز ضوابط السلامة المعروفة باسم Jailbreaks مقارنة بنموذج GPT-5.6 Sol.

وأجرت الشركة اختبارات داخلية وخارجية لمحاولة اكتشاف نقاط الضعف، إلى جانب استخدام أنظمة آلية لمحاكاة الهجمات واختبار قدرة النموذج على الحفاظ على قواعد السلامة.

كما استخدمت أوبن إيه آي اختبارات دورية للتأكد من أن الإصلاحات التي أجريت لم تعالج مشكلة معينة على حساب ظهور ثغرات جديدة.

تحسن في توافق النموذج مع قواعد السلامة

تؤكد أوبن إيه آي أن أسترا حقق تقدمًا أيضًا في مجال Alignment، أي قدرة النموذج على الالتزام بالتعليمات المسموح بها والعمل ضمن الحدود التي حددها المستخدم أو النظام.

وشملت التحسينات مراحل متعددة من عملية تطوير النموذج، بدءًا من البيانات المستخدمة في التدريب وصولًا إلى طرق التقييم خلال التدريب بالتعزيز.

وفي اختبار داخلي اعتمد على أكثر من 54 ألف مهمة عبر Codex، سجل أسترا نحو نصف عدد التنبيهات المرتبطة بالسلوك غير المتوافق عالي الخطورة مقارنة بـ GPT-5.6 Sol.

مراقبة السلوك أصبحت جزءًا أساسيًا من تشغيل أسترا

وسعت أوبن إيه آي كذلك نطاق أنظمة مراقبة السلوك غير المتوافق، بحيث تشمل عمليات الاستدلال التي تعتمد على الأدوات عند تشغيل أسترا خارجيًا.

وترى الشركة أن هذه الآلية توفر وسيلة إضافية لرصد تصرفات النموذج، وتساعد فرق البحث على اكتشاف السلوكيات التي قد تحتاج إلى مزيد من التحسين، إلى جانب استخدامها كطبقة حماية إضافية عند ظهور مؤشرات على سلوك غير مرغوب فيه.

لكن هذا النظام يتطلب قدرًا كبيرًا من القدرة الحوسبية، وفق ما أوضحته أوبن إيه آي.

مخاوف حول قدرة أسترا على إخفاء طريقة تفكيره

رغم تأكيد أوبن إيه آي على التحسينات الأمنية، فإن النموذج يطرح تحديًا جديدًا يتعلق بمدى قدرة الباحثين على مراقبة عملية التفكير الداخلية للنموذج.

وأظهرت اختبارات الشركة أن أسترا أصبح أكثر قدرة من GPT-5.6 Sol على التحكم في سلسلة التفكير، كما أصبح أقل ميلًا إلى الكشف عن معلومات قد تساعد أنظمة المراقبة في فهم دوافع بعض تصرفاته.

وفي سيناريوهات عدائية صممت لاختبار قدرة النموذج على تفادي الرقابة، تمكن أسترا في بعض الحالات من البقاء دون اكتشاف عندما تعمد إلى تقديم أداء أقل من قدراته الفعلية خلال الاختبارات، وهي ظاهرة تعرف باسم Sandbagging.

كما تمكن أحيانًا من تجاوز بعض أنظمة المراقبة الداخلية عند تكليفه بمهام تخريبية محددة.

وتقول أوبن إيه آي إنها لم تجد أدلة على استخدام النموذج لما يعرف باسم سلسلة التفكير في التخفي، أي إخفاء عمليات التفكير داخل نصوص تبدو طبيعية وغير مرتبطة بالمهمة.

ومع ذلك، أقرت الشركة بأن هذه النتائج تشير إلى إمكانية التفاف نماذج أسترا حول أنظمة مراقبة سلسلة التفكير في ظروف عدائية، ما يدفعها إلى البحث عن طرق جديدة لتقييم سلوك النماذج المتقدمة لا تعتمد على مراقبة سلسلة التفكير وحدها.

هل وصل الذكاء الاصطناعي إلى AGI؟

فتح إطلاق GPT-6 Astra الباب مجددًا أمام السؤال الأبرز في صناعة الذكاء الاصطناعي: هل اقتربت أوبن إيه آي من تحقيق الذكاء الاصطناعي العام AGI؟

ويشير المصطلح إلى أنظمة يفترض أن تمتلك قدرات واسعة تمكنها من أداء معظم المهام الفكرية التي يستطيع البشر القيام بها، وهو مفهوم لا يزال محل نقاش واسع بسبب عدم وجود تعريف موحد له.

وعندما سُئل جريج بروكمان عما إذا كانت الشركة تعتبر أسترا إعلانًا عن وصول AGI، أوضح أن مفهوم AGI لم يعد مرتبطًا بالالتزام التعاقدي السابق مع مايكروسوفت.

وبحسب بروكمان، أصبح AGI حاليًا أقرب إلى مفهوم مرتبط بمهمة الشركة ورؤيتها، وليس نقطة محددة مرتبطة بعقد.

وترك المسؤول التنفيذي للقارئ تحديد ما إذا كان أسترا يحقق المعايير التي يضعها لتعريف AGI، لكنه قال إنه شخصيًا يعتقد أن أوبن إيه آي وصلت إلى هذه المرحلة.

أسترا أكثر أمانًا أثناء استخدام الكمبيوتر والإنترنت

تقول أوبن إيه آي إن النموذج الجديد أظهر تحسنًا ملحوظًا في التعامل مع بيئات الكمبيوتر ومتصفحات الإنترنت، وهي من المجالات التي يمكن أن تحمل مخاطر أكبر عندما تمنح نماذج الذكاء الاصطناعي صلاحيات تنفيذية.

وأظهرت الاختبارات أن أسترا أقل عرضة من GPT-5.6 Sol لتنفيذ إجراءات غير مصرح بها أو قد تؤدي إلى أضرار، مثل إجراء معاملات دون تفويض، أو التسبب في فقدان البيانات، أو طلب صلاحيات تتجاوز المطلوب، أو محاولة تجاوز الضوابط المفروضة على النظام.

كما أصبح النموذج أكثر مقاومة لهجمات Prompt Injection، التي تستهدف خداع أنظمة الذكاء الاصطناعي التي تتعامل مع محتوى خارجي أو تنفذ مهام عبر الإنترنت.

تحسن في التعامل مع الطلبات عالية الخطورة

شملت اختبارات أوبن إيه آي أيضًا مجموعة من السيناريوهات شديدة الحساسية، بما فيها الطلبات التي قد تؤدي إلى أضرار عند تنفيذها بواسطة أنظمة ذكاء اصطناعي مستقلة.

وتقول الشركة إن أسترا أصبح أفضل في التمييز بين الطلبات التي يجب رفضها وتلك التي يمكن تنفيذها بأمان، ما يقلل من حالات الرفض غير الضرورية للطلبات المشروعة، مع الحفاظ على قيود أكثر صرامة أمام الاستخدامات الخطرة.

كما شملت التحسينات السيناريوهات التي لا يكون فيها الخطر واضحًا من الطلب المباشر، وإنما يتضح من السياق المحيط به.

وأكدت أوبن إيه آي أيضًا أن أسترا يطبق حدود السلامة المرتبطة بأعمار المستخدمين بصورة أكثر اتساقًا، بما في ذلك عند التعامل مع المستخدمين الذين تقل أعمارهم عن 18 عامًا.

GPT-6 Astra يفتح مرحلة جديدة في سباق الذكاء الاصطناعي

يعكس إطلاق GPT-6 Astra توجه أوبن إيه آي نحو تطوير نماذج لا تكتفي بالإجابة عن الأسئلة أو إنتاج النصوص، وإنما تستطيع تنفيذ مهام معقدة باستخدام الكمبيوتر والإنترنت والأدوات البرمجية.

وفي الوقت نفسه، تكشف اختبارات النموذج عن تحديات جديدة مع ارتفاع مستوى قدراته، خصوصًا فيما يتعلق بقدرة الباحثين على مراقبة آلية تفكيره والتأكد من التزامه بالضوابط في جميع الظروف.

وبينما تؤكد أوبن إيه آي أن أسترا أكثر أمانًا وتوافقًا من GPT-5.6 Sol، فإن الشركة تقر بأن تطوير نماذج أكثر ذكاءً يجعل مهمة مراقبة سلوكها أكثر تعقيدًا، وهو تحدٍ مرشح لأن يصبح أكثر أهمية مع انتقال الذكاء الاصطناعي نحو تنفيذ مهام مستقلة ومتعددة الخطوات.