AMD تطرح تصميم Helion لتشغيل وكلاء الذكاء الاصطناعي برف يضم 32768 نواة

نشرت AMD تصميم Helion، وهو مخطط رف مفتوح مخصص لتشغيل وكلاء الذكاء الاصطناعي بدلا من تدريب النماذج، بنسخة تعتمد على المعالجات فقط تضم حتى 32768 نواة، على أن تصل أنظمة الشركاء في نوفمبر، بحسب The Register.

وكشف عن التصميم في قمة Open Compute Project بمدينة سان خوسيه، وهو متاح بنسختين: نسخة للمعالجات فقط لمشغلي مراكز البيانات الضخمة، ونسخة مختلطة تجمع المعالجات والمعالجات الرسومية للمؤسسات.

وتضم النسخة الأولى 128 مقبسا من معالج Venice بـ256 نواة على بنية Zen 6، في شفرات بقدرة 400 واط للتصميم الكثيف أو 600 واط للمتوازن. أما النسخة المختلطة فتحمل بحد أقصى 16 مسرعا من طراز Instinct MI350P في خادمين من ثماني وحدات يعملان باستقلال دون شبكة ربط للتوسع، ما يعني أنها ليست آلة للنماذج المتقدمة. ويبقى رف Helios، الذي يضم 72 مسرعا من MI455X و31 تيرابايت من HBM4، هو المنتج المخصص للتدريب.

وتقول AMD إن الرف المؤسسي يتضمن موجه رموز (token router) يرسل طلبات الوكلاء إما إلى نماذج متقدمة في السحابة أو إلى نماذج مفتوحة المصدر تعمل داخل الرف، وهي تفاصيل وردت في بيان الشركة فقط. وقال دان ماكنمارا، المسؤول عن الحوسبة وذكاء المؤسسات في AMD، إن الهدف تمكين الشركاء من استخدام الطاقة المتاحة بكفاءة.

ويرى مات كيمبل من Moor Insights and Strategy أن جوهر الفكرة هو حشر أكبر عدد ممكن من الوكلاء في كل واط، في ظل تحول الطاقة إلى العائق الأول أمام مراكز البيانات.

ولم تنشر AMD أي أسعار، ولا تزال تخطط لتقديم المواصفات إلى OCP بدلا من أن تكون قد فعلت ذلك، ولم تذكر أي شركة أوروبية لتصنيع الأنظمة بين شركائها.