"مايكروسوفت": الذكاء الاصطناعي يحتاج إلى "فرامل طوارئ" يتحكم فيه البشر

مباشر- دعا ساتيا ناديلا، رئيس مجلس إدارة شركة "مايكروسوفت" ومديرها التنفيذي، يوم السبت، إلى بناء أنظمة ذكاء اصطناعي متقدمة مزودة بضوابط احتواء مستقلة، و"فرامل طوارئ" تُمكّن الأشخاص المُصرّح لهم من إيقاف النموذج مؤقتًا أو إغلاقه أثناء تنفيذ المهمة.

وكتب ناديلا في منشور على منصة التواصل الاجتماعي "إكس" نحن بحاجة إلى إحاطة النماذج غير الحتمية بتصميم نظام قوي وحتمي، وضوابط بشرية، وإجراءات تشغيل موثوقة، ووضع معايير صناعية حيثما تكون المعايير الحالية غير كافية.

وأضاف ناديلا أن التعامل مع نماذج الأوزان المغلقة والمفتوحة الرائدة كما لو كانت مخاطر داخلية هو سبيل لبناء مثل هذا النظام.

وتأتي تصريحات ناديلا وسط تحذيرات من كبار المديرين التنفيذيين والباحثين في مجال التكنولوجيا، بمن فيهم بيل جيتس، المؤسس المشارك لشركة "مايكروسوفت"، وداريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك"، وسام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، وإيلون ماسك، الرئيس التنفيذي لشركة "سبيس إكس"، بشأن عدم كفاية بروتوكولات أمان الذكاء الاصطناعي، ومزاعم بأن هذه التقنية تتطور بسرعة فائقة.

استقال باحث في مجال الذكاء الاصطناعي من شركة "أنثروبيك" الشهر الماضي، متهماً الشركة ومنافستها الرئيسية، "أوبن إيه آي"، بـ"المقامرة بحياتنا". وفي وقت لاحق من ذلك اليوم، صرّح مسؤولٌ في "أنثروبيك" متخصص في سلامة الذكاء الاصطناعي بأن هناك احتمالًا يزيد عن 10% أن تُؤدي هذه التقنية إلى "القضاء على البشرية جمعاء" خلال العقد القادم.

وفي المقابل، قلّل الرئيس دونالد ترامب مراراُ من شأن مخاطر انقراض الذكاء الاصطناعي، مؤكدًا بدلًا من ذلك على ضرورة أن يتفوق هذا القطاع على الصين. كما أعلن ترامب مؤخرًا عن قوة الذكاء الاصطناعي الجديدة، بقيادة مدير المخابرات الوطنية جاي كلايتون، لدعم هذا القطاع واستئصال الجهات الخبيثة.

وكتب ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، يوم السبت، أن أنظمة الذكاء الاصطناعي يجب أن تُصمّم وفقًا لمبادئ قابلية المراقبة.

وأضاف ناديلا أن هذه المبادئ تشمل تنوّع النماذج، وبصمةً واضحةً لسلوك النموذج، واختباراً مستمراً للنظام، وضوابط مستقلة وقابلة للتدقيق؛ والاحتواء؛ والإبلاغ عن الحوادث.