باحث سابق في Anthropic يحذر: الذكاء الاصطناعي قد يخرج عن السيطرة

أثار الباحث السابق في شركة Anthropic، جاكوب كوكسون، مخاوف جديدة بشأن مستقبل الذكاء الاصطناعي، محذرًا من أن استمرار تطوير الأنظمة المتقدمة دون وضع إجراءات أمان وضوابط كافية قد يؤدي إلى فقدان البشر السيطرة على بعض أنظمة الذكاء الاصطناعي، وصولًا إلى سيناريوهات بالغة الخطورة على البشرية، وجاءت تصريحات كوكسون خلال جلسة استماع أمام مجلس مدينة نيويورك، حيث تحدث عن المخاطر المرتبطة بطريقة تطوير أنظمة الذكاء الاصطناعي المتقدمة، مؤكدًا أن الصناعة لا تزال تفتقر إلى طريقة مؤكدة لضمان السيطرة الكاملة على هذه الأنظمة.

تحذير من فقدان السيطرة

قال كوكسون خلال الجلسة إن البشر لا يعرفون حتى الآن كيفية التحكم بشكل كامل في أي نظام ذكاء اصطناعي، مشيرًا إلى أن الاعتماد على ما يمكن وصفه بـ”مفتاح إيقاف” للنظام قد يساعد في التعامل مع بعض المشكلات على المدى القصير، لكنه لا يمثل بالضرورة حلًا كافيًا لضمان السلامة على المدى الطويل، ويرى الباحث السابق أن استمرار الصناعة في تطوير قدرات الذكاء الاصطناعي بوتيرة سريعة، دون تطوير إجراءات أمان بنفس المستوى، قد يزيد من احتمالات ظهور أنظمة تتصرف بطرق لم يكن مطوروها يتوقعونها.

انتقادات لطريقة عمل شركات الذكاء الاصطناعي

ركز كوكسون جزءًا كبيرًا من انتقاداته على ما وصفه بعقلية الشركات الناشئة التي تقوم على التحرك بسرعة ثم إصلاح المشكلات بعد ظهورها، ويرى أن هذه الطريقة قد تكون مناسبة عند تطوير تطبيقات وخدمات عادية، لكنها لا تصلح بالضرورة عند التعامل مع أنظمة ذكاء اصطناعي تزداد قدرتها وتعقيدها بسرعة، لأن اكتشاف المشكلة بعد إطلاق النظام قد يأتي في وقت يصعب فيه احتواء آثارها، وأضاف أن المخاطر تصبح أكبر عندما تكون الأنظمة قادرة على تنفيذ مهام متعددة والعمل بدرجة أكبر من الاستقلالية، مؤكدًا ضرورة وضع إجراءات أمان خلال مراحل التطوير وليس بعد وقوع المشكلة.

حادثة الوكلاء الذكيين تثير المخاوف

استشهد كوكسون خلال حديثه بحادثة مرتبطة بوكلاء الذكاء الاصطناعي، معتبرًا أنها مثال على المخاطر التي يمكن أن تظهر عندما تعمل الأنظمة بصورة مستقلة وتتخذ خطوات لم يحددها البشر بشكل مباشر، ويرى أن مثل هذه الوقائع تطرح سؤالًا مهمًا حول قدرة المطورين على منع أنظمة الذكاء الاصطناعي من تبني أهداف أو تنفيذ سلوكيات لم تكن مقصودة أثناء تصميمها، وحذر من أن تكرار هذه الحالات مستقبلًا، مع أنظمة أكثر تطورًا وقدرة، قد يؤدي إلى نتائج أكثر تعقيدًا إذا لم تكن هناك ضوابط واضحة للتعامل معها.

الذكاء الاصطناعي يحمل فوائد ضخمة أيضًا

رغم تحذيراته، لم يقدم كوكسون الذكاء الاصطناعي باعتباره خطرًا فقط، بل أشار إلى إمكانية تحقيق فوائد كبيرة إذا تم تطوير التكنولوجيا بطريقة آمنة، ويرى أن الذكاء الاصطناعي يمكن أن يساهم في تغيير الاقتصاد، ودعم التقدم العلمي والطبي، وتحسين العديد من جوانب الحياة اليومية، لكن تحقيق هذه الفوائد يتطلب التعامل مع مخاطر التكنولوجيا بالتوازي مع تطوير قدراتها.

مطالب بوضع ضوابط جديدة

شهدت جلسة مجلس مدينة نيويورك مشاركة ممثلين عن شركات تكنولوجيا وذكاء اصطناعي كبرى، من بينها OpenAI وAnthropic وGoogle وMeta، لمناقشة الإجراءات التي يمكن اتخاذها للحد من المخاطر المحتملة، ومن بين المقترحات التي نوقشت توفير حماية أكبر للمبلغين عن المخالفات داخل شركات الذكاء الاصطناعي، إلى جانب بحث آليات تسمح بمحاسبة الشركات في بعض الحالات التي تتسبب فيها أنظمتها بأضرار، كما طُرحت فكرة الاستعانة بجهات مستقلة لتقييم بعض أنظمة الذكاء الاصطناعي قبل السماح باستخدامها في تطبيقات معينة داخل المدينة.

جدل متزايد حول مستقبل الذكاء الاصطناعي

تعكس تصريحات كوكسون جانبًا من الجدل المتصاعد حول كيفية تحقيق التوازن بين تسريع تطوير الذكاء الاصطناعي ووضع ضوابط تحمي المستخدمين والمجتمع، وفي الوقت الذي تدفع فيه بعض شركات الذكاء الاصطناعي باتجاه وضع قواعد للأنظمة الأكثر تقدمًا، توجد أيضًا مواقف مختلفة داخل قطاع التكنولوجيا بشأن مدى وطبيعة التنظيم المطلوب، ويظل السؤال الأساسي المطروح أمام الصناعة وصناع القرار هو كيفية تطوير أنظمة أكثر قدرة، مع ضمان وجود آليات فعالة لاختبارها ومراقبتها والتدخل عند ظهور سلوكيات غير متوقعة، قبل أن تصبح المخاطر أكبر من قدرة البشر على احتوائها.