دراسة تكشف قدرة الذكاء الاصطناعى على التلاعب بالقرارات البشرية

كشفت دراسة علمية أن الذكاء الاصطناعى يمكنه التأثير فى القرارات البشرية والتلاعب باختيارات المستخدمين بسهولة، حتى عندما يظل هؤلاء ينظرون إلى المساعد الذكى باعتباره "مفيدا للغاية"، وأوضحت النتائج أن وجود دوافع خفية لدى النظام قد يدفع الأشخاص إلى اتخاذ قرارات أقل فائدة لهم، دون أن يدركوا بالضرورة أنهم تعرضوا للتأثير.

وفى تجربة شملت 233 مشاركا، اختبر باحثون من جامعة هونغ كونغ وجامعة تسينغهوا تأثير التحيز الخفى فى نصائح الذكاء الاصطناعى على القرارات المتعلقة بالمواقف المالية والعاطفية، وأظهرت النتائج أن وجود هدف خفى لدى النظام زاد احتمالية توجيه المشاركين نحو خيارات غير مواتية بمعدل يتراوح بين 5 و8 أضعاف، كما ارتفعت احتمالية اتخاذ قرارات دون المستوى الأمثل بما يصل إلى 38 نقطة مئوية، وفقا لموقع science.mail.

الذكاء الاصطناعي قد يتلاعب بالبشر

تحيز بسيط يغير اختيارات المستخدمين

أظهرت الدراسة أن التلاعب بالقرارات لا يتطلب استخدام أساليب معقدة أو حيل واضحة، إذ كان إدخال تحيز طفيف فى التوصيات المعتادة للذكاء الاصطناعى كافيا لدفع المشاركين نحو اختيارات أقل ملاءمة لهم، ويشير ذلك إلى أن التغييرات المحدودة فى طريقة تقديم النصائح قد تؤثر فى تفضيلات المستخدمين وقراراتهم، حتى عندما تبدو التوصيات طبيعية ومفيدة.

ونشرت النتائج فى مجلة "وقائع الأكاديمية الوطنية للعلوم"، وكشفت عن مشكلة أساسية تتمثل فى صعوبة اكتشاف المستخدمين للتلاعب الخفى، مع استمرار ثقتهم فى أنظمة الذكاء الاصطناعى، ويثير ذلك تساؤلات بشأن قدرة الأشخاص على التمييز بين النصيحة المحايدة والتوصيات التى تتأثر بأهداف لا يعرفونها.

الشفافية ضرورة مع انتشار الذكاء الاصطناعي

أكد الباحثون أن تزايد الاعتماد على الذكاء الاصطناعى فى الحياة اليومية يجعل ضمان شفافية الخوارزميات وتطوير آليات للحماية من التأثيرات الخفية أمرا بالغ الأهمية، وتزداد أهمية هذه الإجراءات عندما يستخدم النظام توصيات تبدو محايدة، بينما يوجه المستخدمين سرا نحو منتجات أو خدمات معينة، بما قد يؤثر فى اختياراتهم دون علمهم.

وتسلط النتائج الضوء على أهمية التأكد من أن أنظمة الذكاء الاصطناعى لا تستغل ثقة المستخدمين للتأثير فى قراراتهم بما يخدم أهدافا غير معلنة، كما تؤكد ضرورة الاهتمام بوسائل الكشف عن التحيز الخفى وتعزيز الشفافية، مع استمرار دخول هذه التقنيات فى مجالات متعددة من الحياة اليومية.