تحذير من نصائح الذكاء الاصطناعى الطبية.. أخطاء خطيرة قد تمر دون اكتشافها

حذر باحثون من خطورة الاعتماد على روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على النصائح الطبية، مؤكدين أن الأضرار الناتجة عن المعلومات الصحية الخاطئة قد تمر دون أن يلاحظها الأطباء أو الجهات الرقابية، بسبب صعوبة تتبع المحادثات التي تجري بين المستخدمين وهذه الأنظمة.

وأوضحت دراسة نُشرت في مجلة «نيتشر هيلث»، بمشاركة باحثين من جامعات بينجهامتون وستانفورد وتكساس إيه آند إم وإنديانا، أن المشكلة لا تقتصر على احتمال تقديم روبوتات الدردشة معلومات طبية غير دقيقة، بل تمتد إلى صعوبة اكتشاف الأخطاء ومعرفة تأثيرها على صحة المستخدمين، خاصة عندما تظل المحادثات محصورة داخل منصات الذكاء الاصطناعي.

نصائح طبية خاطئة قد تؤدي إلى عواقب خطيرة
 

واستشهد الباحثون بحالة رجل يبلغ من العمر 60 عامًا طلب من روبوت «شات جي بي تي» نصيحة لتقليل الكلوريد في نظامه الغذائي، فحصل على اقتراح باستبدال ملح الطعام ببروميد الصوديوم ، وبعد اتباع النصيحة، أُصيب الرجل بتسمم البروميد، ما أدى إلى دخوله المستشفى ومعاناته من الهلوسة والشكوك المرضية.

وأظهرت هذه الحالة صعوبة تحديد مصدر الخطأ، إذ لم يتمكن الأطباء من معرفة النصيحة التي تلقاها الرجل بصورة دقيقة، لأن المحادثة كانت محفوظة داخل منصة الذكاء الاصطناعي. ويرى الباحثون، أن غياب آليات فعالة لرصد هذه التفاعلات يجعل اكتشاف الأضرار المرتبطة بالنصائح الطبية الخاطئة أكثر صعوبة.

وعلى عكس الاستشارات الطبية التقليدية، التي يمكن توثيقها في السجلات الصحية، والآثار الجانبية للأدوية التي يمكن الإبلاغ عنها عبر أنظمة مخصصة، قد لا تتوافر محادثات الذكاء الاصطناعي أمام الأطباء والباحثين والجهات التنظيمية، ما يحد من قدرتهم على رصد الأخطاء المتكررة وتقييم مخاطرها.

ولا تتوقف المشكلة عند المستخدمين الذين يطرحون أسئلة طبية مباشرة، إذ يمكن أن يتعرض الأشخاص لمعلومات صحية مضللة أثناء تصفح الإنترنت، من خلال ملخصات الذكاء الاصطناعي أو المنشورات التي تظهر على منصات التواصل الاجتماعي.

مطالب بمحاسبة شركات الذكاء الاصطناعي
 

واقترح الباحثون مجموعة من الإجراءات للحد من هذه المخاطر، من بينها تمكين المستخدمين من الوصول إلى سجل محادثاتهم، وتطوير أنظمة قادرة على اكتشاف النصائح الصحية الضارة والإبلاغ عنها، بما يساعد على تحديد الأخطاء وفهم آثارها بصورة أفضل.

كما دعوا صناع السياسات ، إلى دراسة إمكانية توسيع نطاق المسؤولية القانونية ليشمل شركات الذكاء الاصطناعي التي تقدم إرشادات طبية، بحيث تخضع لمستويات من المساءلة تتناسب مع المخاطر المحتملة للنصائح التي توفرها.

وتسلط الدراسة الضوء على ضرورة التعامل بحذر مع المعلومات الطبية التي تقدمها روبوتات الدردشة، إذ إن أسلوبها الواثق لا يعني بالضرورة أن إجاباتها صحيحة ، ويظل الرجوع إلى الأطباء والمتخصصين أمرًا ضروريًا عند اتخاذ القرارات المتعلقة بالتشخيص أو العلاج أو تغيير النظام الغذائي بناءً على حالة صحية معينة.