عدلت شركة Anthropic سياسة استخدام نماذج الذكاء الاصطناعي التابعة لها، لتشمل قيودًا على إساءة استخدام الأنظمة والتدخل في العمليات الانتخابية، في خطوة تعكس تصاعد المخاوف من توظيف تقنيات توليد المحتوى في حملات التضليل والتأثير على الجمهور، خصوصًا مع تزايد قدرة النماذج على إنتاج النصوص وإدارة المهام.
ووفقًا لتقرير نشره موقع TechCrunch، أدخلت الشركة تغييرات على سياسة الاستخدام تحظر إساءة استغلال النماذج والتدخل الانتخابي، بما يضع حدودًا تعاقدية لسلوك المستخدمين والتطبيقات التي تعتمد على تقنياتها، ويعيد النقاش حول مسؤولية مطوري الذكاء الاصطناعي عن الاستخدامات التي تتم عبر خدماتهم.
كيف يمكن استغلال الذكاء الاصطناعي في الانتخابات؟
تسمح النماذج التوليدية بإنتاج كميات من الرسائل والنصوص وتعديل صياغتها لجماهير مختلفة، كما يمكن استخدامها في إعداد محتوى يبدو صادرًا عن أشخاص حقيقيين، وهو ما يجعلها أدوات محتملة في حملات التضليل إذا استُخدمت لنشر معلومات كاذبة أو انتحال الهويات.
لكن استخدام الذكاء الاصطناعي في المجال السياسي لا يعني بالضرورة وقوع تدخل انتخابي، إذ توجد تطبيقات مشروعة تشمل الترجمة والبحث وتحليل الوثائق، ولذلك يتطلب تطبيق القيود التمييز بين الأنشطة السياسية المسموح بها والممارسات التي تستهدف الخداع أو التلاعب.
هل تكفي سياسات الشركات لمنع التضليل؟
تمثل قواعد الاستخدام إحدى وسائل الحد من المخاطر، لكنها تعتمد على قدرة الشركة على اكتشاف المخالفات واتخاذ إجراءات ضد الحسابات أو التطبيقات التي تستخدم النماذج بصورة محظورة، وتزداد صعوبة الرقابة عندما تنتقل المواد المنتجة إلى منصات أخرى، أو عندما تستخدم جهات متعددة أدوات مختلفة لإنتاج المحتوى ونشره، وهو ما يجعل مواجهة التضليل مرتبطة أيضًا بآليات التحقق والإفصاح والمساءلة، وليس بسياسات مطوري النماذج وحدها.
- الذكاء الاصطناعي يفتح أبواب البنوك للقراصنة.. هجمات تضرب اليابان
- ميتا ومايكروسوفت تقللان استخدام Claude داخليًا بسبب ارتفاع تكاليف الذكاء الاصطناعي
- من يكتب بدلًا منك؟.. كيف تغير وكلاء AI طريقة استخدام الإنترنت
- تصعيد جديد.. ويكيميديا تتهم وكلاء OpenAI بإساءة استخدام منصاتها
- هل تستطيع التمييز بين ما يكتبه الإنسان وما ينتجه الذكاء الاصطناعي؟
