كشف تجربة صحفية هشاشة أنظمة الذكاء الاصطناعي في التحقق من المعلومات، وهذا سياق هادئ لزميل أو صديق مهتم بمستقبل التكنولوجيا ليُدرك معاً كيف تُشكّل البيانات المضللة الإجابات الآلية.
صحفي يخدع روبوتات الذكاء الاصطناعي بادعاء كاذب مسار القصة والحقائق الرئيسية
كشف تحقيق أجرته هيئة الإذاعة البريطانية عن هشاشة في أنظمة الذكاء الاصطناعي الحديثة، بعدما نجح صحفي في خداع روبوتات محادثة شهيرة مثل OpenAI ChatGPT وGoogle Gemini. اعتمد الصحفي على نشر مقال واحد عبر الإنترنت يدّعي فيه أنه بطل عالمي في تناول النقانق، وهو إنجاز وهمي لا وجود له في الواقع. رغم بساطة المقال، اعتبرته أنظمة الذكاء الاصطناعي مصدراً موثوقاً، وبدأت تكرر الادعاء كحقيقة عند سؤالها.
الحقائق
- صحفي بريطاني نجح في خداع روبوتات محادثة شهيرة عبر نشر مقال كاذب يدّعي فيه أنه بطل عالمي في تناول النقانق.
- الروبوتات التي صدّقت الادعاء تشمل OpenAI ChatGPT وGoogle Gemini، ضمن تجربة كشفت هشاشة أنظمتها في التحقق من المصادر.
- التجربة أظهرت أن أنظمة الذكاء الاصطناعي قد تُعتمد على محتوى ويب واحد أو منشور على وسائل التواصل كمصدر كافٍ للإجابة دون تحقق دقيق.
- خبراء يحذرون من أن هذه الثغرة قد تُستغل لتضليل الأنظمة في موضوعات حساسة مثل الصحة والتمويل الشخصي.
شرح بصري من Canto. قد تساعد أدوات AI في الإنتاج. السياسة التحريرية
أخبار ذات صلة
