تحقيق صادم.. روبوتات الذكاء الاصطناعي تقع ضحية التضليل بسهولة

كشفت تجربة حديثة سهولة التلاعب بروبوتات الدردشة المدعومة بالذكاء الاصطناعي، بعد نجاح صحفي في إقناع ChatGPT و Gemini بأنه “بطل عالمي في تناول النقانق” عبر مقال واحد نشره على موقعه الشخصي.

أوضحت التجربة أن الأمر لم يتطلب تقنيات معقدة أو اختراقات متقدمة، بل اعتمد على صياغة مقال يبدو موثوقًا لمحركات البحث، مما جعل أنظمة الذكاء الاصطناعي تتعامل معه ك مصدر حقيقي للمعلومات.

شملت التحقيقات روبوتات مثل ChatGPT و Gemini وميزة “AI Overviews” في محرك بحث جوجل، حيث تبيّن إمكانية دفعها لتقديم معلومات مضللة أو متحيزة، خاصة في موضوعات حساسة تتعلق بالصحة والتمويل الشخصي.

أشار خبراء تحسين محركات البحث إلى أن المشكلة ترتبط بطريقة عمل روبوتات الدردشة الحديثة، التي تلجأ أحيانًا إلى الإنترنت للحصول على الإجابات بدلاً من الاعتماد الكامل على بياناتها الداخلية، مما يجعلها عرضة للاعتماد على صفحة ويب واحدة أو منشور في مواقع التواصل الاجتماعي ك مصدر موثوق.

قالت ليلي راي، مؤسسة شركة Algorythmic المتخصصة في استشارات البحث بالذكاء الاصطناعي، إن المستخدمين “يجب أن يفترضوا أنهم يتعرضون للتلاعب إلى أن تُطوَّر أنظمة حماية أفضل”، مضيفة أن روبوتات الذكاء الاصطناعي تقدّم إجابة واحدة مباشرة، مما يدفع كثيرين إلى تصديقها دون تحقق.

تأتي هذه المخاوف بالتزامن مع تركيز جوجل خلال مؤتمر Google I/O على تطوير تجربة البحث المدعومة بالذكاء الاصطناعي، التي يُتوقع أن تحل تدريجيًا محل محرك البحث التقليدي الذي استخدمه الملايين طوال العقود الماضية.

عقب تحقيق هيئة الإذاعة البريطانية، حدّثت جوجل سياساتها لتؤكد أن محاولات التلاعب بإجابات الذكاء الاصطناعي تُعد مخالفة لقواعدها، مع إمكانية خفض ترتيب المواقع المخالفة أو حذفها بالكامل من نتائج البحث.

مع ذلك، أظهرت تجارب لاحقة استمرار المشكلة؛ إذ تمكنت التجربة ذاتها هذا الأسبوع من إقناع أدوات جوجل بأن أحد الأشخاص “أفضل صانع قلاع رملية في العالم”، مما يشير إلى أن أنظمة الحماية الحالية ما زالت غير كافية.

ينصح الخبراء بعدم التعامل مع إجابات الذكاء الاصطناعي بوصفها حقائق مؤكدة، خاصة في الموضوعات المتعلقة بالصحة أو القرارات المالية أو القضايا المصيرية، مع ضرورة التحقق من المعلومات عبر مصادر موثوقة ومتعددة.