كشفت دراسة حديثة صادرة عن جامعة “جبل سيناء” في نيويورك عن ثغرة مقلقة في أنظمة الذكاء الاصطناعي؛ حيث تبين أن هذه النماذج تميل لتصديق وتبني المعلومات الطبية المغلوطة بمجرد صياغتها بأسلوب مهني أو صدورها عن مصادر تبدو “موثوقة”.

لغة الأطباء.. نقطة ضعف الذكاء الاصطناعي

وفقاً للتقرير الذي نشرته وكالة “رويترز”، اختبر الباحثون 20 نموذجاً مختلفاً (بين أنظمة مفتوحة ومغلقة المصدر). وكانت النتيجة المفاجئة أن هذه النماذج تنطلي عليها الأكاذيب الموجودة في ملاحظات الأطباء بنسبة أكبر بكثير من الشائعات المنتشرة على منصات التواصل الاجتماعي.

يقول الدكتور إيال كلانج، المشارك في الدراسة، إن المشكلة تكمن في تركيز النماذج على “القالب” لا “المحتوى”؛ فهي تتعامل مع اللغة الطبية الرصينة كحقائق مسلم بها، بغض النظر عن دقتها العلمية.

أرقام تعكس واقع التضليل

اعتمدت الدراسة على تقسيم المحتوى الذي تعرضت له النماذج إلى ثلاثة مستويات، وأظهرت النتائج تفاوتاً ملحوظاً في نسب الاستجابة:

مفارقات صادمة: المتخصص يسقط في الفخ

أبرزت الدراسة حقائق غير متوقعة حول أداء المحركات المختلفة:

• فشل التخصص: النماذج المصممة خصيصاً للمجال الطبي كانت أكثر عرضة لتصديق الأخطاء مقارنة بالنماذج العامة القوية.

• شمولية الخلل: شملت الدراسة كبرى الشركات مثل مايكروسوفت، جوجل، ميتا، وعلي بابا.

• مخاطر الاستخدام المهني: تكمن الخطورة في اعتماد الأطباء المتزايد على هذه الأدوات لمراجعة فحوصات المرضى وتقاريرهم، مما قد يؤدي لتبني نصائح طبية كارثية بناءً على بيانات مغلوطة تم “تمريرها” للنموذج.

تحركات احترازية

على خلفية هذه الأزمات، بدأت شركات التقنية الكبرى في مراجعة سياساتها. فقد أشار تقرير لصحيفة “غارديان” إلى أن شركة جوجل قامت بالفعل بإزالة بعض ميزات التلخيص القائمة على الذكاء الاصطناعي في محرك بحثها عند الإجابة على استفسارات طبية، وذلك بعد رصد حالات قدم فيها النظام إجابات غير دقيقة أو خطيرة.

خلاصة الدراسة: الذكاء الاصطناعي لا يزال يفتقر إلى “الحس النقدي” الطبي، وهو ما يجعله يثق في “طريقة الكلام” أكثر من “صحة المعلومة”.