وبحسب تقرير نشره موقع “ساينس أليرت” العلمي، فإن نحو نصف الإجابات التي تقدمها أبرز روبوتات الدردشة الطبية وُصفت بأنها "مضللة أو إشكالية".
وأوضحت الدراسة أن الباحثين اختبروا خمسة من أشهر نماذج الذكاء الاصطناعي عبر 50 سؤالًا طبيًا شملت موضوعات مثل السرطان والتغذية واللقاحات، حيث تبين أن 20% من الإجابات كانت "شديدة الإشكال"، فيما صُنّف نحو 50% ضمن إجابات قد تكون مضللة أو غير دقيقة، مقابل 30% فقط اعتُبرت مقبولة.
مراجع غير دقيقة ومعلومات غير موثوقة
وأشار الباحثون إلى أن النماذج التي خضعت للاختبار لم تقدم دائمًا مراجع علمية صحيحة، إذ تضمنت بعض الإجابات روابط غير صحيحة أو إشارات إلى دراسات غير موجودة.
كما أظهرت النتائج أن الأسئلة المفتوحة المتعلقة بالنصائح الصحية العامة كانت الأكثر عرضة للأخطاء، مقارنة بالأسئلة المحددة.
ويرى الباحثون أن هذه النماذج لا "تفهم" المحتوى الطبي فعليًا، بل تعتمد على التنبؤ بالكلمات بناءً على بيانات تدريب قد تتضمن مصادر غير موثوقة، مثل المنتديات ومواقع التواصل الاجتماعي، وهو ما يفسر تقديمها لإجابات تبدو دقيقة لكنها قد تفتقر إلى أساس علمي.
وفي دراسات أخرى، تبيّن أن دقة المستخدمين في الاستفادة من إجابات الذكاء الاصطناعي لا تتجاوز 35%، رغم أن بعض النماذج قد تقدم معلومات صحيحة بدرجة عالية.
كما أظهرت أبحاث إضافية أن هذه الأنظمة تواجه صعوبة في التشخيص عند نقص البيانات الطبية التفصيلية.
ورغم هذه التحديات، يؤكد خبراء أن الذكاء الاصطناعي يمكن أن يكون أداة مساعدة في تبسيط المعلومات أو التحضير لزيارة الطبيب، لكنه لا يصلح كبديل عن الاستشارة الطبية المباشرة.
وينصح الباحثون بضرورة التحقق من أي معلومات صحية يتم الحصول عليها عبر هذه الأدوات، وعدم الاعتماد على المراجع المرفقة دون تدقيق، إضافة إلى الحذر من الإجابات التي تبدو واثقة لكنها تفتقر إلى سياق طبي واضح.
وفي المجمل، تشير الدراسة إلى أن الذكاء الاصطناعي لا يزال بحاجة إلى مزيد من التطوير والحذر في الاستخدام الطبي، إذ يمكنه المساعدة في الفهم، لكنه لا يغني عن المصادر الطبية الموثوقة أو رأي الأطباء المتخصصين.