https://sarabic.ae/20260531/علماء-روس-يطورون-تقنية-جديدة-تحد-من-هلوسات-الذكاء-الاصطناعي-1113916264.html
علماء روس يطورون تقنية جديدة تحد من "هلوسات" الذكاء الاصطناعي
علماء روس يطورون تقنية جديدة تحد من "هلوسات" الذكاء الاصطناعي
سبوتنيك عربي
ابتكر باحثون روس طريقة جديدة للقضاء على "الهلوسات" في أنظمة الذكاء الاصطناعي، وهي عبارة عن معلومات خاطئة أو ملفقة قد تنتجها الشبكات العصبية بثقة مفرطة. 31.05.2026, سبوتنيك عربي
2026-05-31T15:10+0000
2026-05-31T15:10+0000
2026-05-31T15:10+0000
علوم
روسيا
جامعات روسية
ذكاء اصطناعي
هلوسة
https://cdn.img.sarabic.ae/img/07ea/01/1e/1109802041_1:0:1411:793_1920x0_80_0_0_651e57e7fc4847543ea977eac866fda0.png
وقد طوّر هذه الطريقة فريق من جامعة ريشيتنيف في كراسنويارسك، ويمكن تطبيقها في مجالات التعليم، ومنصة الخدمات الحكومية، والطب، والخدمات القانونية. المشكلة: الذكاء الاصطناعي الذي "يكذب بثقة" تكمن المشكلة الأساسية في قدرة الشبكات العصبية على إنتاج معلومات غير صحيحة بثقة عالية، وهي ظاهرة يطلق عليها الباحثون اسم "الأوهام أو الهلوسات". تقوّض هذه الأخطاء الثقة، وقد تتسبب في مشاكل خطيرة عند استخدام الذكاء الاصطناعي في مهام حساسة كالمشورة الطبية، والإرشاد القانوني، والخدمات الحكومية الرسمية. حاليًا، يعدّ نظام RAG (الاسترجاع والتوليد المعزّز) النهج الأكثر شيوعًا للحد من هذه الأوهام، حيث يبحث الذكاء الاصطناعي أولًا في قاعدة معرفية عن المعلومات ذات الصلة قبل توليد الاستجابة. مع أن هذا يساعد، إلا أن الأخطاء لا تزال واردة بسبب الأخطاء المطبعية، أو التناقضات في الاستعلام، أو قواعد البيانات غير المكتملة. الحل الجديد: الكشف المنهجي والمراقبة الآنية اتّبع فريق جامعة ريشيتنيف، بقيادة الأستاذة المساعدة أناستاسيا بولياكوفا من قسم الأنظمة الآلية والذكية، نهجًا أكثر منهجية. الإنجاز الأبرز: وحدة مراقبة آنية يتمثّل الإنجاز الرئيسي في نموذج أولي لوحدة مراقبة شاملة تعمل في الوقت الفعلي. تسجّل هذه الوحدة جميع الطلبات الواردة وتوثّق كل استعلام مع سياق الحوار الخاص به. كما تقيّم المخاطر من خلال تقييم احتمالية الحصول على إجابة غير موثوقة. يخصّص النظام درجة ثقة لمخرجات نموذج الذكاء الاصطناعي، وينبّه المشغلين عند حدوث أخطاء أو انخفاض مستوى الثقة. تمكّن هذه الخاصية الفورية المشغلين من التدخل عندما يكون الذكاء الاصطناعي على وشك تقديم معلومات غير موثوقة. تكمن الميزة الرئيسية لهذه الطريقة في شموليتها، فهي غير مرتبطة بشبكة عصبية محددة، ويمكن توسيع نطاقها لتطبيقات متنوعة. يمكن استخدام النظام في روبوتات الدردشة التي تساعد الطلاب المُحتملين في القبول الجامعي، مما يضمن حصولهم على معلومات دقيقة. خطوة نحو ذكاء اصطناعي أكثر أمانًا مع ازدياد اندماج أنظمة الذكاء الاصطناعي في الحياة اليومية والبنية التحتية الحيوية، تزداد أهمية ضمان موثوقيتها. تقدّم هذه المنهجية، التي طوّرت في روسيا، نهجًا عمليًا لجعل الشبكات العصبية أكثر جدارة بالثقة في قطاعات متعددة. يمثل هذا البحث خطوة مهمة نحو معالجة أحد أكثر التحديات إلحاحًا في مجال الذكاء الاصطناعي: كيفية منع الذكاء الاصطناعي من تقديم معلومات خاطئة على أنها حقائق بثقة.
https://sarabic.ae/20260423/دراسة-الذكاء-الاصطناعي-يقدم-نصائح-صحية-غير-دقيقة-في-نحو-نصف-الحالات-1112821458.html
https://sarabic.ae/20260524/بالذكاء-الاصطناعي-الصين-تحول-منطقة-مستحيلة-الحفر-إلى-حقل-غاز-ضخم-1113698833.html
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
الأخبار
ar_EG
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
علوم, روسيا, جامعات روسية, ذكاء اصطناعي, هلوسة
علوم, روسيا, جامعات روسية, ذكاء اصطناعي, هلوسة
علماء روس يطورون تقنية جديدة تحد من "هلوسات" الذكاء الاصطناعي
ابتكر باحثون روس طريقة جديدة للقضاء على "الهلوسات" في أنظمة الذكاء الاصطناعي، وهي عبارة عن معلومات خاطئة أو ملفقة قد تنتجها الشبكات العصبية بثقة مفرطة.
وقد طوّر هذه الطريقة فريق من جامعة ريشيتنيف في كراسنويارسك، ويمكن تطبيقها في مجالات التعليم، ومنصة الخدمات الحكومية، والطب، والخدمات القانونية.
المشكلة: الذكاء الاصطناعي الذي "يكذب بثقة"
تكمن المشكلة الأساسية في قدرة الشبكات العصبية على إنتاج معلومات غير صحيحة بثقة عالية، وهي ظاهرة يطلق عليها الباحثون اسم "الأوهام أو الهلوسات". تقوّض هذه الأخطاء الثقة، وقد تتسبب في مشاكل خطيرة عند استخدام الذكاء الاصطناعي في مهام حساسة كالمشورة الطبية، والإرشاد القانوني، والخدمات الحكومية الرسمية.
حاليًا، يعدّ نظام RAG (الاسترجاع والتوليد المعزّز) النهج الأكثر شيوعًا للحد من هذه الأوهام، حيث يبحث الذكاء الاصطناعي أولًا في قاعدة معرفية عن المعلومات ذات الصلة قبل توليد الاستجابة. مع أن هذا يساعد، إلا أن الأخطاء لا تزال واردة بسبب الأخطاء المطبعية، أو التناقضات في الاستعلام، أو قواعد البيانات غير المكتملة.
الحل الجديد: الكشف المنهجي والمراقبة الآنية
اتّبع فريق جامعة ريشيتنيف، بقيادة الأستاذة المساعدة أناستاسيا بولياكوفا من قسم الأنظمة الآلية والذكية، نهجًا أكثر منهجية.
تتضمن منهجيتهم عنصرين أساسيين: أولًا، طوّر الفريق مصنفًا لسيناريوهات الهلوسة النموذجية من خلال تحليل الأنماط الشائعة لأخطاء الذكاء الاصطناعي وإنشاء نظام تصنيف شامل. ثانيًا، بنوا مسارًا آليًا لاختبار الضغط يولّد استعلامات اختبارية، ويقارن الاستجابات بمعايير معتمدة، ويقيّم الدقة باستخدام مقاييس متخصصة وتحليل التشابه الدلالي.
الإنجاز الأبرز: وحدة مراقبة آنية
يتمثّل الإنجاز الرئيسي في نموذج أولي لوحدة مراقبة شاملة تعمل في الوقت الفعلي. تسجّل هذه الوحدة جميع الطلبات الواردة وتوثّق كل استعلام مع سياق الحوار الخاص به. كما تقيّم المخاطر من خلال تقييم احتمالية الحصول على إجابة غير موثوقة.
يخصّص النظام درجة ثقة لمخرجات نموذج الذكاء الاصطناعي، وينبّه المشغلين عند حدوث أخطاء أو انخفاض مستوى الثقة. تمكّن هذه الخاصية الفورية المشغلين من التدخل عندما يكون الذكاء الاصطناعي على وشك تقديم معلومات غير موثوقة.
تكمن الميزة الرئيسية لهذه الطريقة في شموليتها، فهي غير مرتبطة بشبكة عصبية محددة، ويمكن توسيع نطاقها لتطبيقات متنوعة. يمكن استخدام النظام في روبوتات الدردشة التي تساعد الطلاب المُحتملين في القبول الجامعي، مما يضمن حصولهم على معلومات دقيقة.
كما يمكنه تحسين الخدمات الحكومية "غوسوسلوجي" من خلال ضمان إجابات موثوقة، وفي المجال الطبي، يمكنه منع المعلومات الطبية المضللة التي قد تكون خطيرة. وفي الخدمات القانونية، يمكنه المساعدة في تجنب الاستشارات القانونية الخاطئة.
خطوة نحو ذكاء اصطناعي أكثر أمانًا
مع ازدياد اندماج أنظمة الذكاء الاصطناعي في الحياة اليومية والبنية التحتية الحيوية، تزداد أهمية ضمان موثوقيتها. تقدّم هذه المنهجية، التي طوّرت في روسيا، نهجًا عمليًا لجعل الشبكات العصبية أكثر جدارة بالثقة في قطاعات متعددة.
يمثل هذا البحث خطوة مهمة نحو معالجة أحد أكثر التحديات إلحاحًا في مجال الذكاء الاصطناعي: كيفية منع الذكاء الاصطناعي من تقديم معلومات خاطئة على أنها حقائق بثقة.
