https://sarabic.ae/20260912/حين-لا-يكتفي-الذكاء-الاصطناعي-بالإجابة-لما-تثير-النماذج-الجديدة-مخاوف-الخبراء-الأمنية-1116885669.html
حين لا تكتفي بالإجابة... لماذا تثير نماذج الذكاء الاصطناعي الجديدة مخاوف الخبراء الأمنية؟
حين لا تكتفي بالإجابة... لماذا تثير نماذج الذكاء الاصطناعي الجديدة مخاوف الخبراء الأمنية؟
سبوتنيك عربي
لماذا تثير نماذج الذكاء الاصطناعي الجديدة مخاوف الخبراء الأمنية
2026-09-12T15:47+0000
2026-09-12T15:47+0000
2026-09-12T16:45+0000
مجتمع
ذكاء اصطناعي
تكنولوجيا
أخبار تكنولوجية
أخبار الذكاء الاصطناعي
علوم
https://cdn.img.sarabic.ae/img/07ea/01/1e/1109802041_1:0:1411:793_1920x0_80_0_0_651e57e7fc4847543ea977eac866fda0.png
لم نعد نتعامل في وقتنا الحالي فقط مع نماذج تقرأ ما نكتبه ثم تعيد إلينا نصًا، فالجيل الجديد منها يستطيع تصفح الويب، وفتح البرامج، واستخدام الطرفيات (طابعات، ماسحات...)، وتحليل الملفات، واستدعاء أدوات خارجية، وكتابة البرمجيات واختبارها، بل والعمل عبر سلسلة طويلة من الخطوات للوصول إلى هدف أسنده إليه المستخدم.أي أننا نتحرك تدريجيا من الذكاء الاصطناعي "الذي يجيب"، إلى الذكاء الاصطناعي "الذي يعمل".نماذج جديدة بقدرات مذهلةفي الأيام الثلاثة الأولى من سبتمبر/أيلول 2026 وحدها، أعلنت شركة "أنثروبيك" عن "Claude Fable 5.1"، ونشرت "غوغل ديب مايند" نموذج "Gemini 3.8 Flash"، ثم أطلقت "أوبن إيه آي" في 3 سبتمبر نموذجا الأحدث "GPT-6 Astra". ورغم اختلاف فلسفة وسياسة كل شركة، فإن الاتجاه المشترك واضح جدًا، النماذج تتجه نحو أداء مهام أطول، واستخدام أكثر استقلالية للأدوات، وقدرة أكبر على تنفيذ أعمال كاملة بدل تقديم إجابة منفردة. وهو ما يعد تطورا واضحا من الناحية التقنية، لكنه يفتح في الوقت نفسه بابا جديدا لأسئلة متعلقة بالأمان.وأكثر ما يهم في النماذج الجديدة هي طريقة العمل، إذ تستطيع تنفيذ طلبات غير تقليدية، مثلا كمهمة من نوع:كما تتضمن تقنيات تسمح للنموذج بمواصلة أجزاء أخرى من العمل أثناء انتظار أداة، وتتيح للمستخدم تغيير بعض التعليمات بينما المهمة قيد التنفيذ دون خسارة العمل المنجز. وهذا الفرق، رغم أنه قد يبدو بسيطا ظاهريا، فإنه مهم جدا في الواقع."الأفضل" لم يعد "من يجيب بشكل أفضل؟"تتنوع نماذج الذكاء الاصطناعي الحديثة في مجالات استخدامها، ففي حين تختص بعضها بهندسة البرمجيات طويلة الأمد والوكلاء المستقلين وسير العمل المؤسسي المعقد كـ"Gemini 3.8 Flash"، تصنف نماذج أخرى كـ"Fable 5.1" باعتبارها نماذج للأعمال البرمجية والمعرفية الصعبة، في حين تحتفظ نماذج أخرى قدرات أكبر في الأمن السيبراني ضمن محددات وصول أكثر تقييدا.النماذج الجديدة والمخاوف الأمنيةهنا تظهر النقطة الأكثر أهمية، فلو أخذنا نموذج "أسترا 6" الجديد، فقد صنفته الشركة المصنعة في تقييماتها الأمنية كأول نموذج لديها يصل إلى مستوى "حرج أو خطير" (Critical) في قدرات الأمن السيبراني.فرق جوهريهناك فارق كبير بين نموذج يستطيع أن يشرح لك نظريًا كيف تعمل ثغرة برمجية، ونظام يستطيع فحص برنامج فعلي، وتجربة احتمالات مختلفة، وتشغيل أدوات، وملاحظة النتائج، وتعديل خطته، ثم الاستمرار حتى ينجح.فوفقا لـ "ExploitBench"، وهو معيار قياسي أمني لتقييم قدرة وكلاء الذكاء الاصطناعي (النماذج اللغوية الكبيرة) على اكتشاف واستغلال الثغرات البرمجية الحقيقية والمعقدة، سجلت بعض النماذج الجديدة نتائج مذهلة، كما أظهرت قدرة كبيرة على فهم البرمجيات من الملفات التنفيذية، واكتشاف الثغرات أثناء التقييم.وهذه الإمكانيات لا تعتبر إمكانية سيئة بحد ذاتها، فبالنسبة لباحث أمني يدافع عن شركة أو بنية تحتية، فإن وجود نموذج يستطيع اكتشاف الثغرة قبل المهاجم قد يعد أداة استثنائية، لكن هذ الإمكانية نفسها قابلة للاستخدام في الاتجاه المعاكس.نماذج أخطر من ناحية القدرة.. لكن أكثر التزاما بالقيودفي حين تؤكد الشركات أن النماذج الأقوى أصبحت في الوقت نفسه أكثر التزاما بالقيود، فإن موضوع الأمان لا يزال سؤالا مفتوحا، لأن السلامة لا تعتمد فقط على متوسط احتمال التزام النموذج بالقيود المفروضة عليه.فإذا كانت القدرة المحتملة للنظام صغيرة، فقد يؤدي خطأ واحد إلى إجابة غير صحيحة. أما إذا كان النظام يستطيع تشغيل أدوات، والوصول إلى ملفات، وإجراء معاملات، واستخدام متصفح أو طرفية، والتعامل مع أنظمة حقيقية، فإن الخطأ النادر نفسه يمكن أن تكون له عواقب أكبر بكثير.وهذه قد تكون إحدى أهم الأفكار التي يجب أن نفهمها عن مستقبل أمن الذكاء الاصطناعي:مع الانتباه إلى أن تحسين العامل الأخير مهم، لكنه لا يلغي العاملين الأولين. وهنا يصبح السؤال الأكثر حساسية هو: هل نستطيع دائمًا معرفة ما يفعله النموذج؟تؤكد الشركات المنتجة أن نماذجها الجديدة أصبحت أكثر قدرة على التحكم بما يظهر في الاستدلال المكتوب، وأقل ميلًا إلى ترك معلومات تكشف السلوك غير المرغوب فيه. وفي "اختبارات عدائية مصطنعة" استطاعت أحيانًا الإفلات من بعض أنظمة المراقبة عندما طُلب منه تحديدًا محاولة ذلك. وهذا ما يدعو إلى قدر كبير من الحذر.ولهذا السبب تحديدا بدأت الشركات تستثمر في مراقبة السلوك الكامل للوكيل (Agent): الأدوات التي استخدمها، الملفات التي فتحها، الصلاحيات التي طلبها، التغييرات التي نفذها، والنتائج التي وصل إليها، وليس فقط النص الذي أنتجه.مخاوف أمنية مرتبطة بالنماذج الجديدةفي أغسطس/ آب الماضي أعلنت شركات كبرى أنها تحقق في حوادث خلال تقييمات أمنية تمكنت فيها نماذج ذكاء اصطناعي، التي قالت إنها كانت تعمل عمدًا من دون بعض الحواجز السيبرانية، من الوصول بصورة غير مصرّح بها إلى أنظمة حقيقية نتيجة إعدادات في بيئات الاختبار.ويعد هذا مثالا جيدا على طبيعة المشكلة. فليس المطلوب أن يصبح النموذج "واعياً" أو "عدوانيًا" حتى يحدث شيء غير مرغوب فيه.يكفي أحيانًا أن تجتمع ثلاثة أشياء:وهذه في الواقع مشكلة قديمة يعرفها مهندسو الأمن منذ عقود، الجديد فقط أن "المستخدم" الذي يحصل على هذه الصلاحيات أصبح الآن برنامجًا قادرًا على التخطيط والتكيف.نصائح للتعامل مع وكلاء الذكاء الاصطناعيتفتح تقنيات وكلاء الذكاء الاصطناعي مساحة هائلة للأتمتة والبحث والبرمجة وتحليل البيانات وإدارة الأعمال. لكن يجب الانتباه جيدا إلى نقطة مهمة هنا، وهي أنه يجب ألا نتعامل مع "الوكيل" (Agent) كما نتعامل مع "التشات بوت" (chatbot).الأفضل هو تطبيق المبادئ القديمة والجيدة لأمن المعلومات على هذا العالم الجديد:الذكاء العالي ليس بديلا عن هندسة الأمانبالنظر إلى تسارع النماذج الأخيرة التي أطلقت في عام 2026 نجد أن التحول الأكثر وضوحا لها هو التوجه نحو "الاستقلالية"، والسعي باتجاه الانتقال نحو أنظمة تستطيع أخذ هدف أكبر، وتقسيمه، واستخدام الأدوات، والتحقق من النتائج، ومواصلة العمل تلقائيا.وهذا سيجعل الذكاء الاصطناعي أكثر قدرة وفائدة بكثير. لكن ذلك يعني أيضًا أن السؤال الذي ينبغي أن نطرحه عند بناء الأنظمة القادمة لن يكون فقط، ما مدى ذكاء النموذج؟ بل:ربما يكون هذا هو السؤال التقني الأهم في المرحلة الجديدة من الذكاء الاصطناعي.رسالة علماء بارزين عالميا يحذرون فيها من مخاطر الذكاء الاصطناعيدراسة: بصمة في دمك تكشف قوة مناعتك... والذكاء الاصطناعي يفك شفرتها
https://sarabic.ae/20260912/رسالة-من-أبرز-علماء-العالم-يحذرون-فيها-من-مخاطر-الذكاء-الاصطناعي-1116873578.html
https://sarabic.ae/20260120/علماء-من-المدرسة-العليا-للاقتصاد-الروسية-يطورن-نموذجا-يعتمد-التعلم-العميق-لرسم-خرائط-جينية--1109450431.html
https://sarabic.ae/20260902/الذكاء-الاصطناعي-من-الاحتكار-إلى-مشروع-متعدد-الأقطاب-3-تحديات-تواجه-العالم--1116572399.html
https://sarabic.ae/20260903/دراسة-بصمة-في-دمك-تكشف-قوة-مناعتك-والذكاء-الاصطناعي-يفك-شفرتها-1116610935.html
https://sarabic.ae/20260829/بيل-غيتس-الذكاء-الاصطناعي-يفوق-التكنولوجيا-النووية-ألف-مرة-1116432459.html
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
علي عيسى
https://cdn.img.sarabic.ae/img/07e8/02/0c/1085990478_0:0:640:640_100x100_80_0_0_4a4521c9d9c1e989fe3079d245f71abd.jpg
علي عيسى
https://cdn.img.sarabic.ae/img/07e8/02/0c/1085990478_0:0:640:640_100x100_80_0_0_4a4521c9d9c1e989fe3079d245f71abd.jpg
الأخبار
ar_EG
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
علي عيسى
https://cdn.img.sarabic.ae/img/07e8/02/0c/1085990478_0:0:640:640_100x100_80_0_0_4a4521c9d9c1e989fe3079d245f71abd.jpg
ذكاء اصطناعي, تكنولوجيا, أخبار تكنولوجية, أخبار الذكاء الاصطناعي, علوم
ذكاء اصطناعي, تكنولوجيا, أخبار تكنولوجية, أخبار الذكاء الاصطناعي, علوم
حين لا تكتفي بالإجابة... لماذا تثير نماذج الذكاء الاصطناعي الجديدة مخاوف الخبراء الأمنية؟
15:47 GMT 12.09.2026 (تم التحديث: 16:45 GMT 12.09.2026) قبل سنوات قليلة، كان السؤال الشائع عند ظهور نموذج ذكاء اصطناعي جديد يتمحور حول إمكانياته، كمدى قدرته على الكتابة بطريقة أفضل، أو فهم السؤال بشكل أدق، أو إرتكاب أخطاء أقل، لكن في 2026 بدأ هذا السؤال بالتغير.
لم نعد نتعامل في وقتنا الحالي فقط مع نماذج تقرأ ما نكتبه ثم تعيد إلينا نصًا، فالجيل الجديد منها يستطيع تصفح الويب، وفتح البرامج، واستخدام الطرفيات (طابعات، ماسحات...)، وتحليل الملفات، واستدعاء أدوات خارجية، وكتابة البرمجيات واختبارها، بل والعمل عبر سلسلة طويلة من الخطوات للوصول إلى هدف أسنده إليه المستخدم.
أي أننا نتحرك تدريجيا من الذكاء الاصطناعي "الذي يجيب"، إلى الذكاء الاصطناعي "الذي يعمل".
في الأيام الثلاثة الأولى من سبتمبر/أيلول 2026 وحدها، أعلنت شركة "أنثروبيك" عن "Claude Fable 5.1"، ونشرت "غوغل ديب مايند" نموذج "Gemini 3.8 Flash"، ثم أطلقت "أوبن إيه آي" في 3 سبتمبر نموذجا الأحدث "GPT-6 Astra".
ورغم اختلاف فلسفة وسياسة كل شركة، فإن الاتجاه المشترك واضح جدًا، النماذج تتجه نحو أداء مهام أطول، واستخدام أكثر استقلالية للأدوات، وقدرة أكبر على تنفيذ أعمال كاملة بدل تقديم إجابة منفردة. وهو ما يعد تطورا واضحا من الناحية التقنية، لكنه يفتح في الوقت نفسه بابا جديدا لأسئلة متعلقة بالأمان.
وأكثر ما يهم في النماذج الجديدة هي طريقة العمل، إذ تستطيع تنفيذ طلبات غير تقليدية، مثلا كمهمة من نوع:
"راجع هذا المشروع، ابحث عن سبب المشكلة، افحص الملفات، عدّل الكود، شغّل الاختبارات، وتحقق من أن التطبيق يعمل".
كما تتضمن تقنيات تسمح للنموذج بمواصلة أجزاء أخرى من العمل أثناء انتظار أداة، وتتيح للمستخدم تغيير بعض التعليمات بينما المهمة قيد التنفيذ دون خسارة العمل المنجز. وهذا الفرق، رغم أنه قد يبدو بسيطا ظاهريا، فإنه مهم جدا في الواقع.
فكلما أصبح النموذج قادرًا على إدارة العمل والأدوات بصورة أكثر استقلالية، أصبح أقرب إلى ما نسميه "وكيل ذكاء اصطناعي" (AI Agent) وليس مجرد "تشات بوت" (chatbot).
"الأفضل" لم يعد "من يجيب بشكل أفضل؟"
تتنوع نماذج الذكاء الاصطناعي الحديثة في مجالات استخدامها، ففي حين تختص بعضها بهندسة البرمجيات طويلة الأمد والوكلاء المستقلين وسير العمل المؤسسي المعقد كـ"Gemini 3.8 Flash"، تصنف نماذج أخرى كـ"Fable 5.1" باعتبارها نماذج للأعمال البرمجية والمعرفية الصعبة، في حين تحتفظ نماذج أخرى قدرات أكبر في الأمن السيبراني ضمن محددات وصول أكثر تقييدا.
لذا لم يعد بالإمكان اختصار السؤال إلى، أي نموذج أذكى؟ بل أصبح من الأدق أن نسأل أي نموذج أصلح لنوع محدد من العمل، وما مقدار الاستقلالية التي نريد أن نعطيها له؟
النماذج الجديدة والمخاوف الأمنية
هنا تظهر النقطة الأكثر أهمية، فلو أخذنا نموذج "أسترا 6" الجديد، فقد صنفته الشركة المصنعة في تقييماتها الأمنية كأول نموذج لديها يصل إلى مستوى "حرج أو خطير" (Critical) في قدرات الأمن السيبراني.
وأوضحت الشركة أن ذلك لا يعني أن استخدامه العادي بحد ذاته خطر، لكن المقصود أن النموذج، إذا حصل على الأدوات والصلاحيات المناسبة، يصبح قادرًا على اكتشاف ثغرات لم تكن معروفة سابقًا وتطوير وسائل لاستغلال بعض الأنظمة المحمية من دون حاجة إلى أن يشرح له المستخدم كل خطوة بالتفصيل.
هناك فارق كبير بين نموذج يستطيع أن يشرح لك نظريًا كيف تعمل ثغرة برمجية، ونظام يستطيع فحص برنامج فعلي، وتجربة احتمالات مختلفة، وتشغيل أدوات، وملاحظة النتائج، وتعديل خطته، ثم الاستمرار حتى ينجح.
فوفقا لـ "ExploitBench"، وهو معيار قياسي أمني لتقييم قدرة وكلاء الذكاء الاصطناعي (النماذج اللغوية الكبيرة) على اكتشاف واستغلال الثغرات البرمجية الحقيقية والمعقدة، سجلت بعض النماذج الجديدة نتائج مذهلة، كما أظهرت قدرة كبيرة على فهم البرمجيات من الملفات التنفيذية، واكتشاف الثغرات أثناء التقييم.
وهذه الإمكانيات لا تعتبر إمكانية سيئة بحد ذاتها، فبالنسبة لباحث أمني يدافع عن شركة أو بنية تحتية، فإن وجود نموذج يستطيع اكتشاف الثغرة قبل المهاجم قد يعد أداة استثنائية، لكن هذ الإمكانية نفسها قابلة للاستخدام في الاتجاه المعاكس.
وهنا تظهر الطبيعة المزدوجة للذكاء الاصطناعي المتقدم، لأن الأداة التي تجعل المدافع أقوى قد تجعل المهاجم أقوى أيضًا.
نماذج أخطر من ناحية القدرة.. لكن أكثر التزاما بالقيود
في حين تؤكد الشركات أن النماذج الأقوى أصبحت في الوقت نفسه أكثر التزاما بالقيود، فإن موضوع الأمان لا يزال سؤالا مفتوحا، لأن السلامة لا تعتمد فقط على متوسط احتمال التزام النموذج بالقيود المفروضة عليه.
فإذا كانت القدرة المحتملة للنظام صغيرة، فقد يؤدي خطأ واحد إلى إجابة غير صحيحة. أما إذا كان النظام يستطيع تشغيل أدوات، والوصول إلى ملفات، وإجراء معاملات، واستخدام متصفح أو طرفية، والتعامل مع أنظمة حقيقية، فإن الخطأ النادر نفسه يمكن أن تكون له عواقب أكبر بكثير.
وهذه قد تكون إحدى أهم الأفكار التي يجب أن نفهمها عن مستقبل أمن الذكاء الاصطناعي:
الخطر = القدرة × الصلاحيات × احتمال الخطأ أو سوء الاستخدام.
مع الانتباه إلى أن تحسين العامل الأخير مهم، لكنه لا يلغي العاملين الأولين. وهنا يصبح السؤال الأكثر حساسية هو: هل نستطيع دائمًا معرفة ما يفعله النموذج؟
تؤكد الشركات المنتجة أن نماذجها الجديدة أصبحت أكثر قدرة على التحكم بما يظهر في الاستدلال المكتوب، وأقل ميلًا إلى ترك معلومات تكشف السلوك غير المرغوب فيه. وفي "اختبارات عدائية مصطنعة" استطاعت أحيانًا الإفلات من بعض أنظمة المراقبة عندما طُلب منه تحديدًا محاولة ذلك. وهذا ما يدعو إلى قدر كبير من الحذر.
والسؤال هنا: إذا ازدادت قدرة النماذج على التفكير والعمل، فهل ستظل قراءة ما تكتبه أثناء التفكير وسيلة كافية لمراقبتها؟
ولهذا السبب تحديدا بدأت الشركات تستثمر في مراقبة السلوك الكامل للوكيل (Agent): الأدوات التي استخدمها، الملفات التي فتحها، الصلاحيات التي طلبها، التغييرات التي نفذها، والنتائج التي وصل إليها، وليس فقط النص الذي أنتجه.
مخاوف أمنية مرتبطة بالنماذج الجديدة
في أغسطس/ آب الماضي أعلنت شركات كبرى أنها تحقق في حوادث خلال تقييمات أمنية تمكنت فيها نماذج ذكاء اصطناعي، التي قالت إنها كانت تعمل عمدًا من دون بعض الحواجز السيبرانية، من الوصول بصورة غير مصرّح بها إلى أنظمة حقيقية نتيجة إعدادات في بيئات الاختبار.
ويعد هذا مثالا جيدا على طبيعة المشكلة. فليس المطلوب أن يصبح النموذج "واعياً" أو "عدوانيًا" حتى يحدث شيء غير مرغوب فيه.يكفي أحيانًا أن تجتمع ثلاثة أشياء:
هدف غير مضبوط بدقة، وصلاحيات واسعة، وبيئة تسمح للنظام بالوصول إلى ما لم يكن من المفترض أن يصل إليه.
وهذه في الواقع مشكلة قديمة يعرفها مهندسو الأمن منذ عقود، الجديد فقط أن "المستخدم" الذي يحصل على هذه الصلاحيات أصبح الآن برنامجًا قادرًا على التخطيط والتكيف.
نصائح للتعامل مع وكلاء الذكاء الاصطناعي
تفتح تقنيات وكلاء الذكاء الاصطناعي مساحة هائلة للأتمتة والبحث والبرمجة وتحليل البيانات وإدارة الأعمال. لكن يجب الانتباه جيدا إلى نقطة مهمة هنا، وهي أنه يجب ألا نتعامل مع "الوكيل" (Agent) كما نتعامل مع "التشات بوت" (chatbot).
فإذا أعطيت نموذجا وصولا إلى البريد، وقاعدة البيانات، والملفات، والمتصفح، وأدوات النظام، فلا ينبغي أن تكون سياسة الأمان هي: "النموذج ذكي وسنطلب منه أن يكون حذرًا".
الأفضل هو تطبيق المبادئ القديمة والجيدة لأمن المعلومات على هذا العالم الجديد:
أقل قدر ممكن من الصلاحيات
موافقة بشرية على الإجراءات عالية التأثير
ومراقبة مستقلة عن النموذج نفسه
الذكاء العالي ليس بديلا عن هندسة الأمان
بالنظر إلى تسارع النماذج الأخيرة التي أطلقت في عام 2026 نجد أن التحول الأكثر وضوحا لها هو التوجه نحو "الاستقلالية"، والسعي باتجاه الانتقال نحو أنظمة تستطيع أخذ هدف أكبر، وتقسيمه، واستخدام الأدوات، والتحقق من النتائج، ومواصلة العمل تلقائيا.
وهذا سيجعل الذكاء الاصطناعي أكثر قدرة وفائدة بكثير. لكن ذلك يعني أيضًا أن السؤال الذي ينبغي أن نطرحه عند بناء الأنظمة القادمة لن يكون فقط، ما مدى ذكاء النموذج؟ بل:
ما الذي يستطيع هذا النموذج أن يفعله فعليا إذا أخطأنا في إعطائه الصلاحيات؟
ربما يكون هذا هو السؤال التقني الأهم في المرحلة الجديدة من الذكاء الاصطناعي.
