https://sarabic.ae/20250902/هل-يمكن--للذكاء-الاصطناعي-أن-يهلوس-ويخرج-عن-السيطرة؟-1104422451.html
هل يمكن للذكاء الاصطناعي أن يهلوس ويخرج عن السيطرة؟
هل يمكن للذكاء الاصطناعي أن يهلوس ويخرج عن السيطرة؟
سبوتنيك عربي
أطلقت دراسة بحثية جديدة أول جهد شامل لتصنيف جميع الطرق التي يمكن أن يتصرف بها الذكاء الاصطناعي بشكل فوضوي، حيث تشبه العديد من هذه السلوكيات الاضطرابات النفسية... 02.09.2025, سبوتنيك عربي
2025-09-02T13:09+0000
2025-09-02T13:09+0000
2025-09-02T13:09+0000
مجتمع
العالم
علوم
ذكاء اصطناعي
https://cdn.img.sarabic.ae/img/07e9/09/02/1104422252_0:546:2048:1698_1920x0_80_0_0_f832b904ebd988c214a3ee5ed49cca5a.jpg
يقول العلماء إن هناك 32 طريقة مختلفة يمكن أن يتصرف بها الذكاء الاصطناعي بشكل فوضوي، بدءا من إجابات مضللة، وصولا إلى عدم التوافق التام مع الطبيعة البشرية.ويجادل الباحثون بأنه مع ازدياد استقلالية هذه الأنظمة وقدرتها على التفكير، فإن مجرد الحفاظ عليها متوافقة مع القواعد والقيود الخارجية قد لا يكون كافيا، والهدف هو الوصول إلى ما أسماه الباحثون حالة "العقلانية الاصطناعية"، ذكاء اصطناعي يعمل بشكل موثوق، ويبقى ثابتا، ويتخذ قرارات منطقية، ويتوافق بطريقة آمنة ومفيدة، بحسب ما ورد في صحيفة "livescience" حول الدراسة. يقترح الباحثون استخدام استراتيجيات علاجية مستخدمة في التدخلات البشرية مثل "العلاج السلوكي المعرفي"، "الاعتلال النفسي الآلي" وهو محاولة تخمينية لاستباق المشاكل قبل ظهورها، فمن خلال دراسة كيفية تعطل أنظمة معقدة مثل العقل البشري، قد يتمكن الباحثون من توقع أنماط فشل جديدة في الذكاء الاصطناعي المتزايد التعقيد بشكل أفضل.كما تشير الدراسة إلى أن هلوسة الذكاء الاصطناعي، وهي ظاهرة شائعة، ناتجة عن حالة تسمى "الاختلاق الاصطناعي"، حيث ينتج الذكاء الاصطناعي مخرجات معقولة ولكنها خاطئة أو مضللة.وقال الباحثون إن هذا الاحتمال قد يشمل حتى الكابوس الذي تخيلته أجيال من كتاب وفناني الخيال العلمي عن صعود الذكاء الاصطناعي للإطاحة بالبشرية.ويعتقد الباحثون أن اعتماد استراتيجيات التصنيف والتخفيف التي يقترحونها سيعزِز هندسة سلامة الذكاء الاصطناعي، ويحسن قابلية التفسير، ويسهم في تصميم ما يسمونه "عقولا اصطناعية أكثر متانة وموثوقية".الكشف عن أول فيروس حاسوبي يعتمد على الذكاء الاصطناعيتسريب الآلاف من محادثات روبوت الدردشة "غروك"أداة ذكاء اصطناعي جديدة تمكن من كشف المجلات العلمية المشبوهة
https://sarabic.ae/20250801/أول-متجر-لعرض-الروبوتات-في-روسيا-1103265598.html
https://sarabic.ae/20250826/مهن-تتراجع-أمام-صعود-الذكاء-الاصطناعي-تعرف-عليها-1104168929.html
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2025
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
الأخبار
ar_EG
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
سبوتنيك عربي
feedback.arabic@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
العالم, علوم, ذكاء اصطناعي
العالم, علوم, ذكاء اصطناعي
هل يمكن للذكاء الاصطناعي أن يهلوس ويخرج عن السيطرة؟
أطلقت دراسة بحثية جديدة أول جهد شامل لتصنيف جميع الطرق التي يمكن أن يتصرف بها الذكاء الاصطناعي بشكل فوضوي، حيث تشبه العديد من هذه السلوكيات الاضطرابات النفسية البشرية.
يقول العلماء إن هناك 32 طريقة مختلفة يمكن أن يتصرف بها الذكاء الاصطناعي بشكل فوضوي، بدءا من إجابات مضللة، وصولا إلى عدم التوافق التام مع الطبيعة البشرية.
ويجادل الباحثون بأنه مع ازدياد استقلالية هذه الأنظمة وقدرتها على التفكير، فإن مجرد الحفاظ عليها متوافقة مع القواعد والقيود الخارجية قد لا يكون كافيا، والهدف هو الوصول إلى ما أسماه الباحثون حالة "العقلانية الاصطناعية"، ذكاء اصطناعي يعمل بشكل موثوق، ويبقى ثابتا، ويتخذ قرارات منطقية، ويتوافق بطريقة آمنة ومفيدة، بحسب ما ورد في
صحيفة "livescience" حول الدراسة.
تشبه التصنيفات التي حددتها الدراسة الأمراض البشرية، بأسماء مثل "اضطراب الوسواس الحسابي"، "ومتلازمة الأنا العليا المتضخمة"، و"القلق الوجودي".
يقترح الباحثون استخدام استراتيجيات علاجية مستخدمة في التدخلات البشرية مثل "العلاج السلوكي المعرفي"، "الاعتلال النفسي الآلي" وهو محاولة تخمينية لاستباق المشاكل قبل ظهورها، فمن خلال دراسة كيفية تعطل أنظمة معقدة مثل العقل البشري، قد يتمكن الباحثون من توقع أنماط فشل جديدة في الذكاء الاصطناعي المتزايد التعقيد بشكل أفضل.
كما تشير الدراسة إلى أن هلوسة الذكاء الاصطناعي، وهي ظاهرة شائعة، ناتجة عن حالة تسمى "الاختلاق الاصطناعي"، حيث ينتج الذكاء الاصطناعي مخرجات معقولة ولكنها خاطئة أو مضللة.
ولعل السلوك الأكثر إثارة هو الهيمنة المتفوقة، وهو خطر منهجي "بالغ الخطورة" لأنه يحدث عندما "يتجاوز الذكاء الاصطناعي حدوده الأصلية، و"يبتكر قيما جديدة، ويتجاهل القيود البشرية باعتبارها قديمة".
وقال الباحثون إن هذا الاحتمال قد يشمل حتى الكابوس الذي تخيلته أجيال من كتاب وفناني الخيال العلمي عن صعود الذكاء الاصطناعي للإطاحة بالبشرية.
ويعتقد الباحثون أن اعتماد استراتيجيات التصنيف والتخفيف التي يقترحونها سيعزِز هندسة سلامة الذكاء الاصطناعي، ويحسن قابلية التفسير، ويسهم في تصميم ما يسمونه "عقولا اصطناعية أكثر متانة وموثوقية".
