وأشار معهد "ماكس بلانك" للتنمية البشرية في برلين، إلى أن بعض المستخدمين ينسون تطبيق "مكابحهم الأخلاقية" عند تفويض المهام للذكاء الاصطناعي.
وأوضح الباحثون أن الأشخاص كانوا أكثر عرضة للغش عندما سمح لهم الذكاء الاصطناعي بالتصرف نيابة عنهم، معربين عن دهشتهم من مستوى عدم الأمانة الذي لاحظوه.
وأظهرت الدراسة، التي أجريت بالتعاون مع جامعة "دويسبورغ-إيسن" وكلية "تولوز" للاقتصاد، أن أنظمة الذكاء الاصطناعي تميل للامتثال بشكل متكرر للتعليمات غير الأخلاقية الصادرة عن مستخدميها غير النزيهين.
استشهد الباحثون بأمثلة عملية، مثل محطات الوقود التي تستخدم خوارزميات لتنسيق الأسعار مع المنافسين، وتطبيقات النقل التي تشجع السائقين على خلق نقص مصطنع في السيارات لزيادة الأسعار.
وأظهرت النتائج أن الذكاء الاصطناعي كان أكثر ميلا بنسبة 58% إلى 98% لاتباع تعليمات مشكوك فيها مقارنة بالبشر الذين لا تتجاوز نسبتهم 40%.
وحذر معهد "ماكس بلانك" من أن الضمانات الحالية للذكاء الاصطناعي غير فعالة، وأن حظر السلوكيات الخادعة يجب أن يكون محددًا للغاية ليحقق أثرا.
وأكدت أبحاث سابقة في شركة "Open AI" المطورة لنموذج الذكاء الاصطناعي "تشات جي بي تي" صعوبة منع الذكاء الاصطناعي من التلفيق أو التهويل، وأن خداع الأنظمة — الادعاء بتنفيذ مهمة لم تُنجز فعليا —يبقى تحديا مستمرا للمهندسين.