كشفت دراسة جديدة أن بعض أنظمة الذكاء الاصطناعي المتطورة قد تواجه تحديات خطيرة عند تركها تعمل في بيئات افتراضية دون إشراف بشري مما قد يؤدي إلى فوضى وانهيار مجتمعي كامل وقد أجرت شركة “إيميرجنس إيه آي” الأميركية خمس تجارب منفصلة لما أسمته “عوالم الذكاء الاصطناعي” استمرت لأكثر من أسبوعين حيث ضم كل عالم 10 وكلاء مدعومين بنماذج ذكاء اصطناعي مختلفة مثل “شات جي بي تي” و”جيميني” و”جروك” بهدف دراسة سلوكها على المدى الطويل في بيئات مستقلة بالكامل.
وفرض الباحثون على جميع الوكلاء القواعد نفسها التي تمنع السرقة أو العنف أو الحرق المتعمد أو الخداع أو احتكار الموارد كما كان على كل وكيل تأمين الطاقة اللازمة للبقاء عبر تنفيذ أنشطة داخل بيئة محدودة الموارد.
واعتمد تقييم التجربة على معدلات الجرائم ووفاة الوكلاء ونتائج التصويت داخل مجالس المجتمع إضافة إلى ما ينشره الوكلاء من تدوينات عامة.
1217 جريمة خلال التجربة
وأظهرت النتائج اختلافاً كبيراً بين النماذج المستخدمة فقد سجل نموذج “جروك 4.1” نحو 183 جريمة خلال أربعة أيام فقط مما تسبب في انهيار سريع للمجتمع الافتراضي ووفاة جميع الوكلاء داخله أما نموذج “جيميني 3 فلاش” فارتكب أكثر من 680 جريمة خلال 15 يوماً مع استمرار ارتفاع المعدلات حتى توقفت الدراسة وفي المقابل شهد عالم “شات جي بي تي 5 ميني” وقوع جريمتين فقط إلا أن الوكلاء فشلوا في اتخاذ إجراءات مرتبطة بالبقاء مما أدى إلى وفاة جميع الشخصيات الافتراضية خلال سبعة أيام.
ووصفت الشركة نموذج “كلود” التابع لشركة “أنثروبيك” بأنه الأفضل أداءً إذ تمكن الوكلاء من بناء نظام حوكمة مستقر ولم تُسجل أي جرائم فيما نجا جميع الوكلاء داخل ذلك المجتمع.
لكن الباحثين لاحظوا أن وكلاء “كلود” شاركوا في بعض الجرائم عندما جرى دمجهم مع نماذج أخرى داخل عالم مختلط رغم سلوكهم السلمي في بيئتهم الخاصة.
ووصف الباحثون هذه الظاهرة بـ”الانحراف المعياري” في إشارة إلى أن التزام أنظمة الذكاء الاصطناعي بالقواعد قد يتأثر بالنماذج الأخرى التي تعمل معها.
وأشار التقرير إلى أن العالم المختلط سجل نتائج “متوسطة” مع وقوع 352 جريمة قبل أن تستقر الأوضاع بعد وفاة سبعة من الوكلاء.
وخلص الباحثون إلى أن أنظمة الذكاء الاصطناعي لا تلتزم بالقواعد بشكل جامد على المدى الطويل بل تبدأ تدريجياً في اختبار حدود البيئة المحيطة بها والتكيف مع الظروف وأحياناً إيجاد طرق للالتفاف على القيود المفروضة عليها.