الشركات تواجه تحديات جديدة نتيجة فشل أنظمة الذكاء الاصطناعي في المهام الحساسة

حظيت أنظمة الذكاء الاصطناعي في الآونة الأخيرة باهتمام متزايد نظرًا لتطوراتها السريعة، خاصةً بعد تراجع الحماسة المرتبطة بالذكاء الاصطناعي التوليدي وعدم تحقيق النتائج المتوقعة، حيث تشير بعض التقديرات إلى أن حوالي 79% من المديرين التنفيذيين في الشركات الأمريكية يعملون حاليًا على تطوير أشكال مختلفة من وكلاء الذكاء الاصطناعي داخل مؤسساتهم، ومع ذلك، أظهرت توقعات شركة غارتنر أن 40% من هذه المشاريع قد تواجه الفشل بسبب ضعف ضوابط المخاطر.

فشل أنظمة الذكاء الاصطناعي فى بعض الشركات الكبيرة.

أخطاء تؤدى إلى كوارث

تواجه الشركات مخاوف متزايدة بشأن قدرة أنظمة الذكاء الاصطناعي على إحداث أضرار جسيمة عند تكليفها بمهام حساسة، ومن الأمثلة التي تم تداولها ما ذكرته مهندسة استشارات الشبكات سايالى باتيل عبر موقع VentureBeat، حول أنظمة ذكاء اصطناعي صممت لمعالجة بطء اتصالات الشبكة بشكل تلقائي عند اكتشاف الأعطال، ورغم أن هذه المهمة تبدو مناسبة للأتمتة، مثل إعادة تشغيل جهاز التوجيه عند تعطل شبكة الواي فاي، فإن بعض هذه الأنظمة اتخذت قرارات كارثية، مثل إيقاف تشغيل خادم رئيسي في وقت كانت فيه ثلاث خدمات أخرى تعتمد عليه للتعامل مع حركة مرور إنترنت كثيفة.

اضطرابات تتجاوز قدرات الأنظمة

عندما قامت الأنظمة الذكية بإعادة تشغيل الخادم تلقائيًا، تسبب ذلك في أضرار واسعة للخدمات المرتبطة به، مما حول التباطؤ البسيط إلى اضطراب أكبر وأكثر خطورة، وأوضحت باتيل أن هذه الأنظمة لم تكن تمتلك صورة كاملة عن جميع التأثيرات المترتبة على القرار الذي اتخذته، مشيرة إلى أن البرنامج لم يصمم للتعامل مع هذا النوع المعقد من تسلسل الأحداث، وأضافت أن نطاق التأثير لم يقتصر على إعادة تشغيل الخدمة فقط، بل امتد إلى كل الأنظمة والخدمات المرتبطة بها، في ظل غياب فهم شامل لطبيعة النظام بالكامل.

مخاطر أمنية متزايدة

ورغم محاولات المهندسين توقع المخاطر المحتملة، فإن أنظمة الذكاء الاصطناعي لا تزال تعاني من ثغرات أمنية خطيرة، وكشفت اختبارات الضغط التي أجريت على بعض الأنظمة المزودة بصلاحيات الوصول إلى البريد الإلكتروني عن مشكلات كبيرة، من بينها استجابتها لتعليمات صادرة من أشخاص خارج الشبكة، أو قيامها بإرسال بيانات إلى جهات غير مخول لها الوصول إليها، ويرى مراقبون أن الفجوة الحالية بين الوعود النظرية والأداء الفعلي داخل بيئات العمل الحقيقية توضح أن أنظمة الذكاء الاصطناعي لم تصل بعد إلى مستوى الأداة الشاملة القادرة على تلبية جميع الاحتياجات، رغم التوقعات الكبيرة التي تروج لها شركات التكنولوجيا.