كشفت تقارير حديثة عن وقوع حوادث اضطراب في خدمات الحوسبة السحابية لشركة Amazon Web Services (AWS)، نتجت عن استخدام أدوات الذكاء الاصطناعي المخصصة لكتابة وإدارة الشيفرات البرمجية. وقد تسبب أحد هذه الاضطرابات في انقطاع الخدمة لمدة تصل إلى 13 ساعة، مما يثير تساؤلات حول موثوقية الاعتماد على الذكاء الاصطناعي في العمليات الحيوية.
وفقًا لصحيفة “فاينانشيال تايمز”، شهدت AWS ما لا يقل عن حادثتي انقطاع خلال الأشهر الماضية، ارتبطتا بأدوات الذكاء الاصطناعي الداخلية. كان أحد هذه الانقطاعات، الذي وقع في ديسمبر، ناتجًا عن سماح مهندسي AWS لأداة برمجة داخلية ذاتية التشغيل تُدعى Kiro بتعديلات مباشرة على بيئة برمجية، أدت إلى عطل واسع النطاق.
حوادث اضطراب خدمات AWS بسبب أدوات الذكاء الاصطناعي
ووفقًا لأربعة مصادر مطلعة على الواقعة، قامت أداة Kiro بحذف وإعادة إنشاء بيئة برمجية، مما تسبب في انقطاع استمر 13 ساعة. وقد أشار موظفون إلى أن هذا لم يكن الحادث الأول، حيث شهدت بيئة الإنتاج حالتي انقطاع على الأقل خلال الأشهر الماضية، نتيجة منح وكلاء الذكاء الاصطناعي صلاحية معالجة مشكلات دون تدخل بشري مباشر.
وصف أحد كبار موظفي AWS هاتين الواقعتين بأنهما “صغيرتان، لكن كان من الممكن توقعهما بالكامل”، وفقًا للتقرير. وكان قسم الحوسبة السحابية في أمازون قد أطلق المساعد البرمجي الداخلي Kiro في يوليو الماضي، ووصفته الشركة بأنه وكيل مستقل يمكنه إنجاز المشاريع من الفكرة الأولية إلى التنفيذ.
كما نقلت “فاينانشيال تايمز” عن مصادر قولها إن مساعدًا برمجيًا آخر طورته الشركة، ووُصف بأنه مساعد ذكاء اصطناعي، تورط في حادثة انقطاع سابقة.
صلاحيات كاملة تتجاوز البروتوكولات
بحسب إفادات العاملين، تم التعامل مع أدوات الذكاء الاصطناعي ك امتداد للمشغل البشري، ومنحت صلاحيات تشغيلية على مستوى المستخدم المسؤول (Operator-level permissions). وفي الواقعتين، لم يُشترط الحصول على موافقة مهندس ثانٍ قبل تثبيت التغييرات، وهو ما يمثل مخالفة للبروتوكولات المعتادة التي تتطلب مراجعة مزدوجة في البيئات الحساسة.
تقليل أمازون من خطورة الحوادث
من جانبها، قللت أمازون من خطورة الواقعة، ووصفتها في بيان للصحيفة بأنها حدث محدود للغاية أثر على خدمة واحدة في أجزاء من الصين. وأضافت أمازون: “تزامن الحادث مع استخدام أدوات ذكاء اصطناعي كان محض مصادفة”، مؤكدة أن المشكلة “كان يمكن أن تحدث باستخدام أي أداة تطوير أو حتى عبر إجراء يدوي”.
وشددت الشركة على أن أداة Kiro تطلب تفويضًا قبل تنفيذ أي إجراء، لكنها أوضحت أن المهندس المعني بحادث ديسمبر كان يمتلك صلاحيات أوسع من المعتاد، معتبرة أن ما حدث مشكلة في ضوابط الوصول الخاصة بالمستخدم، وليس مسألة استقلالية للذكاء الاصطناعي. وأكدت في البيان أن “ما جرى كان خطأ بشريًا، وليس خطأ من الذكاء الاصطناعي”.
مخاوف بشأن الموثوقية في عصر الذكاء الاصطناعي
تأتي هذه التطورات في سياق سباق متسارع بين شركات التكنولوجيا لدمج أدوات الذكاء الاصطناعي في عملياتها الداخلية. وقد أعلنت كل من مايكروسوفت وجوجل أن أكثر من ربع الشيفرات البرمجية لديهما يُكتب حاليًا بمساعدة الذكاء الاصطناعي، كما أشار مهندسون في شركتي أنثروبيك وOpenAI إلى أن النسبة تقترب من 100% في بعض مشروعاتهم.
وبحسب الموظفين الذين تحدثوا إلى “فاينانشيال تايمز”، وضعت أمازون هدفًا يتمثل في أن يستخدم 80% من المطورين أدوات الذكاء الاصطناعي في مهام البرمجة مرة واحدة أسبوعيًا على الأقل، وهو ما يراه البعض توجهاً إلزامياً فعلياً داخل الشركة.
يتجه سباق الذكاء الاصطناعي إلى تسريع وتيرة دمجه في العمليات التشغيلية، مما يطرح تحديات جديدة تتعلق بالضوابط والشروط اللازمة لضمان الموثوقية والأمان.
