أعلنت شركة مايكروسوفت عن تطوير منهجية أمنية جديدة تستهدف حماية نماذج اللغات الكبيرة (LLMs) من التهديدات السيبرانية المعروفة باسم "العملاء النائمين" (Sleeper Agents)، وهي واحدة من أخطر أشكال الهجمات الخفية المرتبطة بالذكاء الاصطناعي.
وتتمثل هذه التهديدات في أكواد أو تعليمات مخفية يتم زرعها داخل النماذج خلال مرحلة التدريب، لتظل خاملة دون أي تأثير ظاهر، ولا تنشط إلا عند استيفاء شروط معينة مثل كلمة مرور أو سياق محدد، وهو ما قد يؤدي إلى تسريب بيانات حساسة أو تنفيذ هجمات برمجية خبيثة ضد المستخدمين أو المؤسسات.
ووفقًا لموقع Artificial Intelligence News، تعتمد المنهجية الجديدة على تحليل سلوك النموذج داخل بيئات معزولة، مع محاكاة آلاف السيناريوهات التشغيلية بهدف استثارة أي استجابات غير طبيعية قد تكشف عن وجود أبواب خلفية خفية.
وتمكنت مايكروسوفت من خلال هذه الآلية من تحديد أنماط دقيقة في استجابات النماذج تشير إلى تعليمات مشروطة أو أكواد خبيثة كامنة، ما يسمح للمطورين بتنقية النماذج وتطهيرها قبل طرحها للاستخدام التجاري أو المؤسسي.
وتأتي هذه الخطوة ضمن استراتيجية «الأمن أولًا» التي تتبناها شركات التكنولوجيا الكبرى خلال عام 2026، في ظل تصاعد المخاوف من استخدام الذكاء الاصطناعي في الهجمات السيبرانية المتقدمة.
ومع تنامي قدرات النماذج الذكية على كتابة الأكواد وتطوير البرمجيات وإدارة الأنظمة، أصبحت سلامة النماذج وثقة المستخدمين عنصرًا حاسمًا في استقرار الاقتصاد الرقمي العالمي، خاصة في القطاعات الحيوية مثل التمويل والدفاع والبنية التحتية.
وأكدت مايكروسوفت أن المنهجية الجديدة ستسهم في تعزيز أمان أدواتها المعتمدة على الذكاء الاصطناعي، وعلى رأسها Microsoft Copilot، لضمان حمايتها من أي محاولات اختراق استراتيجية قد تنفذها جهات فاعلة معادية.
تعتمد التقنية المطورة على نماذج ذكاء اصطناعي رقابية تقوم بفحص الأوزان العصبية والروابط الداخلية للنماذج الضخمة، لرصد أي «تكتلات غير منطقية» قد تشير إلى تعليمات خفية مشروطة.
وتمنح هذه الآليات الشركات والمؤسسات ثقة أكبر في تبني الذكاء الاصطناعي داخل البيئات الحساسة، دون القلق من تنشيط برمجيات خبيثة داخلية قد تتجاوز بروتوكولات الأمن السيبراني التقليدية.