في إطار الاستجابة للمخاطر المتزايدة التي تفرضها وكلاء الذكاء الاصطناعي القادرون على اتخاذ قرارات وتنفيذ مهام مستقلة، أعلنت شركتا م ايكروسوفت و أوبن إيه آي عن تحركات مشتركة تهدف إلى ضمان أمان وحوكمة هذه الأنظمة داخل بيئات المؤسسات.
استحوذت أوبن إيه آي على منصة PromptFoo الناشئة، المتخصصة في اكتشاف الثغرات الأمنية واختبار الأنظمة قبل نشرها، ليتم دمجها ضمن بيئة المؤسسات الخاصة بها.
بالتوازي، تستعد م ايكروسوفت لإطلاق منصة Agent 365، المصممة لمراقبة وإدارة وكلاء الذكاء الاصطناعي العاملة ضمن خدماتها السحابية، وتوفير رؤية شاملة للمسؤولين حول تفاعل هذه النماذج مع البيانات الحساسة.
تمكن الأدوات الجديدة المؤسسات من إجراء هجمات محاكاة آليًا للكشف عن أي سلوكيات غير متوقعة للنماذج قبل تفعيلها في البيئات الفعلية.
كما توفر المنصات تكاملًا بين أدوات المراقبة وإدارة الهوية، ما يضمن توافق عمليات الذكاء الاصطناعي مع القوانين الصارمة المتعلقة بخصوصية البيانات وأمن المعلومات.
مع انتقال الذكاء الاصطناعي من مرحلة الاختبار إلى التشغيل المستقل في صميم العمليات التجارية، تصبح الحوكمة الاستباقية أداة أساسية لتجنب الأخطاء التقنية وحماية البنية التحتية الحرجة للمؤسسات، بما يعزز الثقة في التكنولوجيا ويدعم الاستثمارات في الذكاء الاصطناعي.