في سباق محموم نحو المستقبل، تتسارع خطى البشرية لتطوير أنظمة الذكاء الاصطناعي، طامحة إلى تسخير قدراتها الهائلة لخدمة الإنسان وتسهيل حياته، إلا أن هذا السباق لا يخلو من المخاطر، إذ بدأت أصوات كثيرة، من علماء وخبراء تقنية وحتى رواد في صناعة الذكاء الاصطناعي، تحذّر من سيناريو مرعب قد يصبح واقعاً خروج الذكاء الاصطناعي عن السيطرة خاصة أثناء الحروب.
وقالت د. غادة عامر خبير الذكاء الاصطناعي لدى مركز دعم واتخاذ القرار برئاسة مجلس الوزراء، إن الذكاء الاصطناعي يتقدم بسرعة مذهلة، وترك أثرًا كبيرًا في مختلف المجالات، بما فيها الأمن والدفاع، لكن مع هذا التقدم يأتي تساؤل كبير حول المخاطر المحتملة، خاصة في حالات فشل السيطرة على أنظمته أثناء الحروب خلال السنوات الأخيرة، أصبح من الواضح أن الاعتماد المتزايد على الأنظمة الذكية يمكن أن يحمل نتائج كارثية إذا خرجت عن السيطرة فالتقنيات القتالية التي تعتمد على الذكاء الاصطناعي قد تساهم في تصعيد الصراعات بشكل غير متوقع، إذ يمكن أن تتخذ قرارات هجومية بدون تدخل بشري، مما يزيد من حدة الحروب ويقلل من إمكانية التفاهم والتهدئة، كذلك هناك خطر اتخاذ أنظمة الذكاء الاصطناعي قرارات غير أخلاقية خلال العمليات العسكرية، خاصة في ظل غياب معايير صارمة لمعاييره الإنسانية، ففي غياب الرقابة الدقيقة، يمكن أن تؤدي هذه الأنظمة إلى استهداف المدنيين أو إلحاق أضرار غير محسوبة، وهو ما يمثل كارثة أخلاقية وأمنية على حد سواء وبالانتقال إلى التحديات التقنية، وهناك خطر كبير أيضا في حالات الأخطاء والتشويش، حيث يمكن للذكاء الاصطناعي أن يختلط في تحديد الأهداف، أو يتعرض للاختراق الإلكتروني، مما يهدد بنشوب أزمات أوسع، وإذا استُخدم بشكل مفرط، فقد يؤدي إلى فقدان السيطرة الكاملة على منظومات أسلحة متقدمة، الأمر الذي يضع العالم أمام سيناريوهات مرعبة من الحروب الآلية غير المنضبطة، كما يمكن أن يتم توظيف الذكاء الاصطناعي في أعمال تخريبية عن طريق قدرته على الإضرار بالبنية التحتية أو شن هجمات من نوعية الحرب السيبرانية، مما يزيد من تعقيد المشهد الأمني ويوسع دائرة المخاطر. كذلك هناك مخاطر فقدان السيطرة ففي حال تطور الذكاء الاصطناعي بشكل مستقل، قد يصبح من الصعب توقيفه أو تعديل مساره.
وأضافت "عامر" فى تصريح خاص لـ"دار المعارف"، بأن الجديد في الأمر هو أنه قد يتم استخدامه لصنع أسلحة متطورة وسريعة وقد يؤدي هذا إلى التسليح غير المحدود للدول المارقة أو حتى للجهات الفاعلة من غير الدول والجماعات الإرهابية والمتطرفة، مما يهدد الاستقرار العالمي، كذلك فإن الاعتماد عليه بشكل كبير قد يقلل من قدرة الإنسان على السيطرة على مجريات الأحداث واتخاذ القرارات وبالتالي يؤدي إلى زيادة عدم اليقين.
التعامل مع المخاطر.
وأكدت خبير "الذكاء الاصطناعي" أن الحكومات يمكن أن تتعامل مع مخاطر الذكاء الاصطناعي في الحروب من خلال عدة إجراءات مهمة مثل: إصدار قوانين وطنية ودولية تنظم استخدام الذكاء الاصطناعي العسكري، بما يضمن الالتزام بمعايير أخلاقية وحقوق إنسان. والتفاعل مع المنظمات الدولية مثل الأمم المتحدة لوضع إطارات عمل وتفاهمات تحد من انتشار الأسلحة الذاتية وتفرض رقابة على تطويرها. كذلك لابد من إنشاء هيئات مختصة لمراقبة تطوير واستخدام أنظمة الذكاء الاصطناعي، وتوفير آليات لتقييم مدى التزام الجهات المعنية بقوانين الأمان والأخلاق ومن المهم جدا إعداد خطط طوارئ واستجابة عن طريق وضع سيناريوهات وخطط للاستجابة السريعة في حال خروج أنظمة الذكاء الاصطناعي عن السيطرة، لضمان السيطرة على الوضع وتقليل الأضرار. كذلك الاهتمام بالتدريب والتوعية بتنظيم ورش عمل وبرامج توعوية للقادة ومسؤولي الأمن حول مخاطر التكنولوجيا وكيفية إدارتها بشكل مسؤول. و زيادة الاستثمار في البحث و العمل على التطوير المسؤول و دعم البحوث التي تركز على أمن وسلامة أنظمة الذكاء الاصطناعي، وتطوير تقنيات للتحكم والسيطرة على الأنظمة غير المأمونة. كذلك العمل مع الشركات التقنية والمؤسسات البحثية لوضع معايير موحدة لضمان تطوير تقنيات آمنة ومسؤولة.
الخروج عن السيطرة.
وأشارت "عامر" إلى احتمال أن يخرج الذكاء الاصطناعي عن السيطرة ويتخطى ذكاء الإنسان وهو احتمال يُناقش بشكل جدي في أوساط الباحثين والخبراء، خاصة مع تطور تقنيات الذكاء الاصطناعي. يُعتقد أن في حالة الوصول إلى الذكاء الاصطناعي العام (Artificial General Intelligence - AGI)، الذي يمتلك قدرات تفكير وتعلم مشابهة للبشر، قد يكون من الممكن أن يخرج عن السيطرة ويتخطى ذكاء الإنسان. لكن، حتى الآن، نحن بعيدون عن تحقيق هذا النوع من الذكاء الاصطناعي، والأبحاث تركز على تطوير أنظمة قوية لكن محدودة الوظائف، وتحت السيطرة البشرية. معظم قلق الخبراء ينصب على أنظمة الذكاء الاصطناعي الخاص والمحدود، والتي يمكن أن تتصرف بشكل غير متوقع أو تتعرض للاختراق، ولكن ليس لديها القدرة على أن تكون "ذات وعي" أو "ذات عقل كامل" كما البشر. باختصار، نظريًا، الاحتمال موجود، لكنه يبقى بمثابة سيناريو مستقبلي بعيد، ويجب أن نعمل الآن على وضع الضوابط اللازمة لمنع هذا الاحتمال من أن يتحقق، خاصةً عبر أبحاث الأمان والرقابة التكنولوجية.
1- إيجابيات الذكاء الاصطناعي فى نشر الوعى وتناول قرار رئيس الهيئة الوطنية للإعلام
إيجابيات الذكاء الاصطناعي في نشر الوعي تتعدد بشكل كبير، فهو يعتبر أداة فعالة لتعزيز الثقافة والمعرفة، خاصة في الظروف الحالية التي يتطلب فيها الأمر توصيل المعلومات بسرعة وفعالية للجمهور، فمثلا من ايجابياته في المجال الإعلامي أنه يمكن للذكاء الاصطناعي تحليل اهتمامات الجمهور وتقديم محتوى مخصص، مما يعزز من نشر الوعي حول قضايا معينة، مثل الصحة، الانتخابات، البيئة، أو السلامة العامة، أي أنه يستطيع تخصيص المحتوى وتوجيه الرسائل بشكل أكثر دقة، استخدام تقنيات الذكاء الاصطناعي في التفاعل مع الجمهور وذلك عن طريق استخدام تقنيات مثل روبوتات الدردشة والأنظمة التفاعلية والتي تُمكن المؤسسات الإعلامية من الرد على استفسارات الجمهور بشكل سريع وفعال، وتوجيههم إلى المصادر الموثوقة. كذلك يمكن للذكاء الاصطناعي تحليل البيانات وقياس تأثير الحملات الإعلامية وتتبع مدى استجابة الجمهور ومدى انتشار الرسائل، مما يساعد على تحسين الخطط الإعلامية وتكثيف الرسائل الأكثر فاعلية، وأيضا يمكنه نشر رسائل توعوية عبر وسائل متنوعة إمكانية توزيع المحتوى عبر تطبيقات التواصل الاجتماعي والمنصات الرقمية بشكل سريع، مستهدفين فئات عمرية وجغرافية مختلفة بطريقة أكثر فاعلية من الطرق التقليدية. والأهم أنه يستطيع التفاعل المباشر وجمع ملاحظات الجمهور بشكل دائم، وتحليلها لتطوير المحتوى وزيادة تأثيره.