كشف تحليل أجرته رويترز أن أداة جديدة طورتها شركة ميتا (Meta) لاكتشاف الصور المُولدة ب الذكاء الاصطناعي فشلت في التعرف على بعض الصور التي أنشأتها نماذج الشركة نفسها بعد إجراء تعديل بسيط عليها عبر اقتصاصها.
وجاء ذلك بعد أيام من استعراض الشركة للأداة، بالتزامن مع إطلاق نموذجها الجديد لتوليد الصور Muse Image.
وأظهر تحليل رويترز، الذي شمل 40 صورة مولدة باستخدام Muse Image، أن الأداة نجحت في التحقق من جميع الصور الأصلية.
لكن بعد اقتصاص الصور لتصبح بحجم يتراوح بين ثلث ونصف حجمها الأصلي، فشلت الأداة في التعرف على 55% منها باعتبارها صورًا مولدة بالذكاء الاصطناعي.
ويبرز هذا القصور التحديات التي تواجه تقنيات التحقق من الصور بعد تعرضها لتعديلات شائعة، وهو ما قد يزيد من صعوبة رصد الصور المزيفة (Deepfakes) على الإنترنت، خاصة خلال عام انتخابي مزدحم يشمل انتخابات التجديد النصفي في الولايات المتحدة.
وتوضح ميتا على موقعها الإلكتروني أن الأداة التجريبية تعتمد على نظام علامة مائية غير مرئية يُعرف باسم Content Seal، يتم تضمينه داخل كل صورة ينتجها نموذج Muse Image، بما يسمح للمستخدمين بالتحقق مما إذا كانت الصورة قد أُنشئت بواسطة نماذج الذكاء الاصطناعي التابعة للشركة، حتى بعد اقتصاصها.
وعند سؤالها عن نتائج تحليل رويترز، أكدت الشركة أن الأداة لا تزال في مرحلة المعاينة (Preview).
وأضافت أن العلامة المائية صُممت لتظل موجودة بعد التعديلات الشائعة على الصور، إلا أن الإشارة قد تضيع إذا تعرضت الصورة لاقتصاص كبير.
وأشارت رويترز إلى أن شركات تقنية منافسة مثل جوجل و أوبن إيه آي سبق أن حذرت من أن أدواتها الخاصة للكشف عن الصور المولدة ب الذكاء الاصطناعي ليست محصنة بالكامل ضد تقنيات تعديل الصور.
وفي مارس الماضي، دعا مجلس الرقابة في ميتا ( Meta Oversight Board)، وهو هيئة مستقلة تصدر قرارات ملزمة وتوصيات بشأن سياسات المحتوى على منصات الشركة، إلى بذل جهود أكبر لمواجهة الانتشار المتزايد للمحتوى المضلل المُنتج بالذكاء الاصطناعي، والاستثمار في أدوات كشف أكثر قوة.
وقال سيوي ليو، أستاذ علوم الحاسب بجامعة ولاية نيويورك في بوفالو والمتخصص في الأدلة الجنائية الرقمية للصور المعتمدة على الذكاء الاصطناعي، إنه لم يقيم أداة ميتا بشكل مباشر، لكنه أوضح أن أنظمة العلامات المائية تواجه قيودًا معروفة.
وأضاف: "يمكن أن تكون طرق العلامات المائية فعالة للغاية طالما بقيت العلامة سليمة، لكن أي تعديل يزيل أو يضعف الإشارة المضمنة — مثل الاقتصاص أو تغيير الحجم أو الضغط الشديد أو التعديل على الصورة — قد يقلل من فعاليتها، بحسب تصميم العلامة المائية."
من جانبها، قالت سارة بارينغتون، الباحثة في الذكاء الاصطناعي وطالبة الدكتوراه في جامعة كاليفورنيا - بيركلي، إن تقنية العلامات المائية تمثل خطوة واعدة لمستقبل التحقق من المحتوى المُولد بالذكاء الاصطناعي، لكنها ليست حلاً كاملاً.
وأضافت: "مثل كثير من إجراءات الأمن السيبراني أو الأمن المادي، قد لا تكون محكمة بنسبة 100%، لكن حتى إذا نجحنا في كشف 90% فقط من الحالات، فسيظل ذلك تقدماً كبيراً مقارنة بعدم القدرة على كشف أي شيء."