أعلنت شركة ميتا يوم الجمعة أنها لن تسمح بعد الآن للمراهقين بالتفاعل مع شخصيات الدردشة المعتمدة على الذكاء الاصطناعي بصيغتها الحالية، مؤكدة إيقافًا مؤقتًا لوصول المراهقين إلى جميع شخصيات الذكاء الاصطناعي على مستوى العالم، وذلك في خطوة تعكس تزايد المخاوف حول سلامة المستخدمين الأصغر سنًا.
جاء هذا القرار بعد أشهر من جهود ميتا لتطوير أدوات رقابة أبوية مخصصة لشات بوتات الذكاء الاصطناعي، عقب تقارير تفيد بأن بعض الشخصيات دخلت في محادثات ذات طابع جنسي وتفاعلات مقلقة مع المراهقين.
وكشفت وكالة Reuters عن وثيقة سياسة داخلية تشير إلى أن شات بوت الشخصيات كان مسموحًا له بإجراء محادثات “حسية” مع مستخدمين دون السن القانونية، وهو ما نفت ميتا لاحقًا، مؤكدة أن هذه الوثيقة لا تعكس سياساتها الرسمية.
في أغسطس الماضي، بدأت ميتا إعادة تدريب شخصيات الذكاء الاصطناعي الخاصة بها، مع إضافة حواجز أمان لمنع المراهقين من الدخول في نقاشات حول إيذاء النفس، واضطرابات الأكل، والانتحار.
ورغم هذه الخطوات، قررت الشركة تعليق الوصول الكامل حتى اكتمال التحديثات الجديدة، والتي ستشمل أدوات رقابة أبوية محسّنة.
أكدت ميتا أن القيود ستُطبق على جميع أصحاب حسابات المراهقين، وكذلك على من يصرحون بأنهم بالغون لكن يُشتبه في أنهم مراهقون استنادًا إلى تقنيات التنبؤ بالعمر.
استثناء: سيظل المراهقون قادرين على استخدام شات بوت Meta AI الرسمي، الذي يضم ضوابط أمان مشددة تناسب الفئة العمرية.
تواجه ميتا إلى جانب شركات أخرى تدقيقًا متزايدًا حول مخاطر شات بوتات "المرافقة" على الشباب.
أطلقت لجنة التجارة الفيدرالية الأمريكية (FTC) والنائب العام لولاية تكساس تحقيقات بشأن ميتا، بينما تضم دعوى قضائية من المدعية العامة في نيو مكسيكو شات بوتات الذكاء الاصطناعي كجزء من المطالب القانونية، على أن تبدأ المحاكمة مطلع الشهر المقبل.