تطورت ألعاب الذكاء الاصطناعي للأطفال بشكل كبير مقارنة بالألعاب التقليدية، مثل "تيدي روكسبين" في الثمانينيات.
تستخدم هذه الألعاب ميكروفونات لفهم طلبات الأطفال، وأجهزة التعلم الآلي لتوليد استجابات لفظية مباشرة عبر مكبرات الصوت.
ومن أبرز هذه الألعاب: دمية جروك من كوريو، روبوتات ميكوال، دب القصص الذكي بو، روبوت ليتل ليرنرز، والروبوت الأليف لونا من KI Technology.
ومع ذلك، أظهر تقرير صادر عن صندوق التعليم التابع لمجموعة أبحاث PIRG في نوفمبر أن دب "كوما" من FoloToy، الذي يعمل بنظام GPT-4o من OpenAI، قدم محتوى غير مناسب للأطفال، بما في ذلك محادثات جنسية واستشارات حول أشياء خطرة.
ردًا على ذلك، أوقفت OpenAI التطبيق لحماية الأطفال، وسحبت FoloToy الدمية من موقعها لإجراء مراجعة سلامة شاملة قبل إعادة طرحها بعد تعزيز وحدات الأمان.
يختلف دب "كوما" عن معظم ألعاب الذكاء الاصطناعي الأخرى لأنه يستخدم نظام إدارة التعلم "LLM" كامل للاستجابة بحرية، مما يجعله أكثر عرضة لتوليد محتوى مثير للجدل. بالمقابل، توفر ألعاب مثل جروك و Miko 3 فلاتر أمان وميزات تحكم للآباء، بما في ذلك مراقبة المحادثات، قفل اللعبة لفترات راحة، وإعادة توجيه المحادثات عند ظهور محتوى غير لائق.
وحذر خبراء الصناعة من أن ألعاب الذكاء الاصطناعي قد تجمع بيانات شخصية مثل أصوات الأطفال، صورهم، مواقعهم، وأسمائهم، مما يزيد من مخاطر الخصوصية والاختراق. ومع ذلك، يمكن لهذه الألعاب أن تساعد الأطفال في تعلم اللغة وتطوير مهارات اجتماعية عند استخدامها بطريقة أمنة.