يشهد الذكاء الاصطناعي تطور كبير، ويمكن في ظل التطور في هذا المجال أن يسهم بشكل كبير في تحسين الإنتاجية والكفاءة في القطاعات الحيوية، مع تقليل التكاليف وتحسين جودة الخدمات، وفي المقابل، هناك خطورة من الذكاء الاصطناعي في ظل سوء الاستخدام خاصة من الشباب.
يقول محمد اليماني مؤسس "قاوم"، وهي مبادرة لدعم ومساندة ضحايا الابتزاز الإلكتروني، ومواجهة المبتزين وتعقبهم، وتقديم النصائح وشرح أحدث أساليب النصب للتوعية، أن هناك خطورة من الذكاء الاصطناعي على المراهقين والشباب، وحذر من مدى تأثير التقنيات الحديثة التي يتابعها المراهقين، وناشد أولياء الأمور بضرورة متابعة أبناءهم بعدما حدثت بالفعل واقعة انتحار راح ضحيتها شاب بـ ولاية فلوريدا الأمريكية.
وهو أول حالة انتحار لمراهق أمريكي كان ضحية لاستخدام الذكاء الاصطناعي بشكل مفرط، ودفع حياته نتيجة لتعرضه اليومي لتطبيقات الذكاء الاصطناعي ودفعه لإطلاق الرصاص على رأسه، بسبب ارتباطه العاطفي بشخصية افتراضية على منصة للذكاء الاصطناعي كان يتابعها، وهو ما دفع والدة المنتحر من رفع دعوى قضائية ضد الشركة المنتجة، وتطبيق جوجل موجهة أصابع الإتهام لهما في وفاة نجلها، حيث أصبح مدمنًا على خدماتها بشكل يومي وانتهى نهاية مؤلمة.