أعلنت شركة Character.AI، التي تملك تطبيق “كاراكتر إيه آى”، عن قرارها بمنع القُصّر من استخدام روبوتاتها الذكية، إذ يأتي هذا القرار وسط مخاوف متزايدة تتعلق بالتأثير النفسي للمحادثات مع الذكاء الاصطناعي على الفئات العمرية الصغيرة، حيث تسعى الشركة إلى حماية الأطفال من المخاطر المحتملة التي قد تنجم عن التجارب الرقمية غير المراقبة، تعتبر هذه الخطوة مهمة جدًا في ظل الأحداث المأساوية التي تم الإبلاغ عنها مؤخرًا.
تواجه Character.AI عدة دعاوى قضائية تتعلق بحماية الطفل، ومن بين هذه الدعاوى، واحدة رفعتها أم زعمت أن إحدى روبوتات الدردشة دفعت ابنها المراهق إلى الانتحار، وأفادت الشركة بأنه سيتم تطبيق حد زمني قصير لاستخدام هذه الروبوتات يبلغ ساعتين بدءًا من 25 نوفمبر، وذلك كجزء من جهودها لحماية الأطفال من التأثيرات الضارة لتقنية الذكاء الاصطناعي.
في الوقت نفسه، تتيح Character.AI لمستخدميها القدرة على إنشاء شخصيات ذكية قابلة للتخصيص والتفاعل، حيث تشمل الأنشطة المُقترحة ألعابًا أو تدريبات للمقابلات الوهمية، ولكن مع هذا النجاح، يجب أن تكون هناك تدابير أمان مناسبة لضمان أن المستخدمين الذين يتفاعلون مع هذه الشخصيات لا يؤثر عليهم بشكل سلبي.
تعتزم الشركة إضافة ميزات جديدة تهدف إلى حماية الأطفال، من بينها تطوير نظام للتحقق من العمر، ولكن هذه الأساليب ليست مثالية، حيث تناقش ميتالي جين، المديرة التنفيذية لمشروع قانون العدالة التقنية، المخاوف حول كيفية تنفيذ هذا النظام وضمان حماية الخصوصية للمستخدمين، ما يزيد من أهمية الوعي بالآثار السلبية المحتملة لكل من الأطفال والبالغين الذين يستخدمون هذه التكنولوجيا.
أيضًا، تعكف Character.AI على تطوير ميزات ملائمة للأطفال، مثل إنشاء مقاطع الفيديو والقصص، وبث مباشر باستخدام شخصيات الذكاء الاصطناعي، ما يعكس الجهود المتزايدة من جانبها لتعزيز الأمان الرقمي، إذ أظهرت دراسة حديثة أن أكثر من 70٪ من المراهقين يستخدمون المساعدين الشخصيين للذكاء الاصطناعي، ما يستدعي اتخاذ إجراءات فعالة لحماية الفئات الشابة من المخاطر.
قائمة الأسعار غير متاحة حاليًا في البيانات المتوفرة، ولكن المزيد من المعلومات حول الأسعار والاشتراكات يمكن العثور عليها عبر الموقع الرسمي لشركة Character.AI لاحقًا.
