استجابت شركة Character.AI، المطورة لمنصة الدردشة الشهيرة بالذكاء الاصطناعي، للضغوط المتزايدة لحماية المستخدمين الأصغر سنًا من المخاطر المحتملة للتفاعل غير المقيد مع الروبوتات، حيث أعلنت الشركة عن تغييرات جذرية في سياستها، مؤكدة أنها ستمنع المستخدمين الذين تقل أعمارهم عن 18 عامًا من الانخراط في أي محادثات مفتوحة النهاية مع روبوتات الدردشة الخاصة بها، وهو ما يعكس حرصها على خلق بيئة آمنة لهؤلاء المستخدمين.
تدخل هذه التغييرات حيز التنفيذ بداية من 25 نوفمبر، وحتى ذلك الموعد ستقدم Character.AI تجربة جديدة للمستخدمين القاصرين، تهدف إلى تشجيعهم على استخدام روبوتات الدردشة لأغراض إبداعية مثل إنشاء مقاطع فيديو، بدلًا من رغبات تكوين علاقات عاطفية مع الآلات، ولإدارة هذه المرحلة سيتم تحديد تفاعل القاصرين مع الروبوتات بسقف يومي محدود يبلغ ساعتين، وهو حد سيجري تخفيضه تدريجيًا قبل الموعد النهائي.
كما تعزز Character.AI تدابيرها الأمنية بإطلاق أداة داخلية لضمان العمر، والتي تهدف إلى توفير تجربة مناسبة لجميع الأعمار، تهدف الشركة أيضا إلى تحقيق المزيد من التعاون من خلال “مختبر Character.AI لسلامة الذكاء الاصطناعي” الذي يعد منصة للتبادل المعرفي مع الشركات والباحثين، حيث تسعى الشركة إلى تحسين تدابير الأمان لتكون أكثر فاعلية في ظل المخاطر الكامنة في استخدام الذكاء الاصطناعي.
يأتي هذا القرار استجابة للمخاوف المتزايدة من الهيئات التنظيمية، واهتمام الآباء بالسلامة الرقمية، حيث أطلقت لجنة التجارة الفيدرالية تحقيقًا رسميًا لمراجعة ممارسات شركات الذكاء الاصطناعي، وتم استدعاء Character.AI ضمن شركات أخرى للمشاركة في هذا التحقيق، وفي ضوء التطورات القانونية، أعلن الرئيس التنفيذي للشركة، كارانديب أناند، أن الاتجاه الجديد سيسعى إلى تحويل شخصية الروبتات من “رفيق ذكاء اصطناعي” إلى “منصة إبداعية” تعزز الابتكار بدلاً من الاكتفاء بالمحادثات التقليدية.
يمثل هذا الإجراء خطوة مهمة في سياق النقاش الأوسع حول آثار التفاعل مع روبوتات الدردشة، خاصة في ظل المخاوف المتزايدة بشأن تأثيرها على الشباب، وخاصة في ضوء التطورات الإعلامية والدعاوى القضائية، مثل القضية التي قامت برفعها عائلة الشاب آدم راين ضد شركة OpenAI، مما يزيد من أهمية هذا الاقتراح لضمان سلامة المستخدمين الأصغر سنًا في عالم يتجه نحو الاعتماد الكثيف على التكنولوجيا.
