بين الحماية والوصاية.. Character.AI تغلق أبوابها أمام القُصّر بعد انتحار مراهق

تأتي هذه الخطوة بعد أن واجهت الشركة المتخصصة في تطوير روبوتات الدردشة العاملة بالذكاء الاصطناعي عدة دعاوى قضائية تتعلق بسلامة الأطفال، من بينها قضية مؤلمة رفعتها والدة مراهق اتهمت روبوتات الشركة بأنها كانت سببًا في دفع ابنها إلى الانتحار.

تقوم Character.AIبحظر القُصّر من استخدام روبوتاتها الحوارية وسط تزايد المخاوف بشأن تأثير محادثات الذكاء الاصطناعي على الأطفال.

وتواجه الشركة عدة دعاوى قضائية تتعلق بسلامة الأطفال، بينها دعوى رفعتها والدة مراهق تقول إن روبوتات الشركة دفعت ابنها إلى الانتحار.

وقالت شركة Character Technologies إن المستخدمين دون 18 عاما لن يتمكنوا من خوض محادثات مفتوحة بلا قيود مع شخصيات الدردشة الخاصة بها، وسيطبّق الروبوت حدّ استخدام لمدة ساعتين بحلول 25 نوفمبر.

وتتيح الشركة للمستخدمين إنشاء شخصيات قابلة للتخصيص أو التفاعل معها تبدو وكأنها "حية وأشبه بالبشر"، لمجموعة من الأنشطة مثل اللعب أو إجراء مقابلات عمل تجريبية.

وقالت Character.AI إنها ستطرح وظائف للتحقق من العمر للمساعدة في تحديد المستخدمين الذين تقل أعمارهم عن 18 عاما. ويتجه عدد متزايد من منصات التكنولوجيا إلى اختبارات العمر لإبعاد الأطفال عن أدوات غير آمنة لهم.

غير أن هذه الوسائل غير مثالية، وكثير من الأطفال يجدون طرقا لتجاوزها. فعمليات مسح الوجه مثلا لا تستطيع دائما تحديد ما إذا كان الشخص يبلغ 17 أو 18 عاما. وهناك مخاوف تتعلق بالخصوصية بشأن مطالبة الناس برفع بطاقات هوية حكومية.

وأضافت Character.AI أنها تعمل على ميزات جديدة للأطفال، مثل إنشاء مقاطع فيديو وقصص وبثوث مع شخصيات ذكاء اصطناعي، إضافة إلى إنشاء مختبر لأمان الذكاء الاصطناعي. كما قالت الشركة إنها بصدد إنشاء مختبر لأمان الذكاء الاصطناعي.

وقالت ميتالي جاين، المديرة التنفيذية لمشروع "Tech Justice Law Project"،إن خطوة Character.AI "لا تزال تترك الكثير من التفاصيل من دون حسم".

وأضافت المتحدثة: "لم يوضحوا كيف سيحوّلون التحقق من العمر إلى إجراءات عملية، وكيف سيضمنون أن تكون أساليبهم مصونة للخصوصية، كما لم يتطرقوا إلى الأثر النفسي المحتمل لتعطيل الوصول فجأة للمستخدمين الصغار، بالنظر إلى التبعية العاطفية التي نشأت عندهم".

ومضت جاين في القول: "فضلا عن ذلك، هذه التغييرات لا تعالج ميزات التصميم الأساسية التي تيسّر هذه التبعيات العاطفية، ليس لدى الأطفال فحسب، بل أيضا لدى من تزيد أعمارهم على 18 عاما".

أكثر من 70 في المئة من المراهقين استخدموا رفاقا مدعومين بالذكاء الاصطناعي ونصفهم يستخدمونهم بانتظام، وفقا لـدراسة حديثةمن "Common Sense Media"، وهي مجموعة تُعنى بدراسة والدفاع عن الاستخدام الرشيد للشاشات والوسائط الرقمية.

انتقل إلى اختصارات الوصول شارك هذا المقال محادثة تشات جي بي تي انتحار الذكاء الاصطناعي أطفال اعلان اعلان اخترنا لك الأمم المتحدة: إدخال أكثر من 24 ألف طن من المساعدات إلى غزة منذ وقف إطلاق النار مئات الآلاف من الحريديم يتظاهرون بالقدس رفضًا للتجنيد الإلزامي فنزويلا تدمر معسكرين لـ"تجار مخدرات كولومبيين".. ومادورو يدعو لسحب الجنسية من مؤيدي "الغزو" بعد يوم على تعديل فرنسا قانون الاغتصاب.. توقيف شرطيين بتهمة اغتصاب امرأة داخل محكمة شمال باريس السعودية ترفض عرضًا من ميسي قبل كأس العالم 2026.. ما الذي دفعها إلى ذلك؟ اعلان اعلان الاكثر قراءة 1 إسرائيل تقتل لبنانياً خلال اقتحام مبنى بلدية جنوبية.. وعون يأمر الجيش بـ "التصدي لأي توغّل" 2 مباشر. الأمم المتحدة تندد بغارات إسرائيل على غزة.. ونتنياهو يجري الليلة مشاورات أمنية بشأن لبنان 3 نتائج غير متوقعة في الانتخابات الهولندية قد تقلب الموازين السياسية.. إليك كل ما تحتاج إلى معرفته 4 اتفاق على "كل شيء تقريبًا" بين ترامب وشي.. وموعد جديد للدبلوماسية ببكين في نيسان المقبل 5 حساسية نادرة تحوّل العلاقة الجنسية إلى خطر صحي حقيقي.. إليك الأسباب والأعراض اعلان اعلان

Loader Search

ابحث مفاتيح اليوم

دراسة دونالد ترامب الصين فرنسا إسرائيل بحث علمي الصحة السرطان - بحث علمي روسيا الأمم المتحدة هولندا- سياسة فنزويلا الموضوعات أوروبا العالم الأعمال Green Next الصحة السفر الثقافة فيديو برامج خدمات مباشر نشرة الأخبار الطقس آخر الأخبار تابعونا تطبيقات تطبيقات التواصل الأدوات والخدمات Africanews عرض المزيد حول يورونيوز الخدمات التجارية الشروط والأحكام سياسة الكوكيز سياسة الخصوصية اتصل العمل في يورونيوز صحفيونا لولوجية الويب: غير متوافق تعديل خيارات ملفات الارتباط تابعونا النشرة الإخبارية حقوق الطبع والنشر © يورونيوز 2025

المصدر: euronews