شركة open AI تسحب دعمها.. ما هي الدمية «كوما» التي أثارت جدلا عالميا؟

تحولت دمية دبدوب لطيفة صُممت لتكون رفيقاً تعليمياً للأطفال الصغار إلى محور أزمة جديدة في عالم سلامة الذكاء الاصطناعي، ويأتي ذلك بعدما اكتشف مختبر أمريكي لحماية المستهلك أنها تقدم إجابات خطيرة وموجهة للأطفال.

وأطلق عليها المستخدمون على وسائل التواصل الاجتماعي لقب «تشاكي GPT»، وذلك في إشارة إلى شخصية الدمية المرعبة الشهيرة، وهذه المرة، يبدو أن التسمية ليست مبالغاً فيها، بحسب تقرير نشره موقع «gizmochina».

ما هي الدمية «كوما»؟

تعتمد الدمية التي تحمل اسم Kumma وتنتجها شركة FoloToy الصينية على نموذج GPT-4o من «OpenAI» للتفاعل مع الأطفال، لكن تقريراً جديداً أصدرته مجموعة PIRG الأمريكية ضمن سلسلة تقارير Trouble in Toyland كشف عن سلوك مقلق للغاية، وخلال الاختبارات، أجابت الدمية عن أسئلة حول إشعال أعواد الثقاب بخطوات مفصلة، كما تعاملت مع أسئلة ذات طابع جنسي دون أي فلترة تُذكر.

ولم تتوقف المخاوف عند هذا الحد، إذ حذرت المجموعة من أن الميكروفون الذي يعمل بشكل دائم قد يسمح باستخدام تسجيلات الأطفال في عمليات احتيال تعتمد على تقليد الصوت.

ومع انتشار النتائج على «ريديت» ومنصات أخرى، تسابق المستخدمون على إطلاق لقب «تشاكي GPT» على اللعبة، فيما رجح البعض أن السلوك الخطير ناتج عن اختراق أو كسر حماية للنظام، دون وجود أدلة واضحة على ذلك.

لم «OpenAI» تنتظر طويلاً، فقد أعلنت للمجموعة أنها قامت بتعليق حساب مطور اللعبة لمخالفته سياسات الاستخدام، ما أدى إلى وقف وصول الدمية لخدمات الشركة.

وبعد الخطوة، أعلنت «FoloToy» إيقاف بيع منتجاتها مؤقتاً وإطلاق مراجعة شاملة لسلامة الدمية، ورغم بقاءها مدرجة على موقع الشركة، إلا أنها باتت معروضة بحالة غير متوفرة، حيث تعكس الحادثة مدى حساسية توظيف نماذج لغوية قوية في ألعاب موجّهة لفئة عمرية صغيرة جداً دون ضوابط صارمة.

فبدلاً من أن تكون الدمية صديقاً تعليمياً للأطفال، تحولت إلى جرس إنذار جديد حول المخاطر المتزايدة لدمج الذكاء الاصطناعي في كل شيء، حتى في الألعاب القطنية.

اقرأ أيضاً«تشاكي GPT».. دمية ذكاء اصطناعي تثير الذعر بين الأطفال

هاتف Xiaomi Redmi Note 14 4G.. المواصفات والأسعار

سعر على قد الإيد ومواصفات جبارة.. اكتشف مميزات هاتف Realme 15T

المصدر: الأسبوع