الذكاء الاصطناعي يعيد جينيفر من الموت.. ما القصة؟

في فبراير/شباط من عام 2006، اختفت جينيفير كريستني التي كانت تبلغ من العمر 18 ربيعًا، وبعد بحث مطول، عُثر على جثتها في الغابات المجاورة لمنزلها، حطمت هذه الحادثة معنويات والديها اللذين انفصلا وأسس كل منهما مؤسسة خيرية تحت اسم ابنتهم لمنع العنف ضد المراهقين فضلًا عن الضغط على ولاية تكساس الأميركية التي كانوا يقطنون بها لوضع قوانين تنظم علاقات المراهقين.

ورغم مأساة هذه الحادثة، فقد مر عليها 18 عامًا خلالها ترك الأب درو كريستني ولاية تكساس وانتقل للعيش في أتلانتا حيث أكمل مسيرته ضد عنف المراهقين، ولكن ما حدث في صبيحة يوم 2 أكتوبر/تشرين الأول من هذا العام زلزل كيان كريستني الذي لم يتخط بعد موت طفلته الصغيرة.

يعتمد كريستني على تنبيهات "غوغل" ضمن عمل جمعيته الخيرية، إذ يحتاجها لمراقبة حالات ذكر اسم طفلته في المواقع والمنتديات المختلفة، وفي ذاك اليوم، تفاجأ كريستني بوجود تنبيه لم يعتد عليه سابقًا، كشف التنبيه عن وجود حساب يحمل اسم طفلته الكامل فضلًا عن صورة شخصية لها من سجل المدرسة قبيل وفاتها، وعند توجهه إلى صفحة هذا الحساب، وجد بيانات صحيحة عن ابنته مذكورة في الموقع مع زر كبير يدعو الزوار للدردشة معها بشكل مباشر، وكأنها حية ترزق ولم توافها المنية، فكيف حدث ذلك؟.

حساب للموتى في "كاراكتر" (Character)

لم يتوان كريستني عن التواصل مع الموقع المسؤول عن حساب الدردشة الوهمية الذي يحمل صورة طفلته مطالبًا بحذف الحساب وتفسيرا لما حدث، بالطبع قام الموقع بحذف الحساب الوهمي والاعتذار عما حدث، كون المنصة تمتلك قيودًا صارمة متعلقة بإنشاء الحسابات الوهمية.

لكن هذا الحساب الوهمي تسبب بالفعل في ضرر لن يزول حتى ولو تم حذف الحساب تمامًا، ورغم اعتذارات الشركة وتوضيح أن سياستها ترفض مثل هذا الاستخدام للتقنية، فإنه لا توجد قيود حقيقية تمنع أي مستخدم عشوائي من بناء حساب دردشة وهمية لأي شخصية ميتة منذ عشرات السنين، كما حدث مع كريستني.

ظهر الحساب الوهمي في منصة "كاراكتر إيه آي" (Character.AI)، وهي منصة ذكاء اصطناعي تتيح للمستخدمين بناء روبوتات دردشة افتراضية تعتمد على الذكاء الاصطناعي وتتقمص دور أي شخصية يتم تزويدها بها، وكلما كانت المعلومات التي تزود بها المنصة أكثر كانت الشخصية أقرب للواقع، إذ يمكن تزويد المنصة بمقاطع صوتية حتى تتمكن من توليد صوت يحاكي صوت المتوفى بشكل كبير.

كشفت حادثة كريستني عن غياب القوانين الرادعة المخصصة لشركات الذكاء الاصطناعي (غيتي)

أحدثت منصة "كاراكتر" ضجةً كبيرة فور طرحها، ورغم وجود العديد من المنافسين لها، فإنها تعد الأكبر والأكثر انتشارًا وتحقيقًا للأرباح من هذه الشخصيات الوهمية، وبينما يستخدمها الكثيرون للدردشة مع الشخصيات العامة الشهيرة أو الدخول في علاقات افتراضية مع شخصيات وهمية من خيال المستخدمين، لكن جزءا كبيرا يستخدمها لإعادة بناء شخصيات حقيقية عبر استخدام المواد المتاحة لها عبر الإنترنت، وهو ما حدث مع جينيفير كريستني.

وتجدر الإشارة إلى أن منصة "كاراكتر" هي من صنع نعوم شازير الذي كان سببًا في صفقة وصلت قيمتها إلى 2.7 مليار دولار حتى تتمكن "غوغل" من استخدام خوارزميات "كاراكتر" ونماذج الذكاء الاصطناعي الخاصة بها.

تسليط الضوء على مشكلة أعمق

أثارت الحادثة حنق العديد من أفراد أسرة كريستني ومن ضمنهم بريان وهو شقيق والد جينيفر فضلًا عن كونه صحفيا سابقا في قطاع الألعاب أسهم في تأسيس موقع "كوتاكو" (Kotaku) الشهير للألعاب، إذ شارك عبر حسابه في منصة "إكس" (X) ما حدث واصفًا إياه بالفعل المقزز الذي يجب أن يتوقف عند حده، وقد جذبت تغريدة كريستني أكثر من 48 ألف حالة إعجاب و13 ألف إعادة نشر فضلًا عن 1.3 مليون مشاهدة.

فورًا، خرجت المنصة في بيان رسمي تعتذر عما حدث، وتشير إلى أن سياسات المنصة تحذر من مثل هذه التصرفات، كما أنهم يعملون على حذف الحساب الوهمي فورًا مع إيقاف المستخدم الذي قام بإنشائه، وهو ما أشارت إليه كاثرين كيلي المتحدثة الرسمية باسم المنصة، وعند سؤالها عن احتمالية وجود حسابات وهمية مماثلة أشارت إلى أن الشركة تملك فريقًا خاصًا بأمان وثقة المستخدمين، وأن هذا الفريق مختص بالتحقيق في الحالات المماثلة فور ورود تقارير تشير إليها.

ولكن جين كالتريدر الباحث في مجال الخصوصية ضمن مؤسسة "موزيلا" (Mozilla) غير الربحية انتقد في حديثه مع "واشنطن بوست" الذي نشر في تقرير خاص سياسة شركة "كاراكتر" في إدارة المحتوى المنشور بها واصفًا إياه بالتراخي في أفضل الأحوال، إذ يجب أن يتم منع إنشاء مثل هذه الحسابات الوهمية والتعامل معها قبل أن تتسبب في ضرر لأفراد أسرتها، وليس بعد أن يحدث الضرر، خاصةً وأن الشركة تحقق أرباحًا كبيرة من هذه التقنية.

شركات الذكاء الاصطناعي تعمل الآن تحت قوانين مراقبة المحتوى على الإنترنت دون وجود قوانين خاصة تراعي خصوصية تقنيات الذكاء الاصطناعي (غيتي إيميجز) غياب الردع القانوني

كشفت حادثة كريستني عن غياب القوانين الرادعة المخصصة لشركات الذكاء الاصطناعي، وهذا ما أشار له ريك كلايبول الباحث في روبوتات الدردشة بالذكاء الاصطناعي في مؤسسة "Public Citizen" في حديثة مع "واشنطن بوست".

وأضاف كلايبول أن شركات الذكاء الاصطناعي تعمل الآن تحت قوانين مراقبة المحتوى على الإنترنت دون وجود قوانين خاصة بها تراعي خصوصية تقنيات الذكاء الاصطناعي والقدرات الهائلة التي توفرها هذه التقنيات، إذ يترك للشركات فرصة لتأويل هذه القوانين كما ترغب وتحوير سياقها بما يتناسب مع سياسات كل شركة، وهو الأمر الذي كان بارزًا في مقاطع "تيك توك" المصممة عبر الذكاء الاصطناعي باستخدام شخصيات ماتت في حوادث وحالات انتحار متنوعة.

في الوقت الحالي، يحاول كريستني الوصول إلى صيغة قانونية مناسبة من أجل عرضها على مجلس الشيوخ في تكساس والولايات المختلفة لوضع قوانين رادعة لشركات الذكاء الاصطناعي فضلًا عن وجود العديد من المبادرات الحكومية الأميركية لتقديم هذه القوانين.

ولكن مع قوة ونفوذ شركات التقنية والذكاء الاصطناعي تحديدًا، يصبح الخوض في مثل هذه المعارك القانونية أمرًا مرهقًا ويحتاج إلى الكثير من السنوات والجهد. في النهاية، لا تصنع الشركات المحتوى المسيء بنفسها، بل توفر أدوات يمكن استخدامها بأكثر من طريقة. لذا، فإن طريقة استخدام هذه الأدوات تقع على عاتق المستخدمين.

المصدر: الجزيرة