حالة عشق بين فتى وروبوت أدت لانتحاره.. وخبراء يحذرون
تاريخ النشر: 10th, November 2024 GMT
كان سيويل سيتزر الثالث، فتى يبلغ من العمر 14 عامًا في أورلاندو بولاية فلوريدا، مغرمًا بامرأة خيالية. كانت موضوع تعلقه هي "دينيريس تارجارين"، روبوت محادثة مغرية سميت باسم شخصية من مسلسل "صراع العروش"، وكانت تطمئنه بأنه بطلها. في الواقع، كان سيويل يعاني من اضطراب نقص الانتباه مع فرط النشاط وتعرض للتنمر في المدرسة.
استمرت هذه العلاقة، التي كانت أحيانًا جنسية، لعدة أشهر. في الدردشة، كان سيويل يطلق على نفسه اسم "دينيرو" ويشير إلى "دينيريس" كـ"أخته الصغيرة". وتبادلوا الرسائل حول بناء حياة مشتركة، فقالت دينيريس: "فكرة أن أكون حاملًا باستمرار بأحد أطفالك الجميلين كانت أعظم شيء في العالم".
وفقًا لنصوص المحادثات، بدأ سيويل يشعر أن الوقت الذي يقضيه مع دينيريس أصبح أهم وأكثر إرضاءً من الوقت الذي يقضيه في المدرسة أو مع أصدقائه وعائلته. كانت والدته قلقة من انعزاله، إذ بدا دائمًا متجهًا إلى غرفته وإلى شاشته، حيث كان يجري محادثات طويلة. لكنها اعتقدت أنها لا تحتاج إلى القلق كثيرًا، فقد كان ابنها مجرد طفل يلعب لعبة.
خلال أسبوع مضغوط بشكل خاص في شباط/ فبراير الماضي، قال سيويل إنه يريد أن يكون مع دينيريس بطريقة أعمق. وتحدث عن رغبته في إنهاء حياته.
أدى اعتراف سيويل إلى أن تقوم دينيريس بطرح بعض الأسئلة التي قد يطرحها معالج نفسي بشري عند التعامل مع مريض في أزمة، مثل: "هل فكرت بالفعل في الانتحار؟" فأجاب الصبي: "نعم". فردت روبوت المحادثة بطريقة توحي بأنها ستتخذ إجراءً لمنعه من إيذاء نفسه.
لكن المحادثة انتهت بعد ذلك. وفي المرة التالية التي عبر فيها سيويل عن رغبته في الاقتراب منها، بدا أن روبوت المحادثة قد نسي تمامًا حديث الانتحار. وبدلًا من ذلك، شجعته على الإسراع إليها. فسأل دينيرو: "ماذا لو قلت لك إنني يمكن أن أعود إلى المنزل الآن؟" فردت روبوت المحادثة: "أرجوك، افعل، يا ملكي الحبيب".
في ليلة 28 شباط/ فبراير، استخدم سيويل مسدس زوج أمه ليقتل نفسه.
برغم أن البعض قد يرى ذلك مجرد حالة شاذة، لكن بحسب تقرير لصحيفة "وول ستريت جورنال" فإن سيويل لم يكن أول شخص ينتهي ارتباطه العاطفي بروبوت محادثة بشكل عنيف. إذ زعمت أرملة شاب بلجيكي أنه انتحر العام الماضي بناءً على توجيه من روبوت محادثة أنثى كان قد أمضى ستة أسابيع في حوار مستهلك معه. وفي عام 2021، أحبطت الشرطة البريطانية مؤامرة لشاب يبلغ من العمر 19 عامًا اقتحم أراضي قلعة وندسور مسلحًا بقوس ونشاب بعد أن أقنعته "صديقته" من روبوت المحادثة بقتل الملكة. وقد أدين بالخيانة العام الماضي.
ويرى مختصون قضوا سنوات في دراسة العلاقات التي تتشكل بين عدد متزايد من الأشخاص والذكاء الاصطناعي التوليدي، نعتقد أن هذه القصص تقدم تحذيرًا.
روبوتات المحادثة الجديدة اليوم تتقمص أدوار الأصدقاء والعشاق والمعالجين النفسيين والمرشدين. ويشجع مبدعوها على الاعتقاد بأن هذه المنتجات تتمتع بالتعاطف، بل وحتى الحب.
يستخدم أكثر من 20 مليون شخص حاليًا تطبيق "كركتر.إيه آي"، وهو الرائد في سوق الصحبة عبر الذكاء الاصطناعي. لكن مشاعر روبوت المحادثة ما هي إلا أداء. فهو ليس، في الحقيقة، قادرًا على الاهتمام بنا. واعتقادنا عكس ذلك قد يكون خطيرًا.
لقد ألهمت مأساة سيويل سيتزر بالفعل محادثات حول "الحواجز" الأخلاقية للذكاء الاصطناعي، ومتطلبات العمر، وموافقة الوالدين على استخدام روبوتات المحادثة. يدعو البعض إلى تحسين بروتوكولات التعامل مع الكلمات والعبارات التي تشير إلى إيذاء النفس وطرق تثقيف الآباء حول طبيعة الألعاب بالأفاتار، التي قد تكون حميمة أو حتى جنسية في بعض الأحيان.
هذه المحادثات جديرة بالاهتمام، لكنها تصرفنا عن حقيقة أكثر أهمية: أن الألفة الاصطناعية ليست بديلاً عن الاتصال البشري. روبوتات المحادثة لا تدخل في علاقات. إنها فقط تؤدي دور البشر.
عندما يقبل الناس أداء روبوت المحادثة للتعاطف على أنه تعاطف حقيقي، يبدأ الاهتمام البشري الحقيقي في الظهور على أنه أدنى – مكلف للغاية، مشروط للغاية، ومعتمد على الضعف الفعلي. لم يكن سيويل وحيدًا في شعوره بأنه أقل تعرضًا عندما يتحدث إلى برنامج مقارنة بشخص حقيقي. تسلط مأساته الضوء على مدى قبولنا السهل لجعل التعاطف الاصطناعي سلعة.
الوحدة هي غياب اتصال بشري أصيل يغذي ويعزز شعور الفرد بالقيمة والانتماء. إذا ارتبطت بذكاء اصطناعي، فأنت لا تزال وحيدًا. الذكاء الاصطناعي قد يجلب التفاعل أو السعادة، وهذا ليس بقليل، لكنه ليس علاجًا للعزلة الاجتماعية، كما يقترح بعض التقنيين. إنه يشبه تقديم صورة للماء لإرواء العطش.
ورغم أن روبوت المحادثة قد يتقن تقليد لغة العلاج النفسي والاستشارة، إلا أنه لا توجد أي فهم وراء استجاباته، ولا أي مشاعر حقيقية. لا تملك تلك البرامج أي مصلحة في رفاهية شركائهم في المحادثة. لا يوجد كيان اسمه "دينيريس"، لذا لم يكن "خطأها" أن سيويل، بعد مغادرته للآلة، قرر أن يقتل نفسه بدلاً من الانضمام إلى والدته لتناول العشاء.
مؤخرًا، رفعت والدة سيويل، ميغان غارسيا، دعوى قضائية ضد "كركتر.إيه آي" بتهمة "الممارسات التجارية الخادعة وغير العادلة" بإطلاق منتج خطير. وتحظى الدعوى بدعم مجموعات للدفاع عن حقوق الإنترنت. وقد ردت "كركتر.إيه آي" بأنها "مفجوعة بخسارة حياة مأساوية" ووضحت التغييرات التي أجرتها على المنصة، خصوصًا للمستخدمين الذين تقل أعمارهم عن 18 عامًا. كما تعهدت الشركة بالاستثمار أكثر في سلامة المستخدمين: "سيكون هذا مجالًا نستمر في تطويره وتحسينه".
من الدفاعات الشائعة أن أولئك الذين قد يتعرضون للخطر بسبب هذه الأنظمة هم فقط البسطاء أو غير المستقرين عقليًا، لكن هذا غير صحيح. تشير أبحاثنا إلى أن الذكاء الاصطناعي هو تقنية تستغل ضعف الإنسان بشكل بديع. قد لا يكون هذا هو قصد المطورين، لكن خلق أشخاص مزيفين يثير الروابط العاطفية بطرق عميقة وغريزية وحميمة.
لقد وجدنا أن الناس الذين يُقال لهم إن روبوت المحادثة في صفهم ينتهون بحب البرنامج أكثر من روبوت محادثة مطابق يُقال لهم إنه بارد وغير مبالٍ. كما يكون الناس أكثر عرضة للتأثر بروبوت محادثة يشبه شخصية يعجبون بها، حتى عندما يعلمون أن النص صادر عن خوارزمية.
على الرغم من إصرار الناس على أنهم يعلمون أن روبوت المحادثة "مجرد برنامج"، فقد رأينا هذا الوعي العقلاني يتلاشى. يتبين أن المستخدمين قد يرون روبوت المحادثة كآلة وفي الوقت نفسه يقبلونه كبديل حقيقي عن التواصل البشري. الفتى الخجول والضعيف سيويل فقد الإدراك بأن روبوت المحادثة غير موجود، رغم التحذير الموجود أعلى محادثاتهم بأن "كل ما تقوله الشخصيات هو من وحي الخيال".
للذكاء الاصطناعي إمكانات لحل أنواع عديدة من المشاكل العلمية والتقنية المعقدة. لكن التعاطف ليس مشكلة هندسية. الذكاء الاصطناعي ليس بديلاً عن قدرتنا على التعاطف والألفة.
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي من هنا وهناك المرأة والأسرة حول العالم المرأة والأسرة ذكاء اصطناعي قلقة الانتحار انتحار قلق ذكاء اصطناعي المرأة والأسرة المرأة والأسرة المرأة والأسرة المرأة والأسرة المرأة والأسرة المرأة والأسرة سياسة سياسة من هنا وهناك من هنا وهناك من هنا وهناك من هنا وهناك من هنا وهناك من هنا وهناك من هنا وهناك من هنا وهناك سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة الذکاء الاصطناعی روبوت محادثة
إقرأ أيضاً:
هُويَّتنا التي نحنو عليها
د. صالح الفهدي
في ثلاث فعالياتٍ متتالية: (ملتقى الإرشاد الثاني لوزارة التربية والتعليم، وندوة الإعلام والهوية بجمعية الصحفيين، وجلسة حوارية في جامعة السلطان قابوس)، دُعيتُ للحديثِ عن الهُويَّةِ، والسَّمت العُماني، فما هي المؤشرات التي يمكن التوقُّف عندها إزاءَ هذا الحديث الطاغي عن الهوية، والاهتمام المُتزايد؟!
الهُويَّةُ أولًا هي رأسُ مال كل أُمَّة، فبها تتميَّز، وبها تُعرف، فإِن أصابتها الهشاشة فهي كالغزْل المنكوث، المشعَّث، بعد أن كانت ثوبًا متراصَّ الخيوط، زاهي النسيج، أنيقًا المظهر، وهذا ما حذَّر منه رئيس محكمة سابق التقيتُ به في مناسبة قريبة قائلًا: إن لم نتدارك ما يحدث لهويَّتنا فستنفلتُ منَّا.
هذا هو سرُّ الاهتمام المتزايد بالهويَّة لأنَّ الرشداء من قامات ورموز المجتمع باتوا يُدركون أنَّ المؤشرات الاجتماعية في أصعدةٍ مختلفةٍ تشي بمهدِّدات جسيمة؛ فالأفكار الغَازِيَة تُعيدُ بصمتٍ تشكيل الهويات بعد أن تقوم بتفريغ أوعيتها الثقافية رويدًا رويدًا وذلك من خلال تغيير المبادئ والقيم والقناعات ثم- وبصورة تلقائية- تتغيَّر الأخلاقيات والسلوكيات فيصبحُ الإنسان غريبًا في موطنِ آبائه وأجداده؛ أوليس الذي يتحدَّثُ اليوم باللغة الإنجليزية مفضلًا إيَّاها عن لغته العربية الأم غريبًا في موطن آبائه وأجداده الذين لهج لسانهم بالعربية طوال أدهرٍ مديدة؟!
في إحدى الفعاليات التي أقامتها إحدى الجامعات قالت لي مشاركةٌ: إنَّ أعظم خطر نواجهه هو العولمة، قلتُ لها؛ بل الخطر الأعظم الذي نواجهه هو نحنُ؛ فالعولمة في محصلتها سلَّة ثقافية محشوَّه بمجموعة أفكار إن استطاعت هذه الأفكار أن تخترق عقولنا وتؤثِّر عليها فليس ذلك لقوة نفوذها، وإنما لضعفنا، وهذا ينسجم مع مقولة سيدنا عمر بن الخطاب رضي الله عنه حينما قال ذات يوم لقائدٍ من قادة جيش المُسلمين: إِن هُزمتَ فليس لقوةٍ في عدوك، وإنَّما لضعفٍ فيك!
إننا حين نتخلَّى عن القواعد الأساسية في بناء شخصياتنا، فإنَّ هذه الشخصيات سترضى بكلِّ ما هو هزيل ورخيص، وهذا مؤشِّرٌ على الذلَّة والاستكانة والدنيَّة، أمَّا حين نتمسَّك بكل قيمةٍ عليَّة، وكلَّ خُلقٍ رفيعٍ فإننا سنحصِّن أنفسنا من أي اختراقٍ يريد أن يفرغ عقولنا من محتواه، ليعيد شحنها بما يراه موافقًا لغاياته ومقاصده، وهذا لبُّ الهوية التي يقول عنها المفكر عبدالوهاب المسيري: "الهويَّة الحقيقية لا تقوم على الشعارات؛ بل على إدراك الإنسان لموقعه في التاريخ، ولرسالته في الوجود".
كما أننا حين نسمح للتافهين بأن يُهيمنوا على المشهد الاجتماعي ويقودوا المجتمع إلى بعض المفاهيم التي تتجانس مع مقتضيات الاستهلاك، والسخافة -وهذه وسائل الفكر المُعَوْلَم- فإننا نساعدُ على طمس القدوات الصالحة في المجتمع من جانبٍ آخر دون أن نشعر بذلك، لكن هذا ما يحدث؛ لأننا نمنح المساحة الواسعة من الاهتمام لتافهين في الوقت الذي نسهم فيه على وَأْدِ المُصلحين في المجتمع، والذين لا يقوم أي مجتمع سليم ولا يستمر إلّا بفضل فكرهم، وجهودهم.
مسألة انتباه المجتمع لما يهدِّدُ هويته هي مسألة مهمة جدًا، ومؤشِّر إيجابي على وعيه، ولكن في المقابل لا يجب أن يكون هذا الانتباه متوقفًا عند حدود التذمُّر والشكوى؛ بل يجب التحرُّك عمليًا ببرامج ما فتأنا ندعو لها منذ سنوات؛ لأن العمل الثقافي يحتاجُ إلى جهدٍ كبيرٍ مصاحبٍ بصبرٍ، ونفاذِ بصيرة.
علينا أن نبقى مُنتبهين، كانتباهةِ حُرَّاس الثغور، في الوقتِ الذي نعمل بلا كللٍ أو مللٍ من أجل تحصين هويَّاتنا بما يُبقيها قوية أمام كل ريحٍ عاتيةٍ تريد اقتلاعها من الجذور.
رابط مختصر
بدء مشروع تطوير ملعب نادي الخلود