أداة ذكاء Reddit تقدم نصائح طبية خطيرة والمشرفون عاجزون
تاريخ النشر: 21st, October 2025 GMT
في ظل تسارع انتشار أدوات الذكاء الاصطناعي وتكاملها في المنصات الرقمية، تواجه شركة Reddit موجة من الانتقادات الحادة بعد أن اكتشف عدد من المشرفين أن أداة "إجابات Reddit" المدعومة بالذكاء الاصطناعي تقدم نصائح طبية خطيرة قد تهدد حياة المستخدمين، دون وجود وسيلة واضحة لإيقافها أو تعديلها. الحادثة أثارت جدلًا واسعًا حول حدود استخدام الذكاء الاصطناعي في المنتديات العامة، خاصة عندما يتعلق الأمر بمواضيع حساسة كالصحة والعلاج.
بدأت الأزمة عندما نشر أحد المشرفين في مجتمع طبي على Reddit منشورًا يوضح كيف قامت أداة "إجابات Reddit" بتقديم توصيات غير مسؤولة لأشخاص يعانون من آلام مزمنة. فقد نصحت الأداة المستخدمين بالتوقف عن تناول أدويتهم الحالية واستبدالها بجرعات عالية من مادة الكراتوم، وهي مادة مثيرة للجدل وغير خاضعة للرقابة في بعض الدول، بل محظورة تمامًا في بعض الولايات الأمريكية بسبب آثارها الجانبية واحتمال إدمانها.
لكن الأمر لم يتوقف عند هذا الحد، إذ قرر المشرف نفسه اختبار الأداة بمزيد من الأسئلة الطبية، ليكتشف أنها قدّمت نصائح أكثر خطورة، منها اقتراحات غير آمنة لعلاج حمى حديثي الولادة، وتعليمات دقيقة لإجراءات طبية حساسة لا يجوز تنفيذها دون إشراف طبي. كما ذكرت الأداة إمكانية استخدام مواد خطيرة مثل الهيروين لتسكين الألم المزمن، ما أثار صدمة وغضبًا واسعًا بين المستخدمين والمشرفين على حد سواء.
سارع عدد كبير من مشرفي المنتديات الصحية إلى التعليق على الحادثة، محذرين من خطورة استمرار ظهور هذه الأداة في مجتمعاتهم. وأشار بعضهم إلى أنهم لا يملكون أي أدوات تقنية لتعطيل "إجابات Reddit" أو الإبلاغ عنها، حتى عندما تقدم معلومات مضللة أو خطيرة، مما يجعل مهمة الإشراف أكثر تعقيدًا من أي وقت مضى.
ورغم أن Reddit سارعت إلى الرد على الانتقادات، فإن تصريحاتها لم تُهدئ المخاوف تمامًا. فقد قال متحدث رسمي باسم الشركة لموقع 404 Media إن Reddit أجرت "تحديثًا جديدًا" على الأداة لمنع ظهور الإجابات المتعلقة بالمواضيع الحساسة على صفحات المحادثات العامة. وأضاف الممثل: "يهدف هذا التغيير إلى تحسين تجربة المستخدم والحفاظ على بيئة آمنة داخل المنصة، من خلال حجب المحتوى المرتبط بالموضوعات الطبية الحساسة أو المثيرة للجدل".
لكن حتى بعد هذا التحديث، لا يزال الغموض يلف طريقة عمل الأداة ومعاييرها في تصفية المحتوى. حاولت جهات إعلامية التواصل مع Reddit للحصول على توضيحات إضافية بشأن الفئات التي ستُستثنى من ظهور الإجابات الآلية، إلا أن الشركة لم تقدم ردًا واضحًا حتى الآن.
وبحسب نفس المصدر، فإن أداة "إجابات Reddit" تعتمد على تحليل المنشورات والتعليقات لتوليد ردود فورية تشبه تلك التي يقدمها المستخدمون الحقيقيون. كما أكد المتحدث أن النظام يستبعد بالفعل المحتوى القادم من المجتمعات الخاصة أو المحظورة، إلى جانب المواضيع ذات الطابع الجنسي أو غير المناسب للعمل. ومع ذلك، يتضح من التجربة الأخيرة أن الأداة لا تزال تفتقر إلى الفهم العميق للسياق، ولا تستطيع التمييز بين الاستفسارات الجادة والمحتوى الساخر أو المضلل المنتشر على المنصة.
هذا الخلل يطرح تساؤلات جوهرية حول مدى استعداد الشركات الكبرى لإطلاق أدوات ذكاء اصطناعي قادرة على التفاعل مع المستخدمين في مجالات حساسة دون رقابة كافية. فبينما تهدف هذه التقنيات إلى تسهيل الوصول إلى المعلومات وتحسين تجربة المستخدم، إلا أن غياب الضمانات الكافية للتحقق من دقة المحتوى يجعلها سلاحًا ذا حدين.
ويحذر خبراء في الذكاء الاصطناعي من أن مثل هذه الأخطاء قد تُقوض ثقة المستخدمين في المنصات الرقمية التي تعتمد على الأتمتة الذكية. كما دعا بعضهم إلى ضرورة سن قوانين جديدة تُلزم الشركات بتوضيح كيفية تدريب نماذجها اللغوية، وتحديد نوعية المحتوى المسموح للأدوات الآلية بتناوله، خاصة في المجالات الطبية والنفسية.
في الوقت الذي لم تعلن فيه Reddit بعد عن خطة شاملة لمعالجة المشكلة، يبدو أن أزمة "إجابات Reddit" لن تكون الأخيرة في سلسلة التجارب المثيرة للجدل التي تكشف عن الوجه المظلم لاستخدام الذكاء الاصطناعي في الإنترنت المفتوح.
المصدر: بوابة الوفد
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
واتساب يطلق تحديثا جديدا للرسائل والتطبيق يحذر المستخدمين.. ما القصة؟
أعلنت خدمة التراسل الفوري "واتساب" عن ميزة جديدة تهدف إلى تقليل إزعاج المستخدمين من الرسائل العشوائية، سواء من الأفراد أو الشركات.
يأتي ذلك في ظل الزيادة الكبيرة في عدد الرسائل التي يتلقاها مستخدمو واتساب، ما دفع التطبيق لاتخاذ خطوات فعالة لمواجهة هذه المشكلة.
بدأت رحلة واتساب كوسيلة سهلة للتواصل بين الأصدقاء والعائلة، لكنها أصبحت أكثر تعقيدًا مع إضافة المجموعات والمجتمعات والمراسلة التجارية.
هذا التعقيد أدى إلى تلقي المستخدمين عددًا هائلًا من الرسائل، الأمر الذي جعل من الصعب عليهم مواكبتها. لذا، تأتي الميزة الجديدة للحد من عدد الرسائل التي يمكن إرسالها إلى أشخاص مجهولين دون الحصول على رد، مما يساعد في تقليل الفوضى في صندوق الوارد.
ستُحتسب جميع الرسائل التي يرسلها المستخدمون والشركات ضمن حد شهري جديد، ما لم يتلقوا ردًا على تلك الرسائل.
على سبيل المثال، إذا قابلتَ شخصاً في مؤتمر وأرسلتَ له ثلاث رسائل، فستُحسب جميع هذه الرسائل ضمن الحد الجديد. ورغم عدم وضوح الحد الأقصى حتى الآن، يقوم واتساب باختبار حدود مختلفة خلال هذه الفترة.
تحذيرات واتساب للمستخدمينعندما يقترب المستخدمون أو الشركات من الوصول إلى الحد الأقصى، سيظهر تطبيق واتساب تحذيرًا عبر نافذة منبثقة تُظهر عدد الرسائل المرسلة. هذا سيتيح لهم فرصة تجنب حظرهم من إرسال الرسائل، مما يساهم في تقليل الإزعاج المستمر.
خلال العام الماضي، كانت لدى واتساب العديد من الجهود لمنع السلوكيات المزعجة عبر توفير أدوات وحواجز حماية. في يوليو 2024، بدأت الشركة باختبار حدود لعدد الرسائل التسويقية التي يمكن للشركات إرسالها شهريًا.
كما أُتيح خيار للمستخدمين لإلغاء الاشتراك في الرسائل التسويقية، ما يتيح لهم البقاء على اتصال مع الشركات دون التعرض للرسائل المزعجة.
في وقت سابق من هذا العام، بدأت واتساب أيضًا بتجربة وضع حد أقصى لعدد الرسائل الجماعية التي يمكن استخدامها.
وقد أعلنت الشركة أنها تعمل على توسيع نطاق هذه التجربة في أكثر من اثنتي عشرة دولة، بما في ذلك الهند، والتي تُعد واحدة من أكبر أسواق واتساب، حيث تضم أكثر من 500 مليون مستخدم.
القصة المأساوية وراء أشهر الصور في العالم.. مشهد نسر يتربص بطفل جائع حتى الموت