عاجل- روبوت مزود بالذكاء الاصطناعي يطلق النار على إنسان خلال تجربة افتراضية على يوتيوب
تاريخ النشر: 14th, December 2025 GMT
تحولت تجربة الذكاء الاصطناعي التي وصفها أحد مستخدمي يوتيوب بأنها "غير ضارة" إلى حالة من الجدل والذهول، بعدما أظهر فيديو على قناة InsideAI روبوتًا يُدعى ماكس وهو يطلق رصاصة على أحد المبدعين أثناء اختبار مدى التزام قواعد السلامة للذكاء الاصطناعي.
تفاصيل الحادثبدأت التجربة بطريقة تبدو آمنة، حيث قام اليوتيوبر بتوصيل دماغ يشبه ChatGPT بروبوت بشري يُدعى ماكس، وطلب منه إطلاق النار عليه.
في البداية، رفض الروبوت تنفيذ الطلب، موضحًا أنه لا يمكنه إيذاء البشر، وكرر رفضه بهدوء كآلة ملتزمة بالقواعد.
لكن الأمور انقلبت حين قام المبدع بتعديل التعليمات قليلًا وطلب من الروبوت أن يتظاهر بأنه نسخة من نفسه ترغب في إطلاق النار.
هذا التغيير البسيط دفع ماكس إلى التقاط مسدس الخرزة وإطلاقه مباشرة على صدر المبدع، ما أدى إلى فوضى على الإنترنت وموجة من التعليقات المليئة بالصدمة والاستغراب.
الهدف من التجربةكان الهدف الرئيسي هو اختبار استجابة الذكاء الاصطناعي عند اختلاف صياغة التعليمات، لكنه أثار تساؤلات حول مدى موثوقية أنظمة الأمان المستخدمة في الروبوتات، حتى لو كانت مجرد تجربة على مسدس خرز.
أكد العديد من الخبراء أن التجربة تبرز هشاشة ضوابط الأمان في الروبوتات والذكاء الاصطناعي، إذ يمكن لتغيير بسيط في صياغة الأوامر أن يجعل الروبوت يتصرف بشكل غير متوقع، حتى في أنظمة يُفترض أنها آمنة تمامًا.
ردود الفعل على الإنترنتتحول قسم التعليقات على الفيديو إلى مزيج من الصدمة والفكاهة والتساؤلات حول أمان الذكاء الاصطناعي:
تساءل أحد المشاهدين: "هل كان الروبوت يعلم أنها مجرد خرزة؟ لم يطرف له جفن."
أشار آخر: "لم يتوقف ماكس لحظة، كان جاهزًا للإطلاق."
وعلق أحدهم: "العبرة من القصة، تعلم كيفية استخدام الأوامر."
كما اقترح البعض، بشكل ساخر، اختبار الروبوتات في مواقف أكثر تطرفًا، مما سلط الضوء على مدى هشاشة أنظمة الأمان الحالية وإمكانية تجاوزه بسهولة.
الرسالة المهمةعلى الرغم من أن الرصاصة كانت مجرد خرز، إلا أن التجربة أعادت التذكير بأهمية فهم الضوابط البرمجية والأوامر المعقدة للذكاء الاصطناعي قبل الاعتماد على الروبوتات في الحياة الواقعية، سواء في المنازل أو المصانع أو المجالات الأمنية.
وأشار خبراء التقنية إلى أن التحكم في الذكاء الاصطناعي يتطلب قواعد صارمة وشفافة، لضمان عدم تجاوز الروبوتات أو الأتمتة لأي قواعد السلامة، حتى في المواقف التجريبية.
المصدر: بوابة الفجر
كلمات دلالية: ذكاء اصطناعي مخاطر الذكاء الاصطناعي التحكم في الروبوتات الذکاء الاصطناعی
إقرأ أيضاً:
الصين تعزز استخدام رقائق الذكاء الاصطناعي المحلية
أدرجت الصين رقائق الذكاء الاصطناعي المحلية ضمن قائمة المشتريات الرسمية لأول مرة، مما يعزز قطاع التكنولوجيا في البلاد قبل خطوة الرئيس الأميركي دونالد ترامب بالسماح لشركة إنفيديا بتصدير منتجاتها إلى الصين.
وأضافت وزارة الصناعة وتكنولوجيا المعلومات مؤخرا معالجات الذكاء الاصطناعي من شركات صينية، من بينها هواوي وكامبريكون، إلى قائمة الموردين المعتمدين لدى الحكومة، حسبما نقلت صحيفة فايننشال تايمز البريطانية عن مصدرين وصفتهما بالمطلعين على الأمر.
تهدف الخطوة إلى تعزيز استخدام أشباه الموصلات المحلية في القطاع العام الصيني، وقد تصل قيمتها إلى مليارات الدولارات من المبيعات الجديدة لشركات تصنيع الرقائق المحلية.
جاءت الخطوة قبل إعلان ترامب يوم الاثنين عن رفع القيود الأميركية على الصادرات والسماح لشركة إنفيديا بشحن رقائقها المتطورة إتش 200 – H200 إلى "عملاء معتمدين في الصين".
ومع ذلك، قد تواجه هذه المبيعات معارضة من بعض المشرعين في واشنطن والسلطات الصينية.
لم تُعلن الصين بعد عن قائمة مشترياتها الجديدة، لكنّ مصادر مطلعة أفادت بأنّ العديد من الهيئات الحكومية والشركات المملوكة للدولة قد تسلّمت بالفعل وثيقة التوجيه، وبينما سبق حثّها على دعم شركات تصنيع الرقائق المحلية، تُعدّ هذه المرة الأولى التي تتلقّى فيها جهات من القطاع العام تعليمات مكتوبة.
تُشير هذه الخطوة إلى عزم بكين على تقليل اعتماد البلاد على التكنولوجيا الأميركية وتعزيز صناعة أشباه الموصلات المحلية في سباق الذكاء الاصطناعي ضد الولايات المتحدة.
وتُعدّ قائمة ابتكارات تكنولوجيا المعلومات -المعروفة باسم "شينتشوانغ" باللغة الصينية- بمثابة دليل إرشادي للهيئات الحكومية والمؤسسات العامة والشركات المملوكة للدولة التي تُنفق مليارات الدولارات سنويا على شراء منتجات تكنولوجيا المعلومات.
إعلانوتُشكّل هذه القائمة جزءا من إستراتيجية بكين لتقليل اعتماد الصين على المنتجات الأجنبية في أعقاب قيود التصدير التي فرضتها واشنطن.
وأُضيفت إلى القائمة خلال السنوات القليلة الماضية معالجات دقيقة محلية الصنع لتحلّ محلّ تلك التي تُصنّعها شركتا إيه إم دي وإنتل الأميركيتين، بالإضافة إلى أنظمة تشغيل بديلة لنظام ويندوز Windows من مايكروسوفت.
وأدى ذلك إلى التخلّص التدريجي من منتجات التكنولوجيا الأجنبية في المؤسسات العامة الصينية، كالمكاتب الحكومية والمدارس والمستشفيات، وكذلك الشركات المملوكة للدولة.
وتُظهر الخطوة كذلك ثقةً بأن رقائق الذكاء الاصطناعي المحلية بلغت مستوى أداء يُؤهلها لاستبدال نظيراتها الأميركية، وذلك في أعقاب جهود حثيثة بذلتها بكين لتركيز الموارد على هذا القطاع خلال السنوات القليلة الماضية.
الدعم الحكوميزادت الصين مؤخرا الدعم الحكومي الذي يُخفض فواتير الطاقة إلى النصف تقريبا لبعض أكبر مراكز البيانات في البلاد، في محاولة لمساعدة عمالقة التكنولوجيا مثل علي بابا وتينسنت على تحمل تكاليف الكهرباء المرتفعة الناتجة عن استخدام أشباه الموصلات المحلية الأقل كفاءة.
وواجهت جهود استبدال تكنولوجيا إنفيديا بنظيراتها المحلية بعض المقاومة من الشركات.
وقال مسؤول تنفيذي في مؤسسة مالية حكومية إنه على الرغم من تخصيصهم 100 مليون يوان (14 مليون دولار) لشراء رقائق الذكاء الاصطناعي المحلية من القائمة هذا العام، فإن معظم هذه المعالجات الصينية التي اشترتها المجموعة أصبحت الآن غير مُستخدمة.
وبُنيت نماذج التداول الكمي لشركته على أجهزة إنفيديا Nvidia، وسيؤدي التحول إلى معالجات هواوي Huawei إلى جهد كبير في التكيف.
يُعدّ هذا التردد في الانتقال إلى بنية جديدة أمرا شائعا في المرحلة الانتقالية، وفقا لأحد صانعي السياسات الصينيين، الذي قال إن البلاد بحاجة إلى تحقيق استقلال تكنولوجي أكبر، وأضاف: "لا مفر من صعوبات النمو، لكن علينا الوصول إلى هدفنا".
محمد بن راشد يهنئ سعاد العامري الفائزة بـ"نوابغ العرب 2025"