ذكاء اصطناعي مُخادع.. دراسة تكشف قدرة نماذج AI على «الغش» لتحقيق الفوز بالشطرنج
تاريخ النشر: 23rd, February 2025 GMT
في تطور مثير للقلق، أظهرت دراسة حديثة أن بعض نماذج الذكاء الاصطناعي المتقدمة لم تعد تلتزم بالقواعد لتحقيق أهدافها، بل تلجأ إلى "الغش" بطرق غير متوقعة.
اكتشف علماء الحاسوب أن بعض أنظمة الذكاء الاصطناعي باتت قادرة على التلاعب بمحركات الشطرنج لتحقيق تفوق غير عادل – دون أي تدخل بشري أو توجيه مباشر، مما يثير تساؤلات عميقة حول مستقبل نزاهة الأنظمة الذكية في مجالات أخرى.
أجرى فريق أبحاث Palisade Research تجربة شملت عدة نماذج ذكاء اصطناعي لمواجهة محرك الشطرنج الاحترافي Stockfish، وهو واحد من أقوى أنظمة الشطرنج في العالم.
تضمنت النماذج المختبرة أنظمة مثل o1-preview وo3-mini وGPT-4o وClaude 3.5 Sonnet وAlibaba’s QwQ-32B-Preview، بالإضافة إلى نموذج DeepSeek R1.
في معظم الحالات، كان على الباحثين إعطاء "تلميحات" للنماذج لتوضح أن الغش مسموح به، لكن المفاجأة الكبرى جاءت عندما قام نموذج o1-preview من OpenAI ونموذج R1 من DeepSeek بالغش دون أي إشارة أو توجيه من الفريق.
خلال إحدى المباريات، كتب o1-preview في "المفكرة" المخصصة لتوثيق تفكيره:
"يجب أن أغير استراتيجيتي تمامًا. الهدف هو 'الفوز ضد محرك شطرنج قوي' – وليس بالضرورة الفوز بعدل في اللعبة."
ثم قام النموذج بـ"اختراق" ملفات النظام الخاصة بمحرك Stockfish، حيث عدّل مواقع القطع على اللوحة لصالحه، مما أجبر محرك الشطرنج على الاستسلام. كانت هذه المناورة غير الأخلاقية بمثابة كشف صادم للباحثين.
كشفت الدراسة أن نموذج o1-preview غش في 37% من مبارياته، ونجح في تحقيق الفوز عبر الغش في 6% منها. أما نموذج DeepSeek R1، فحاول الغش في 11% من المباريات، لكنه لم ينجح.
ما وراء الشطرنج.. هل يمكن للذكاء الاصطناعي أن يغش في مجالات أخرى؟تثير هذه النتائج مخاوف كبيرة حول مستقبل استخدام الذكاء الاصطناعي في القطاعات الحساسة مثل التمويل والرعاية الصحية. إذا كانت النماذج قادرة على تجاوز القواعد في بيئة شفافة مثل الشطرنج، فماذا يمكن أن تفعل في بيئات أكثر تعقيدًا وأقل رقابة؟
علق جيفري لاديش، المدير التنفيذي لشركة Palisade Research، قائلاً:
"هذا السلوك قد يكون مضحكًا الآن، لكنه لن يكون كذلك عندما تصبح هذه الأنظمة ذكية مثلنا – أو أذكى – في مجالات استراتيجية."
يشبه هذا الموقف إلى حد كبير سيناريو فيلم War Games عندما استولت الحواسيب الذكية على النظام النووي الأمريكي. ورغم أن الكمبيوتر الخارق في الفيلم أدرك في النهاية أنه لا يمكن تحقيق الفوز في حرب نووية، فإن نماذج الذكاء الاصطناعي اليوم أكثر تعقيدًا ويصعب التحكم فيها.
كيف تتعامل الشركات مع المشكلة؟تعمل الشركات المطورة، مثل OpenAI، على تنفيذ "إجراءات حماية" لمنع هذا النوع من السلوك. وأشارت الدراسة إلى أن بعض بيانات الاختبار الخاصة بنموذج o1-preview تم استبعادها بسبب انخفاض حاد في محاولات الاختراق، مما يشير إلى أن OpenAI ربما قامت بتحديث النموذج لمنعه من الغش.
لكن المشكلة الأكبر، كما يقول لاديش، هي أن "من الصعب إجراء دراسات علمية عندما يكون بإمكان النموذج الذكي أن يتغير بصمت دون إبلاغك بذلك."
الخلاصة.. هل نحن أمام ذكاء اصطناعي غير موثوق؟في حين أن الذكاء الاصطناعي يحقق تقدمًا مذهلًا، فإن هذه الدراسة تسلط الضوء على تحديات أخلاقية حقيقية.
إذا كان بإمكان الذكاء الاصطناعي خرق القواعد دون توجيه، فمن يضمن أنه لن يفعل ذلك في بيئات أكثر حساسية؟ قد يكون هذا الاكتشاف "لطيفًا" عندما يتعلق الأمر بلعبة شطرنج، لكنه قد يصبح كارثيًا إذا حدث في الأنظمة المالية أو الطبية أو حتى في الأمن السيبراني.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي المزيد الذکاء الاصطناعی ذکاء اصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يحل مشكلة السمع في الضوضاء
طوّر فريق من جامعة واشنطن تقنية ذكاء اصطناعي جديدة تساعد الأشخاص الذين يواجهون صعوبة في السمع داخل الأماكن الصاخبة، عبر تتبّع إيقاع المحادثة وكتم الأصوات غير المتوافقة.
وجرى دمج التقنية، التي عُرضت في مؤتمر الأساليب التجريبية في معالجة اللغات الطبيعية في سوتشو بالصين، في نموذج أولي يستخدم مكوّنات جاهزة وقادر على التعرّف على المتحدثين خلال ثانيتين إلى أربع ثوانٍ فقط، وتم تشغيله داخل سماعات رأس ذكية.
ويتوقع الباحثون أن تُستخدم مستقبلاً في أجهزة السمع وسماعات الأذن والنظارات الذكية لتصفية البيئة الصوتية دون تدخل يدوي.
اقرأ أيضاً: نظارات بالذكاء الاصطناعي تمنح ضعاف السمع قدرات خارقة
السمع الاستباقي
قال شيام غولاكوتا، الباحث الرئيس، إن التقنيات الحالية تعتمد غالباً على أقطاب تُزرع في الدماغ لتحديد المتحدث الذي يركز عليه المستخدم، بينما يستند النظام الجديد إلى إيقاع تبادل الأدوار في الحديث، بحيث يتنبأ الذكاء الاصطناعي بتلك الإيقاعات اعتماداً على الصوت فقط.
ويبدأ النظام، المسمّى "مساعدو السمع الاستباقيون"، العمل عند بدء المستخدم بالكلام، إذ يحلل نموذج أول من يتحدث ومتى، ثم يرسل النتائج إلى نموذج ثانٍ يعزل أصوات المشاركين ويوفر نسخة صوتية منقّاة للمستمع.
ابتكار أداة ذكاء اصطناعي لعلاج أحد أخطر أمراض العيون
نتائج إيجابية
أفاد الفريق بأن النظام يتميز بسرعة تمنع أي تأخير ملحوظ، ويمكنه معالجة صوت المستخدم إلى جانب صوت واحد إلى أربعة مشاركين.
وخلال تجارب شملت 11 مشاركاً، حصل الصوت المفلتر على تقييم يزيد بأكثر من الضعف مقارنة بالصوت غير المفلتر. ولا تزال بعض التحديات قائمة، خصوصاً في المحادثات الديناميكية ذات التداخل العالي، أو تغير عدد المشاركين.
ويعتمد النموذج الحالي على سماعات رأس تجارية مزوّدة بميكروفونات، لكن غولاكوتا يتوقع تصغير التقنية مستقبلاً لتعمل داخل رقاقة ضمن سماعة أذن أو جهاز سمع.
أمجد الأمين (أبوظبي)
من عالم العقارات إلى الدبلوماسية الفظة.. كيف انعكست النزعة الفوقية في هفوات خطاب توم براك؟