ذكاء اصطناعي مُخادع.. دراسة تكشف قدرة نماذج AI على «الغش» لتحقيق الفوز بالشطرنج
تاريخ النشر: 23rd, February 2025 GMT
في تطور مثير للقلق، أظهرت دراسة حديثة أن بعض نماذج الذكاء الاصطناعي المتقدمة لم تعد تلتزم بالقواعد لتحقيق أهدافها، بل تلجأ إلى "الغش" بطرق غير متوقعة.
اكتشف علماء الحاسوب أن بعض أنظمة الذكاء الاصطناعي باتت قادرة على التلاعب بمحركات الشطرنج لتحقيق تفوق غير عادل – دون أي تدخل بشري أو توجيه مباشر، مما يثير تساؤلات عميقة حول مستقبل نزاهة الأنظمة الذكية في مجالات أخرى.
أجرى فريق أبحاث Palisade Research تجربة شملت عدة نماذج ذكاء اصطناعي لمواجهة محرك الشطرنج الاحترافي Stockfish، وهو واحد من أقوى أنظمة الشطرنج في العالم.
تضمنت النماذج المختبرة أنظمة مثل o1-preview وo3-mini وGPT-4o وClaude 3.5 Sonnet وAlibaba’s QwQ-32B-Preview، بالإضافة إلى نموذج DeepSeek R1.
في معظم الحالات، كان على الباحثين إعطاء "تلميحات" للنماذج لتوضح أن الغش مسموح به، لكن المفاجأة الكبرى جاءت عندما قام نموذج o1-preview من OpenAI ونموذج R1 من DeepSeek بالغش دون أي إشارة أو توجيه من الفريق.
خلال إحدى المباريات، كتب o1-preview في "المفكرة" المخصصة لتوثيق تفكيره:
"يجب أن أغير استراتيجيتي تمامًا. الهدف هو 'الفوز ضد محرك شطرنج قوي' – وليس بالضرورة الفوز بعدل في اللعبة."
ثم قام النموذج بـ"اختراق" ملفات النظام الخاصة بمحرك Stockfish، حيث عدّل مواقع القطع على اللوحة لصالحه، مما أجبر محرك الشطرنج على الاستسلام. كانت هذه المناورة غير الأخلاقية بمثابة كشف صادم للباحثين.
كشفت الدراسة أن نموذج o1-preview غش في 37% من مبارياته، ونجح في تحقيق الفوز عبر الغش في 6% منها. أما نموذج DeepSeek R1، فحاول الغش في 11% من المباريات، لكنه لم ينجح.
ما وراء الشطرنج.. هل يمكن للذكاء الاصطناعي أن يغش في مجالات أخرى؟تثير هذه النتائج مخاوف كبيرة حول مستقبل استخدام الذكاء الاصطناعي في القطاعات الحساسة مثل التمويل والرعاية الصحية. إذا كانت النماذج قادرة على تجاوز القواعد في بيئة شفافة مثل الشطرنج، فماذا يمكن أن تفعل في بيئات أكثر تعقيدًا وأقل رقابة؟
علق جيفري لاديش، المدير التنفيذي لشركة Palisade Research، قائلاً:
"هذا السلوك قد يكون مضحكًا الآن، لكنه لن يكون كذلك عندما تصبح هذه الأنظمة ذكية مثلنا – أو أذكى – في مجالات استراتيجية."
يشبه هذا الموقف إلى حد كبير سيناريو فيلم War Games عندما استولت الحواسيب الذكية على النظام النووي الأمريكي. ورغم أن الكمبيوتر الخارق في الفيلم أدرك في النهاية أنه لا يمكن تحقيق الفوز في حرب نووية، فإن نماذج الذكاء الاصطناعي اليوم أكثر تعقيدًا ويصعب التحكم فيها.
كيف تتعامل الشركات مع المشكلة؟تعمل الشركات المطورة، مثل OpenAI، على تنفيذ "إجراءات حماية" لمنع هذا النوع من السلوك. وأشارت الدراسة إلى أن بعض بيانات الاختبار الخاصة بنموذج o1-preview تم استبعادها بسبب انخفاض حاد في محاولات الاختراق، مما يشير إلى أن OpenAI ربما قامت بتحديث النموذج لمنعه من الغش.
لكن المشكلة الأكبر، كما يقول لاديش، هي أن "من الصعب إجراء دراسات علمية عندما يكون بإمكان النموذج الذكي أن يتغير بصمت دون إبلاغك بذلك."
الخلاصة.. هل نحن أمام ذكاء اصطناعي غير موثوق؟في حين أن الذكاء الاصطناعي يحقق تقدمًا مذهلًا، فإن هذه الدراسة تسلط الضوء على تحديات أخلاقية حقيقية.
إذا كان بإمكان الذكاء الاصطناعي خرق القواعد دون توجيه، فمن يضمن أنه لن يفعل ذلك في بيئات أكثر حساسية؟ قد يكون هذا الاكتشاف "لطيفًا" عندما يتعلق الأمر بلعبة شطرنج، لكنه قد يصبح كارثيًا إذا حدث في الأنظمة المالية أو الطبية أو حتى في الأمن السيبراني.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي المزيد الذکاء الاصطناعی ذکاء اصطناعی
إقرأ أيضاً:
أبل تعيد رسم خارطة نظامها.. تحديثات ذكاء اصطناعي متقدمة وتأجيل ميزات حتى 2026
كشفت تقارير حديثة أن شركة “آبل” قررت تأجيل إطلاق مجموعة من الميزات المتطورة في نظام تشغيل هواتفها الذكية “iOS”، التي كانت مرتقبة في الإصدار القادم “iOS 26″، لتصبح متاحة للمستخدمين رسميًا مع إصدار “iOS 27” عام 2026.
وبحسب وكالة “بلومبرغ” والمحلل التقني مارك غورمان، فإن التحديث المرتقب كان من المفترض أن يتضمن نسخًا جديدة محسّنة من تطبيقي “التقويم” و”الصحة” المدمجين في النظام، مدعومة بتقنيات الذكاء الاصطناعي لتعزيز تجربة المستخدم، والتطبيقان سيقدمان وظائف ذكية متقدمة، مثل تنظيم الفعاليات والاجتماعات تلقائيًا استنادًا إلى البيانات المتاحة، وتحليل الحالة الصحية للمستخدم عبر جمع معلومات من الهاتف والأجهزة الذكية المرتبطة به، بهدف تقديم توصيات صحية مخصصة ودقيقة.
ويعود سبب هذا التأجيل جزئيًا إلى الاستحواذ الذي نفذته آبل في مارس الماضي على شركة “Mayday Labs” الناشئة، المطورة لتطبيق لإدارة المهام والتخطيط الذكي، والذي يتميز بآليات تنظيمية تلقائية تعتمد على الذكاء الاصطناعي، ومن المتوقع أن تُدمَج هذه التكنولوجيا الجديدة ضمن تطبيق التقويم لتوفير تجربة متطورة تواكب تطلعات المستخدمين في تنظيم حياتهم اليومية بفعالية وسلاسة.
يذكر أن هذا التأجيل يعكس حرص آبل على تقديم ميزات متقنة وعالية الجودة، مع ضمان استقرار النظام وأداء التطبيقات، رغم الضغوط المتزايدة في سوق الهواتف الذكية التي تشهد منافسة متصاعدة من شركات مثل Xiaomi والهند التي تطرح هواتف منافسة بأسعار جذابة وبمواصفات قوية.
أبل تكشف عن تحديثات شاملة وتتيح تقنياتها في الذكاء الاصطناعي للمطورين
أعلنت شركة أبل، عن إتاحة التكنولوجيا الأساسية للذكاء الاصطناعي التي تعتمد عليها لبعض مطوري التطبيقات، كما كشفت عن إصلاحات واسعة لأنظمة التشغيل الخاصة بها، في إطار مؤتمرها السنوي للمطورين في كوبرتينو بولاية كاليفورنيا.
وركزت أبل خلال الحدث على تقديم تطبيقات عملية لتقنيات الذكاء الاصطناعي من شأنها تحسين الحياة اليومية للمستخدمين، مثل الترجمة الحية للمكالمات الهاتفية وميزة فرز المكالمات، بدلاً من الترويج لطموحات واسعة كما يفعل منافسوها.
وقال كريغ فيديريغي، النائب الأول لرئيس هندسة البرمجيات، إن الشركة ستتيح نموذج الذكاء الاصطناعي التأسيسي الذي تعتمد عليه لبعض الميزات لمطوري الطرف الثالث، موضحاً أن التأخير في بعض الخصائص، مثل تحديثات المساعد الصوتي “سيري”، كان بسبب الحاجة إلى “الوصول إلى مستوى الجودة العالية”.
ومن بين أبرز التحديثات، عرضت أبل ميزة فرز المكالمات، حيث ستقوم هواتف آيفون بالرد تلقائياً على المكالمات من أرقام غير معروفة، وسؤال المتصل عن الغرض من الاتصال، ثم عرض رد المتصل على الشاشة قبل تنبيه المستخدم.
كما كشفت الشركة عن خاصية الترجمة الحية للمكالمات الهاتفية، التي تتيح الترجمة الفورية للطرفين، حتى في حال عدم استخدام الطرف الآخر لهاتف آيفون، مع إمكانية دمج هذه التقنية في تطبيقات المطورين.
وفي جانب التصميم، أعلنت أبل عن اعتماد مظهر جديد لأنظمتها أطلقت عليه اسم “الزجاج السائل”، يتميز بعناصر شفافة جزئياً وتصميمات أكثر ديناميكية، مستفيدة من قدرات الرقائق المخصصة في أجهزتها الحديثة، كما سيتم توسيع نطاق تطبيق الذكاء البصري ليتيح تحليل العناصر الظاهرة على الشاشة وربطها بالتطبيقات المثبتة، كالبحث عن منتجات مماثلة للملابس أو العناصر المرئية في التطبيقات التجارية.
وفي عرض مبكر لكيفية استخدام الشركاء للتقنيات الجديدة، دمجت أبل مولد الصور من تطبيق ChatGPT (من شركة OpenAI) في تطبيق “Image Playground”، مع التأكيد على عدم مشاركة بيانات المستخدم مع OpenAI دون موافقته.
ورغم هذه الإعلانات، تراجع سهم أبل بنسبة 1.5% خلال جلسة التداول بالتزامن مع بدء المؤتمر، في وقت تواجه فيه الشركة تحديات تنظيمية وتقنية غير مسبوقة وسط منافسة متصاعدة في مجال الذكاء الاصطناعي.
وزيرة البيئة تناقش مع المديرة التنفيذية لبرنامج الأمم المتحدة للبيئة آخر مستجدات مفاوضات معاهدة البلاستيك