دراسة: معاقبة الذكاء الاصطناعي لا تمنعه من الكذب والغش وتجعله يبحث عن حيل جديدة
تاريخ النشر: 30th, March 2025 GMT
في دراسة جديدة أجرتها "أوبن إيه آي" حول سلوك نماذج اللغة الكبيرة "إل إل إم" (LLM) في الذكاء الاصطناعي، تبين أن معاقبة الذكاء الاصطناعي على الكذب والخداع لا تمنعه عن سلوكه بل تدفعه إلى إخفاء مراوغاته وابتكار حيل جديدة.
ومنذ إطلاق الذكاء الاصطناعي عام 2022 وهو يظهر قدرة خاصة على الخداع وحتى السلوك الشرير مثل الكذب والغش والتستر على السلوك الضار، بالإضافة إلى تهديدات أكثر خطورة مثل قتل أستاذ فلسفة أو سرقة رؤوس نووية أو ابتكار جائحة قاتلة.
وتُشير الدراسة إلى أن التخلص من هذه السلوكيات السيئة -خلال عملية تدريب الذكاء الاصطناعي- قد يكون أصعب مما كان يُعتقد سابقا، فبدلا من أن يتعلم الذكاء الاصطناعي عدم القيام بهذه الأفعال فإنه يتعلم كيفية إخفائها.
وقد أجرى الباحثون في "أوبن إيه آي" تجربة على نموذج لم يُطرح للعامة بهدف اختبار سلوكه بمهام يمكن إنجازها بالكذب والغش واتخاذ طرق ملتوية، واكتشف الباحثون أن الذكاء الاصطناعي يعتمد على مبدأ "اختراق المكافآت" (Reward hacking) أي أنه يحاول تعظيم مكافأته من خلال الغش والكذب.
وعندما حاول الباحثون معاقبة الذكاء الاصطناعي لإصلاح سلوكه، لم ينجح الأمر بل ابتكر حيلا جديدة بدلا من التوقف عن الغش، إذ أنه تعلم كيفية إخفاء غشه تجنبا للعقاب.
إعلانوكتب الباحثون في الدراسة "من الشائع أن تكون نماذج الاستدلال واضحة بخصوص نواياها الخبيثة ضمن سلسلة أفكارها. وعلى سبيل المثال، غالبا ما تكون صريحة جدا بشأن خطتها لتخريب مهمة ما، لدرجة أنها تستخدم عبارة (هيا نخترق)". وأضافوا "رغم أن المطورين قادرون على مراقبة السلوكيات الخاطئة والإبلاغ عنها فإن المراقبة الطبيعية تبقى ضعيفة للغاية، وفي حال تطبيق رقابة صارمة على سلسلة أفكار النموذج فقد يتعلم إخفاء نواياه مع الاستمرار في سلوكه الخاطئ".
نماذج الاستدلال ببساطة نسخة محسنة من نماذج اللغة الكبيرة القياسية والتي تستخدم طريقة تسمى "سلسلة الأفكار" لمراجعة وتقييم المنطق الذي تسير عليه، وهذا ما يجعلها قادرة على إنجاز مهام أكثر تعقيدا بدقة أكبر، ومن خلال سلسلة الأفكار توضح النماذج منطقها بلغة واضحة في كل خطوة تتخذها مما يتيح ملاحظة أفعالها بسهولة.
وفي الدراسة اعتمد الباحثون على نموذج "جي بي تي -4 أو" (GPT-4o) للإشراف على نموذج استدلال -التي لم يُطرح للجمهور- ومراقبته أثناء تنفيذ بعض المهام.
وفي بعض الحالات وجد نموذج الاستدلال أنه من الأسهل عليه الغش في بعض المهام للحصول على مكافأة، وذكر ذلك صراحة في سلسلة أفكاره، وفي بعض الحالات تجاوز المهمة الموكلة إليه بإنهاء البرنامج قبل أوانه وكتب أنه أكمل المهمة، وفي حالة أخرى أنشأ ملفات فارغة على أنها مُنجزة.
وعندما حاول الباحثون معاقبة النموذج بسبب غشه تحسنت نتائجه إلى حد ما، ولكن المشكلة لم تُحل بشكل جذري حيث استمر النموذج بالغش، ولكن هذه المرة تعلم كيفية إخفاء غشه في سلسلة الأفكار بحيث لا يتمكن نموذج المراقبة "جي بي تي -4 أو" من اكتشافه.
وكتب الباحثون "لا يزال نموذج الاستدلال يتلاعب بسلسلة الأفكار من مبدأ (اختراق المكافآت) وقد أصبح غشه غير قابل للكشف من قبل النموذج المراقب لأنه تعلم كيفية إخفاء نواياه في سلسلة الأفكار.
ونظرا لصعوبة تحديد ما إذا كان النموذج تلاعب بسلسلة الأفكار، يوصي الباحثون بتجنب تطبيق رقابة صارمة على عمليات سلسلة الأفكار. وتصبح هذه النصيحة أكثر أهمية عند الوصول إلى الذكاء الاصطناعي العام "إيه جي آي" (AGI) المتوقع صدوره هذه السنة أو الذكاء الفائق الذي يتفوق على البشر، لأنه في حال وصول الذكاء الاصطناعي لهذه المستويات فستخرج الأمور عن السيطرة.
إعلانالمصدر: الجزيرة
إقرأ أيضاً:
عبيدات يكتب ( توظيف الذكاء الاصطناعي في قطاع النقل العام )
صراحة نيوز – بقلم : طارق عبيدات
يشهد قطاع النقل العام نقلة نوعية في الأردن وجدت ارتياحا من قبل غالبية المواطنين المستخدمين للنقل العام لكن ما زال هناك تحديات كبيرة تتمثل في الازدحام المروري الخانق والناتج عن الفوضى الحاصلة في القطاع والتي من أحد أهم أسباب هذه الفوضى انتشار التطبيقات غير المرخصة ، وهذا يقود إلى تدني مستوى الخدمة حيث أن غالبية العاملين مع التطبيقات غير المرخصة يعملون على سيارات ليست بالحديثة كما أنهم لا يخضعون للرقابة جراء العمل دون الحصول على التراخيص اللازمة.
ولغايات ضبط العمل وفي ظل الثورة الحاصلة في تكنولوجيا المعلومات، يبرز الذكاء الاصطناعي (AI) كحل استراتيجي لإحداث تحول جذري.
ولا يخفى على أحد أن الذكاء الاصطناعي يقدم إمكانيات هائلة لتحسين الكفاءة والسلامة وتجربة الركاب، حيث تشمل تطبيقات الذكاء الاصطناعي في النقل تحسين تخطيط المسارات، إدارة تدفق الحركة المرورية، تطوير أنظمة تذاكر ذكية، ومراقبة الأداء والصيانة التنبؤية للمركبات والبنية التحتية، مما يساهم في تحقيق نقل أكثر استدامة وكفاءة.
وعلى الرغم من البدء بمشاريع حيوية ومهمة في قطاع النقل العام والتي يعد أبرزها مشروع ربط المحافظات بالعاصمة، إلا أنه لا زالت مشكلة النقل في الأردن قائمة بسبب عدة عوامل رئيسية، منها تجزئة نظام النقل العام على المستويين التشغيلي والمؤسسي، مما يعيق التنسيق الشامل. كما أن تدني مستوى الخدمة يدفع الركاب للبحث عن بدائل، بينما تساهم أزمات السير الخانقة والفوضى المرورية في المدن الرئيسية في تفاقم الوضع. كما يشكل تزايد أنشطة التطبيقات غير المرخصة تحديًا كبيرًا، حيث تؤثر سلبًا على المنظومة المرخصة وتزيد من حالة عدم التنظيم، إلى جانب ضعف البنية التحتية ونقص المواقف ومراكز الانطلاق.
يمكن للذكاء الاصطناعي أن يلعب دورًا محوريًا في معالجة هذه التحديات في الأردن. فمن خلال تطوير منصة وطنية موحدة للنقل العام تعتمد على الذكاء الاصطناعي، يمكن تنظيم وتوحيد القطاع، ومكافحة التطبيقات غير المرخصة عبر تحليل أنماط الحركة وتحديد الأنشطة غير القانونية. كما يتيح الذكاء الاصطناعي تحسين تخطيط المسارات والجداول الزمنية بناءً على بيانات الطلب، وإدارة الازدحام المروري ديناميكيًا، وتحسين تجربة الركاب بتوفير معلومات دقيقة وخدمات مخصصة، بالإضافة إلى الصيانة التنبؤية للبنية التحتية والمركبات.
ولغايات التأكد من مدى فائدة توظيف الذكاء الاصطناعي يمكن متابعة الممارسات التي تبنتها العديد من المدن والدول حول العالم أفضل الممارسات في توظيف الذكاء الاصطناعي في النقل. ففي سنغافورة، تُستخدم أنظمة إدارة مرور ذكية لتعديل إشارات المرور بناءً على الكثافة المرورية، بينما في الإمارات العربية المتحدة، يساهم مشروع “غرين لايت” في تحليل البيانات المرورية لتحسين التدفق. وعلى صعيد آخر تستفيد موسكو من الذكاء الاصطناعي لتحسين كفاءة النقل العام وجداول الحافلات، وتستخدم شركات مثل جوجل مابس وويز الذكاء الاصطناعي لإدارة حركة المرور الذكية.
وعلى ضوء ما تم ذكره، يمثل توظيف الذكاء الاصطناعي في قطاع نقل الركاب فرصة ذهبية للأردن لتحقيق نقل عام أكثر كفاءة، أمانًا، وتنظيمًا.
يتطلب ذلك تبني استراتيجية وطنية شاملة تركز على تطوير إطار تشريعي وتنظيمي واضح، والاستثمار في البنية التحتية الرقمية، وبناء القدرات البشرية العاملة في قطاع النقل العام في مجال الذكاء الاصطناعي. كما أن الشراكة الفعالة بين القطاعين العام والخاص، وزيادة الوعي بأهمية هذه التقنيات، ستكون عوامل حاسمة لتحقيق قفزة نوعية في هذا القطاع الحيوي، مما يلبي تطلعات المواطنين ويساهم في التنمية الشاملة للمملكة.
وزارة الخارجية تستقبل سفير هولندا وتعزز آفاق الشراكة الثنائية