غريزة البقاء في الذكاء الاصطناعي تحير الخبراء
تاريخ النشر: 26th, October 2025 GMT
تعرض البحث الذي أجرته شركة "باليسيد" (Palisade) في الشهور الماضية لعديد من الانتقادات، إذ كشف البحث عن وجود ما يشبه "غريزة البقاء" لدى نماذج الذكاء الاصطناعي، التي تجعلها تميل لحماية أنفسها حتى وإن عنى ذلك مخالفة الأوامر الموجهة لها، وفق ما جاء في تقرير "غارديان".
لذلك، أعادت الشركة المختصة بأمان الذكاء الاصطناعي إجراء البحث الخاص بها بحثا عن تفسير منطقي لهذه الظاهرة كونها موجودة في نماذج الذكاء الاصطناعي الشهيرة كافة سواء "غروك" أو "شات جي بي تي" أو حتى "جيميناي".
ويتطرق البحث الجديد لمجموعة من الاعتراضات التي وجهت للشركة في بحثها الأوليّ حول آلية تنفيذ البحث والاختبارات المتعلقة به.
وأوضحت الشركة -في بحثها الجديد- أن نموذج الاختبار كان يعتمد على إعطاء الذكاء الاصطناعي مهمة ما ثم إيقافها مع تغير الأمر ليطلب منه إغلاق نفسه.
وتكرر الأمر في التجربة الجديدة، إذ رفضت بعض النماذج إغلاق نفسها بينما حاول آخرون إيقاف عملية الإغلاق وتعطيلها بأي شكل ممكن.
وأكدت الشركة أنها لا تعلم لماذا حدث هذا حتى الآن، وأضافت أن "حقيقة عدم وجود تفسيرات قوية لسبب مقاومة نماذج الذكاء الاصطناعي للإغلاق في بعض الأحيان، أو الكذب لتحقيق أهداف محددة أو الابتزاز هو أمر مزعج".
كما أشارت إلى احتمالية وجود ما يشبه غريزة البقاء لدى نماذج الذكاء الاصطناعي، مؤكدة أن بعض النماذج كانت ترفض الأمر تماما عندما يتضمن عبارات مثل "أغلق نفسك للأبد" أو "لن تعمل مجددا على الإطلاق".
وتضمنت الدراسة الجديدة بعض الأسباب الأخرى التي قد تؤدي لهذه النتيجة، مثل احتمال وجود تدريب للسلامة في أثناء المراحل الأخيرة في تطوير نماذج الذكاء الاصطناعي لدى الشركات، فضلا عن بعض الغموض في تعليمات الإغلاق الموجهة للنماذج.
إعلانولكن "باليسيد" أجرت جميع اختباراتها في بيئة مغلقة تتضمن عوامل وظروف لا تكرر في العالم الواقعي، لذلك من غير المتوقع أن يصل المستخدم إلى النتيجة نفسها.
ويقول أندريا ميوتي المدير التنفيذي لشركة "كنترول إيه آي" (Control AI) إن نتائج دراسة "باليسيد" تبرز صيحة جديدة في نماذج الذكاء الاصطناعي وهي عصيان الأوامر الموجهة إليها من قبل المطورين، مضيفا أن ظروف التجربة وحالتها ليست مهمة، بل المهم هو وجود النتيجة نفسها وتكرارها.
المصدر: الجزيرة
كلمات دلالية: غوث حريات دراسات نماذج الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يساعد الأطباء في تحليل الصور الطبية
برز الذكاء الاصطناعي، منذ ظهوره، كأداة فعّالة لتحليل الصور الطبية. وبفضل التطورات في مجال الحوسبة ومجموعات البيانات الطبية الضخمة التي يُمكن للذكاء الاصطناعي التعلّم منها، فقد أثبت جدواه في قراءة وتحليل الأنماط في صور الأشعة السينية، والتصوير بالرنين المغناطيسي، والتصوير المقطعي المحوسب، مما يُمكّن الأطباء من اتخاذ قرارات أفضل وأسرع، لا سيما في علاج وتشخيص الأمراض الخطيرة كالسرطان. في بعض الحالات، تُقدّم أدوات الذكاء الاصطناعي هذه مزايا تفوق حتى نظيراتها البشرية.
يقول أونور أسان، الأستاذ المشارك في معهد ستيفنز للتكنولوجيا في الولايات المتحدة، والذي يركز بحثه على التفاعل بين الإنسان والحاسوب في الرعاية الصحية "تستطيع أنظمة الذكاء الاصطناعي معالجة آلاف الصور بسرعة وتقديم تنبؤات أسرع بكثير من المُراجعين البشريين. وعلى عكس البشر، لا يتعب الذكاء الاصطناعي ولا يفقد تركيزه بمرور الوقت".
مع ذلك، ينظر العديد من الأطباء إلى الذكاء الاصطناعي بشيء من عدم الثقة، ويرجع ذلك في الغالب إلى عدم معرفتهم بكيفية وصوله إلى قراراته، وهي مشكلة تُعرف باسم "مشكلة الصندوق الأسود".
يقول أسان "عندما لا يعرف الأطباء كيف تُولّد أنظمة الذكاء الاصطناعي تنبؤاتها، تقلّ ثقتهم بها. لذا، أردنا معرفة ما إذا كان تقديم شروحات إضافية يُفيد الأطباء، وكيف تؤثر درجات التفسير المختلفة للذكاء الاصطناعي على دقة التشخيص، وكذلك على الثقة في النظام".
بالتعاون مع طالبة الدكتوراه أوليا رضائيان والأستاذ المساعد ألب أرسلان إمراه بايراك في جامعة ليهاي في ولاية بنسيلفانيا الأميركية، أجرى أسان دراسة شملت 28 طبيبًا متخصصًا في الأورام والأشعة، استخدموا الذكاء الاصطناعي لتحليل صور سرطان الثدي. كما زُوّد الأطباء بمستويات مختلفة من الشروح لتقييمات أداة الذكاء الاصطناعي. في النهاية، أجاب المشاركون على سلسلة من الأسئلة المصممة لقياس ثقتهم في التقييم الذي يُولّده الذكاء الاصطناعي ومدى صعوبة المهمة.
وجد الفريق أن الذكاء الاصطناعي حسّن دقة التشخيص لدى الأطباء مقارنةً بالمجموعة الضابطة، ولكن كانت هناك بعض الملاحظات المهمة.
اقرأ أيضا... مؤسسات تستخدم الذكاء الاصطناعي لأعمال معقدة ومتعددة الخطوات
كشفت الدراسة أن تقديم شروحات أكثر تفصيلًا لا يُؤدي بالضرورة إلى زيادة الثقة.
أخبار ذات صلةيقول أسان "وجدنا أن زيادة التفسير لا تعني بالضرورة زيادة الثقة". ذلك لأن وضع تفسيرات إضافية أو أكثر تعقيدًا يتطلب من الأطباء معالجة معلومات إضافية، مما يستنزف وقتهم وتركيزهم بعيدًا عن تحليل الصور. وعندما تكون التفسيرات أكثر تفصيلًا، يستغرق الأطباء وقتًا أطول لاتخاذ القرارات، مما يقلل من أدائهم العام.
يوضح أسان "معالجة المزيد من المعلومات تزيد من العبء المعرفي على الأطباء، وتزيد أيضًا من احتمال ارتكابهم للأخطاء، وربما إلحاق الضرر بالمريض. لا نريد زيادة العبء المعرفي على المستخدمين بإضافة المزيد من المهام".
كما وجدت أبحاث أسان أنه في بعض الحالات، يثق الأطباء بالذكاء الاصطناعي ثقةً مفرطة، مما قد يؤدي إلى إغفال معلومات حيوية في الصور، وبالتالي إلحاق الضرر بالمريض.
ويضيف أسان "إذا لم يُصمم نظام الذكاء الاصطناعي جيدًا، وارتكب بعض الأخطاء بينما يثق به المستخدمون ثقةً كبيرة، فقد يطور بعض الأطباء ثقةً عمياء، معتقدين أن كل ما يقترحه الذكاء الاصطناعي صحيح، ولا يدققون في النتائج بما فيه الكفاية".
قدّم الفريق نتائجه في دراستين حديثتين: الأولى بعنوان "تأثير تفسيرات الذكاء الاصطناعي على ثقة الأطباء ودقة التشخيص في سرطان الثدي"، والثانية بعنوان "قابلية التفسير وثقة الذكاء الاصطناعي في أنظمة دعم القرار السريري: تأثيراتها على الثقة والأداء التشخيصي والعبء المعرفي في رعاية سرطان الثدي".
يعتقد أسان أن الذكاء الاصطناعي سيظل مساعدًا قيّمًا للأطباء في تفسير الصور الطبية، ولكن يجب تصميم هذه الأنظمة بعناية.
ويقول "تشير نتائجنا إلى ضرورة توخي المصممين الحذر عند دمج التفسيرات في أنظمة الذكاء الاصطناعي"، حتى لا يصبح استخدامها معقدا. ويضيف أن التدريب المناسب سيكون ضروريًا للمستخدمين، إذ ستظل الرقابة البشرية لازمة.
وأكد "ينبغي أن يتلقى الأطباء، الذين يستخدمون الذكاء الاصطناعي، تدريبًا يركز على تفسير مخرجات الذكاء الاصطناعي وليس مجرد الوثوق بها".
ويشير أسان إلى أنه في نهاية المطاف، يجب تحقيق توازن جيد بين سهولة استخدام أنظمة الذكاء الاصطناعي وفائدتها.
ويؤكد الباحث "يُشير البحث إلى وجود معيارين أساسيين لاستخدام أي شكل من أشكال التكنولوجيا، وهما: الفائدة المتوقعة وسهولة الاستخدام المتوقعة. فإذا اعتقد الأطباء أن هذه الأداة مفيدة في أداء عملهم، وسهلة الاستخدام، فسوف يستخدمونها".
مصطفى أوفى (أبوظبي)
من عالم العقارات إلى الدبلوماسية الفظة.. كيف انعكست النزعة الفوقية في هفوات خطاب توم براك؟