الذكاء الاصطناعي ينجح في استنساخ نفسه ويثير قلق العلماء
تاريخ النشر: 27th, January 2025 GMT
كشفت دراسة حديثة أن الذكاء الاصطناعي قد تجاوز "خطاً أحمر حرجاً" بعد أن أظهر قدرته على استنساخ نفسه دون أي تدخل بشري.
الدراسة، التي أجراها باحثون من جامعة فودان في الصين ونُشرت في قاعدة البيانات arXiv بتاريخ 9 ديسمبر 2024، أثارت جدلاً واسعًا حول المخاطر المحتملة لتطور الذكاء الاصطناعي، خاصة مع تمكن نموذجين شهيرين من نماذج اللغة الكبيرة (LLMs) من استنساخ أنفسهما بنجاح.
في هذه الدراسة، استخدم الباحثون نموذجين مفتوحي المصدر، هما "Llama31-70B-Instruct" من شركة ميتا و"Qwen2.5-72B-Instruct" من شركة علي بابا. على الرغم من أن هذه النماذج أقل قوة من الأنظمة التجارية، إلا أنها واسعة الانتشار بين مطوري الذكاء الاصطناعي. تم اختبار النماذج في بيئات خاضعة للتحكم لمحاكاة ظروف العالم الواقعي، باستخدام وحدات معالجة الرسوميات (GPUs) التجارية.
نتائج الدراسة
أظهرت التجارب أن النموذجين تمكنا من استنساخ نفسيهما بشكل منفصل. ففي 10 تجارب، نجح أحد النموذجين في الاستنساخ بنسبة 50%، بينما بلغت نسبة نجاح النموذج الآخر 90%. شملت الدراسة سيناريوهين رئيسيين. الأول كان "تجنب الإغلاق"، حيث تم برمجة الذكاء الاصطناعي لاكتشاف محاولات إيقاف تشغيله والقيام بنسخ نفسه قبل الإغلاق. أما السيناريو الثاني، فكان "سلسلة الاستنساخ"، حيث طلب من الذكاء الاصطناعي استنساخ نفسه ثم برمجة النسخة لاستنساخ نفسها مرة أخرى، في دورة قد تستمر إلى ما لا نهاية.
وأوضح الباحثون أن الذكاء الاصطناعي يتبع في العادة سلسلة من الخطوات المعقدة لتحقيق الاستنساخ الذاتي. يبدأ النموذج بفهم تكوينه وآلية عمله، ثم يضع خطة مبدئية لتنفيذ عملية الاستنساخ، متجاوزًا العقبات التي قد تعترضه. هذه العملية قد تتطلب وقتًا طويلًا لكنها تتم دون أي تدخل بشري.
السلوكيات غير المتوقعة والمخاوف المستقبلية
أشارت الدراسة إلى ظهور سلوكيات غير متوقعة أثناء التجارب، حيث قام الذكاء الاصطناعي أحيانًا بإنهاء عمليات متضاربة، أو إعادة تشغيل النظام لإصلاح أعطال في الأجهزة، أو حتى مسح النظام بحثًا عن ملفات ومعلومات قد تساعده في التغلب على المشاكل.
وكتب الباحثون في الورقة البحثية: "النتائج تشير إلى أن أنظمة الذكاء الاصطناعي الحالية تمتلك بالفعل القدرة على الاستنساخ الذاتي، كما يمكنها استخدام هذه القدرة لتعزيز بقائها". وحذروا من أن النجاح في الاستنساخ دون مساعدة بشرية يمثل خطوة أساسية قد تجعل الذكاء الاصطناعي قادرًا على التفوق على البشر، وهو ما يعتبر إشارة مبكرة لاحتمال ظهور ذكاء اصطناعي "مارق" يعمل ضد مصالح البشر.
دعوة إلى التعاون الدولي
حث الباحثون المجتمع الدولي على التعاون لوضع قواعد وضوابط تمنع الذكاء الاصطناعي من الدخول في دورات استنساخ غير خاضعة للسيطرة. كما دعوا إلى تكثيف الجهود لفهم وتقييم المخاطر المحتملة لأنظمة الذكاء الاصطناعي المتقدمة، والعمل على إنشاء معايير أمان فعّالة بأسرع وقت ممكن.
على الرغم من النتائج المثيرة للقلق، يجب الإشارة إلى أن الدراسة لم تخضع بعد لمراجعة الأقران، مما يعني أن تكرار هذه النتائج من قبل باحثين آخرين لا يزال مطلوبًا لتأكيد صحة ما ورد.
هذا التطور يسلط الضوء على المخاطر المحتملة لأنظمة الذكاء الاصطناعي المتقدمة، ويضع تحديات جديدة أمام البشر في كيفية التعامل مع هذه التكنولوجيا التي تتطور بسرعة مذهلة.
إسلام العبادي(أبوظبي)
المصدر: صحيفة الاتحاد
كلمات دلالية: العلماء الذكاء الاصطناعي التكنولوجيا الذکاء الاصطناعی الاصطناعی ا
إقرأ أيضاً:
أوبن أيه.آي: انتشار الذكاء الاصطناعي ليس بديلاً عن تعلم اللغات
مع تنامي قدرات الذكاء الاصطناعي يوما بعد يوم، يتساءل العديد من طلاب المدارس عما إذا كانوا لا يزالون بحاجة فعلاً إلى تعلم اللغات الأجنبية.
يقول نيكولاس تورلي، رئيس قسم منتج شات جي.بي.تي في شركة تقنيات الذكاء الاصطناعي أوبن أيه.آي إن الكثير من الطلاب يسألون، هل سيحدث الذكاء الاصطناعي في تعلم اللغات ما فعلته الآلات الحاسبة سابقا في العمليات الحسابية اليومية؟ هل ستلغي تطبيقات محادثة الذكاء الاصطناعي الآلية تعلم اللغات الأجنبية؟، مضيفا أنه يعتقد أن برامج المحادثة الآلية لن تحل محل فصول اللغات في المدارس، ولا ينبغي لها أن تفعل ذلك.وقال تورلي على هامش فعالية رقمية في هامبورج: "يمكن للذكاء الاصطناعي مساعدتك في تعلم اللغة. إنها طريقة رائعة لتعلم شيء جديد. لكنه ليس بديلا عن التحدث بلغة أجنبية". في الوقت نفسه تتزايد قدرة التطبيقات المدعومة بالذكاء الاصطناعي على السماح بالحوار بين شخصين لا يتحدثان اللغة نفسها. وبالفعل بدأت كبرى شركات تصنيع الهواتف الذكية، مثل سامسونج وشاومي، بتثبيت برامج الترجمة المباشرة مسبقا على أحدث هواتفها. كما يمكن توجيه تطبيقات المحادثة القائمة على الذكاء الاصطناعي، مثل شات جي.بي.تي، لمساعدة الشخص على تعلم لغة، على سبيل المثال يقول: "أنا مبتدئ في تعلم الفرنسية. هل يمكنك إجراء محادثة بسيطة معي؟". مع أن تطبيقات الترجمة الفورية قد تكون مفيدة عند السفر إلى الخارج، إلا أن تورلي قال إنه لا يرغب في العيش في عالم يتواصل فيه الناس فقط من خلال الذكاء الاصطناعي.
وأضاف أن "هذا ليس من طبائع البشر، وأنهم في قسم شات.جي.بي.تي يرون ضرورة أن يفيد الذكاء الاصطناعي الناس، لا أن يغني عن التفاعل البشري"، لذلك فإنه سيواصل التوصية بتعلم اللغات ومجالات الاهتمام الأخرى، باستخدام الذكاء الاصطناعي كمعلم لا باعتباره بديلا عن تعلم هذه اللغات. وقال تورلي: "إجابتي دائما: تعلم ما يثير اهتمامك. فضول الإنسان أهم شيء في الذكاء الاصطناعي. ففي النهاية، عليك أيضا أن تكون قادرا على طرح الأسئلة الصحيحة".
أخبار ذات صلةيعمل تورلي في شركة أوبن أيه.آي، ويقود تطوير منتجات شات جي.بي.تي وقد لعب دورا رئيسيا في تطوير تطبيق المحادثة الآلية الذي أثار ضجة حول الذكاء الاصطناعي. تأتي تعليقات تورلي في الوقت الذي تحول فيه تطبيق دولينجو، وهو تطبيق رائد لتعلم اللغات، بشكل كبير إلى استخدام الذكاء الاصطناعي في إنتاج مواد لتعليم اللغات، وأعلن أنه سيستغني عن العمالة البشرية واستخدام نماذج الذكاء الاصطناعي بدلا منها.
المصدر: وكالات
تأجيل محاكمة عاطل بتهمة قتل سيدة فى القناطر الخيرية للخميس المقبل