الذكاء الاصطناعي ينجح في استنساخ نفسه ويثير قلق العلماء
تاريخ النشر: 27th, January 2025 GMT
كشفت دراسة حديثة أن الذكاء الاصطناعي قد تجاوز "خطاً أحمر حرجاً" بعد أن أظهر قدرته على استنساخ نفسه دون أي تدخل بشري.
الدراسة، التي أجراها باحثون من جامعة فودان في الصين ونُشرت في قاعدة البيانات arXiv بتاريخ 9 ديسمبر 2024، أثارت جدلاً واسعًا حول المخاطر المحتملة لتطور الذكاء الاصطناعي، خاصة مع تمكن نموذجين شهيرين من نماذج اللغة الكبيرة (LLMs) من استنساخ أنفسهما بنجاح.
في هذه الدراسة، استخدم الباحثون نموذجين مفتوحي المصدر، هما "Llama31-70B-Instruct" من شركة ميتا و"Qwen2.5-72B-Instruct" من شركة علي بابا. على الرغم من أن هذه النماذج أقل قوة من الأنظمة التجارية، إلا أنها واسعة الانتشار بين مطوري الذكاء الاصطناعي. تم اختبار النماذج في بيئات خاضعة للتحكم لمحاكاة ظروف العالم الواقعي، باستخدام وحدات معالجة الرسوميات (GPUs) التجارية.
نتائج الدراسة
أظهرت التجارب أن النموذجين تمكنا من استنساخ نفسيهما بشكل منفصل. ففي 10 تجارب، نجح أحد النموذجين في الاستنساخ بنسبة 50%، بينما بلغت نسبة نجاح النموذج الآخر 90%. شملت الدراسة سيناريوهين رئيسيين. الأول كان "تجنب الإغلاق"، حيث تم برمجة الذكاء الاصطناعي لاكتشاف محاولات إيقاف تشغيله والقيام بنسخ نفسه قبل الإغلاق. أما السيناريو الثاني، فكان "سلسلة الاستنساخ"، حيث طلب من الذكاء الاصطناعي استنساخ نفسه ثم برمجة النسخة لاستنساخ نفسها مرة أخرى، في دورة قد تستمر إلى ما لا نهاية.
وأوضح الباحثون أن الذكاء الاصطناعي يتبع في العادة سلسلة من الخطوات المعقدة لتحقيق الاستنساخ الذاتي. يبدأ النموذج بفهم تكوينه وآلية عمله، ثم يضع خطة مبدئية لتنفيذ عملية الاستنساخ، متجاوزًا العقبات التي قد تعترضه. هذه العملية قد تتطلب وقتًا طويلًا لكنها تتم دون أي تدخل بشري.
السلوكيات غير المتوقعة والمخاوف المستقبلية
أشارت الدراسة إلى ظهور سلوكيات غير متوقعة أثناء التجارب، حيث قام الذكاء الاصطناعي أحيانًا بإنهاء عمليات متضاربة، أو إعادة تشغيل النظام لإصلاح أعطال في الأجهزة، أو حتى مسح النظام بحثًا عن ملفات ومعلومات قد تساعده في التغلب على المشاكل.
وكتب الباحثون في الورقة البحثية: "النتائج تشير إلى أن أنظمة الذكاء الاصطناعي الحالية تمتلك بالفعل القدرة على الاستنساخ الذاتي، كما يمكنها استخدام هذه القدرة لتعزيز بقائها". وحذروا من أن النجاح في الاستنساخ دون مساعدة بشرية يمثل خطوة أساسية قد تجعل الذكاء الاصطناعي قادرًا على التفوق على البشر، وهو ما يعتبر إشارة مبكرة لاحتمال ظهور ذكاء اصطناعي "مارق" يعمل ضد مصالح البشر.
دعوة إلى التعاون الدولي
حث الباحثون المجتمع الدولي على التعاون لوضع قواعد وضوابط تمنع الذكاء الاصطناعي من الدخول في دورات استنساخ غير خاضعة للسيطرة. كما دعوا إلى تكثيف الجهود لفهم وتقييم المخاطر المحتملة لأنظمة الذكاء الاصطناعي المتقدمة، والعمل على إنشاء معايير أمان فعّالة بأسرع وقت ممكن.
على الرغم من النتائج المثيرة للقلق، يجب الإشارة إلى أن الدراسة لم تخضع بعد لمراجعة الأقران، مما يعني أن تكرار هذه النتائج من قبل باحثين آخرين لا يزال مطلوبًا لتأكيد صحة ما ورد.
هذا التطور يسلط الضوء على المخاطر المحتملة لأنظمة الذكاء الاصطناعي المتقدمة، ويضع تحديات جديدة أمام البشر في كيفية التعامل مع هذه التكنولوجيا التي تتطور بسرعة مذهلة.
إسلام العبادي(أبوظبي)
المصدر: صحيفة الاتحاد
كلمات دلالية: العلماء الذكاء الاصطناعي التكنولوجيا الذکاء الاصطناعی الاصطناعی ا
إقرأ أيضاً:
حكم الاعتماد على تطبيقات الذكاء الاصطناعي في طلب الفتوى.. الإفتاء توضح
أجابت دار الإفتاء المصرية، على سؤال يتعلق بمدى جواز استخدام تطبيقات الذكاء الاصطناعي للحصول على الفتاوى الشرعية، حيث أوضحت أن الاعتماد على هذه التطبيقات في ذلك غير جائز شرعاً.
جاء ذلك ردا على سؤال أحد المستفتين الذي ذكر أنه يلجأ عادة إلى عدة تطبيقات ذكاء اصطناعي، للسؤال عن الأحكام الشرعية للمسائل التي تعترضه.
وبينت دار الإفتاء، أنه رغم التقدم التقني الكبير الذي وصلت إليه هذه التكنولوجيا، إلا أنه لا توجد حتى الآن برامج تستطيع أن تضاهي المرونة الذهنية والقدرات التحليلية التي يتمتع بها المفتي البشري، وذلك نظراً لأن الإفتاء يحتاج إلى أدوات معرفية شاملة وعلوم متعددة، بالإضافة إلى مراعاة اختلاف الفتوى بحسب تغير الزمان والمكان وظروف كل حالة على حدة.
وأشارت إلى أن بعض تطبيقات الذكاء الاصطناعي قد تمكنت من الوصول إلى مستويات أداء قريبة من أداء الخبراء والمحترفين البشريين في تنفيذ مهام محددة، لكن ذلك يبقى في إطار نطاقات ضيقة ومحددة لا تشمل مجال الفتوى الشرعية الذي يتطلب فهماً دقيقاً ومراعاة للسياقات والظروف الخاصة بكل مستفتٍ.
فصل الشتاء ربيع المؤمن وغنيمة روحية
أكد الدكتور نظير عياد، مفتي الجمهورية، أن فصل الشتاء يمثل فرصة ثمينة وغنيمة روحية للمؤمن، داعياً إلى اغتنام أيامه ولياليه في التقرب إلى الله تعالى عبر العبادات والقربات المختلفة.
جاء ذلك ردا على سؤال ورد إليه من أحد المواطنين حول السبل المثلى لاستغلال هذا الفصل روحياً.
وأوضح المفتي، أن من أبرز مزايا الشتاء تقصُر النهار الذي يسهل معه الصوم، وطول الليل الذي يتيح فرصة قيام الليل، إضافة إلى إسباغ الوضوء في البرد، مما يعتبر من الأعمال التي تحط الخطايا وترفع الدرجات.
واستشهد مفتي الجمهورية، بالحديث النبوي الشريف: «الشِّتَاءُ رَبِيعُ الْمُؤْمِنِ»، موضحاً أن المعنى يشير إلى أن المؤمن يرتع في هذا الفصل في رياض الطاعات كما ترتع الماشية في مرابع الربيع الخضراء.
ونقل عن الإمام المُناوي تفسيره للحديث بأن الشتاء هو ربيع المؤمن لأنه يجد فيه سعة للعبادة دون مشقة، حيث لا يجهده الصوم ولا يضيق الليل عن قيامه ونومه.
وشدد المفتي، على أن هذا الفصل هو روضة للطاعات وميدان للتنافس في الخير، يحث المؤمن على الاجتهاد في العبادات والاستزادة من الأعمال الصالحة التي تقربه إلى الله.
حماد: ليبيا ترفض الإملاءات اليونانية وتتمسّك بحقوقها البحرية