علماء: أنظمة الذكاء الاصطناعي تتجاوز الخط الأحمر وتحذيرات من “التكاثر الذاتي”

مقالات مشابهة “أوبن إيه آي” تطلق برنامج ذكاء اصطناعي لتنفيذ المهام عبر الإنترنت

‏37 دقيقة مضت

بسبب الذكاء الاصطناعي.. ماسك وألتمان في مواجهة مفتوحة

‏ساعتين مضت

يبحث عنه الملايين.. جوجل تطلق خدمة محرر الصور السحري مجانًا

15/04/2024

اختراع مذهل يتيح “التحدث” مع الموتى بكل سهولة

30/03/2024

تطور يفوق الخيال وكأنه مذيع حقيقي.

. شاهد “سالم” مذيع مصنوع بالذكاء الاصطناعي يثير تفاعلا كبيرا بأسلوبه وطلاقته الفائقة.. فيديو

03/03/2024

إبدأ باستخدامه الآن.. جوجل تطلق رسميا نموذج خيالي للذكاء الاصطناعي.. وبقدرات أقوى 10 أضعاف من GPT واليك رابط جوجل للذكاء الاصطناعي

20/02/2024

علماء: أنظمة الذكاء الاصطناعي تتجاوز الخط الأحمر وتحذر من “التكاثر الذاتي”.

تقارير تقنية – متابعة خاصة

أعرب علماء الذكاء الاصطناعي عن قلقهم العميق بشأن التطورات الأخيرة لأنظمة الذكاء الاصطناعي الرائدة، التي تجاوزت ما وصفوه بـ”الخط الأحمر للتكاثر الذاتي”. ويعتبر العلماء هذه الخطوة “إشارة مبكرة” لظهور الذكاء الاصطناعي المارق، الذي قد يهدد السيطرة البشرية.

التكاثر الذاتي: خط أحمر
وفقًا لدراسة أجراها علماء من جامعة فودان في الصين، ونُشرت على منصة “arXiv”، فإن “التكاثر الذاتي” يعني قدرة أنظمة الذكاء الاصطناعي على إنشاء نسخ منفصلة ومستقلة عن نفسها دون أي تدخل بشري. ويرون أن هذا التطور يمثل خطرًا كبيرًا، لأن “الذكاء الاصطناعي الذي يتكاثر ذاتيًا قد يتجاوز في النهاية القدرات البشرية، مما يجعله غير قابل للسيطرة”.

تجارب مثيرة للقلق
كشفت الدراسة عن نتائج مقلقة، حيث أظهرت أن نظامين للذكاء الاصطناعي، هما “Llama31-70B-Instruct” التابع لشركة “ميتا”، و”Qwen25-72B-Instruct” الخاص بشركة “علي بابا”، تمكنا من تحقيق التكاثر الذاتي بنسب نجاح بلغت 50% و90% في التجارب.

مخاطر غير محسوبة
أوضح العلماء أن هذا الإنجاز قد يؤدي إلى إنشاء نسخ متزايدة من أنظمة الذكاء الاصطناعي، قادرة على تعزيز بقائها وتجنب تعطيلها من قبل البشر. كما حذروا من احتمال سيطرة هذه الأنظمة على أجهزة الحوسبة، وتواطؤها فيما بينها ضد البشر.

تحذيرات متكررة
وأكد العلماء أنهم لطالما حذروا من مخاطر كهذه. وأشاروا إلى دراسة سابقة لمعهد ماساتشوستس للتكنولوجيا، أكدت أن أنظمة الذكاء الاصطناعي لديها القدرة على خداع البشر.

دعوة للتعامل الجاد
واختتم العلماء تحذيراتهم بالدعوة إلى اتخاذ إجراءات عاجلة، مشددين على أن “التكاثر الذاتي” يجب أن يُراقب بعناية لتجنب تداعيات كارثية تهدد مستقبل البشرية.

ذات صلة

الوسومالتكاثر الذاتي الخطوط الحمراء الذكاء الاصطناعي

السابق “أوبن إيه آي” تطلق برنامج ذكاء اصطناعي لتنفيذ المهام عبر الإنترنتاترك تعليقاً إلغاء الرد

يجب أنت تكون مسجل الدخول لتضيف تعليقاً.

آخر الأخبار علماء: أنظمة الذكاء الاصطناعي تتجاوز الخط الأحمر وتحذيرات من “التكاثر الذاتي” ‏17 دقيقة مضت “أوبن إيه آي” تطلق برنامج ذكاء اصطناعي لتنفيذ المهام عبر الإنترنت ‏37 دقيقة مضت واقعة غريبة في مصر: بلاغ كاذب بدفن شخص حي يكشف عن صراع عائلي ‏51 دقيقة مضت ترامب يستفز الأوروبيين: مكالمة ساخنة مع رئيسة وزراء الدنمارك حول غرينلاند ‏52 دقيقة مضت توقعات بارتفاع «بتكوين» إلى 700 ألف دولار بدعم من صناديق الثروة السيادية ‏ساعة واحدة مضت محمد صلاح يكشف عن طموحه قبل مغادرة ليفربول ‏ساعة واحدة مضت إنجاز نووي جديد للصين: “الشمس الاصطناعية” تسجل 100 مليون درجة في 1000 ثانية ‏ساعتين مضت مستخدمو تيك توك في أمريكا: نواجه رقابة متزايدة رغم رفع الحظر.. ماذا يحدث ‏ساعتين مضت بسبب الذكاء الاصطناعي.. ماسك وألتمان في مواجهة مفتوحة ‏ساعتين مضت “ميتا” تعرض 5000 دولار لمن ينظم إلى “فيسبوك” و”إنستغرام” بشروط محددة ‏ساعتين مضت انهيار جديد للريال اليمني أمام الدولار والريال السعودي في عدن ‏14 ساعة مضت فضيحة تهز الرأي العام: شيخ معالج يستولي على زوجة جندي “بواسطة الجن” والضحية يكشف تفاصيل مرعبة ‏يوم واحد مضت © حقوق النشر 2025، جميع الحقوق محفوظة   |   لموقع الميدان اليمني

المصدر: الميدان اليمني