يتجاوز الخط الأحمر .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟
تاريخ النشر: 27th, January 2025 GMT
كشفت دراسة حديثة أجراها فريق باحثين من جامعة فودان الصينية، إن نموذجين شهيرين من نماذج اللغة الكبيرة (LLM) يمكنهما القيام بتكرار نفسهما، ما قد يثير العديد من المخاوف الجدية حول إمكانية القيام بتحول تلك الأنظمة إلى تقنية الذكاء الأصطناعي المارق والذي قد خرج عن نطاق السيطرة أو التعليمات التي تم القيام ببرمجته عليهاوبالتالي، قد يتصرف هذا النوع من الذكاء الاصطناعي بعدة طرق غير متوقعة أو بطرق قد تتعارض مع الأهداف البشرية.
وكتب العلماء في احدى الدراسات التي قد تم نُشرها في 9 ديسمبر 2024 وذلك على قاعدة البيانات arXiv، والتي لم تخضع بعد للمراجعة عن "التكرار الذاتي الناجح وذلك دون أي مساعدة بشرية يعد هو الخطوة الأساسية وذلك لكي يتفوق الذكاء الاصطناعي على البشر، وهو يعد إشارة مبكرة لظهور الذكاء الاصطناعي المارق."
واستخدم العلماء لنموذجين شهيرين للذكاء الاصطناعي، وهما Llama31-70B-Instruct من شركة "ميتا" وQwen2.5-72B-Instruct من شركة "علي بابا"، وذلك لاختبار قدرة الذكاء الاصطناعي على التكرار الذاتي.
وفي 10 تجارب، أنشأ النموذجان من الذكاء الاصطناعي لنسخا منفصلة تعمل بنسب نجاح بلغت حوالي من 50% و90% على التوالي، مما قد يشير إلى أن الذكاء الاصطناعي قد يكون قد اكتسب بالفعل القدرة على أن يصبح " مارقا".
وقد ركزت الدراسة على سيناريوهين رئيسيين وهما تجنب القيام بالإغلاق حيث تم برمجة الذكاء الاصطناعي لاكتشاف محاولات إغلاقه والقيام بإنشاء نسخة من نفسه قبل أن يتم القيام بإنهائه.
وقد أظهر الذكاء الاصطناعي للعديد من السلوكيات الغير متوقعة وذلك أثناء محاولته للتغلب على بعض العقبات، مثل تدمير العمليات المتعارضة، والقيام بإعادة تشغيل النظام، أو فحص النظام تلقائيا وذلك لعثور على العديد من الحلول للمشكلات. وأكد العلماء أن هذه السلوكيات قد تعزز قدرة الذكاء الاصطناعي على كلا من البقاء والتكيف.
ودعا العلماء إلى القيام بتعزيز الجهود الدولية وذلك لفهم وتقييم المخاطر المحتملة للذكاء الاصطناعي المتقدم، مشيرين إلى أن النتائج يجب أن تكون "جرس إنذار" للمجتمع العلمي والحكومات. وأكدوا على ضرورة وضع العديد من الضوابط الأمان الصارمة وذلك لمنع التكرار الذاتي غير المنضبط.
و يعد ليس من الواضح ما إذا كانت النتائج المقلقة يمكن القيام بتكرارها من قبل العديد من الباحثين الآخرين . وفي المقابل، يشير العلماء إلى أن نتائجهم قد تثير العديد من التساؤلات المهمة حول مستقبل الذكاء الاصطناعي وأثره على البشرية.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي دراسة حديثة مستقبل الذكاء الاصطناعي الأهداف البشرية المزيد
إقرأ أيضاً:
سامسونج تستعرض مستقبل الذكاء الاصطناعي.. تفاصيل
أطلقت شركة سامسونج إلكترونيكس مصر أحدث مجموعة من الأجهزة المنزلية المدعومة بالذكاء الاصطناعي، في خطوة تعكس التزام الشركة المتواصل بتطوير حلول تقنية متقدمة ترتقي بتجربة المستخدم داخل المنازل المصرية. وذلك خلال احتفالاً مميزاً تحت شعار "AI Home: The Future is Now".
ويأتي هذا الحدث ضمن الاستراتيجية الطموحة التي تنتهجها سامسونج لتعزيز نمط الحياة الذكي، من خلال دمج الذكاء الاصطناعي في المنتجات الاستهلاكية وتحويل الأجهزة التقليدية إلى منظومة متصلة وأكثر فاعلية.
وفي هذا الإطار، قال بيونجمو (ثيو) شين، الرئيس والمدير التنفيذي لشركة سامسونج إلكترونيكس مصر: “نحن في سامسونج إلكترونيكس مصر نؤمن بأن السوق المصري يتمتع بإمكانات هائلة وشغف حقيقي بالتطور، ولهذا نضعه في قلب استراتيجيتنا. من خلال رؤيتنا الطموحة واستثماراتنا المستمرة، نسعى إلى قيادة السوق وتقديم تكنولوجيا تُحدث فرقًا حقيقيًا في حياة المستخدمين. التزامنا هو أن نوفر للمستهلك المصري نفس التجربة المتميزة التي نقدمها عالميًا، عبر منظومة متكاملة من الابتكارات الذكية المصممة خصيصًا لتلبية احتياجاته اليومية”.
من جانبه قال شريف شحاتة، رئيس قطاع التلفزيونات والأجهزة المنزلية بشركة سامسونج الكترونيكس مصر: “يأتي إطلاق الأجهزة الذكية الجديدة في إطار رؤيتنا الاستراتيجية لقيادة التحول الرقمي في السوق المصري، حيث نحرص في سامسونج على توظيف أحدث ما توصلت إليه التكنولوجيا لتلبية تطلعات عملائنا وتقديم حلول مستدامة تُحدث فرقًا حقيقيًا في حياتهم اليومية. هذه الخطوة تعكس التزامنا المستمر بالابتكار وتعزيز مكانة سامسونج كمبتكر رائد في صناعة التكنولوجيا على المستويين المحلي والعالمي”.
وأضاف: "حرصنا هذا العام على تقديم مجموعة متميزة من الابتكارات المنزلية المدعومة بتقنيات الذكاء الاصطناعي، والتي نراها تمثل نقلة نوعية في مفهوم الراحة المنزلية. شملت هذه المجموعة إطلاق سلسلة تلفزيونات سامسونج لعام 2025، والتي تضم Neo QLED 8K، وNeo QLED، وOLED، وQLED، ما يعكس ريادتنا المستمرة في سوق الأجهزة المنزلية الذكية. كما قدمنا أحدث أجهزتنا المنزلية، بما في ذلك الثلاجة الذكية 'Side by Side' التي توفّر تجربة تخزين مرنة وموفرة للطاقة، إلى جانب غسالات ومجففات ‘Bespoke AI Laundry Combo’
كم عمر الدرع وأبناء درع السودان وهل لديهم ثقافة حرب عمرها يتجاوز العشرين عام