دراسة تحذّر: لا تثقوا بالذكاء الاصطناعي.. أصبح سيّداً في الخداع والكذب
تاريخ النشر: 12th, May 2024 GMT
مع تطور أنظمة الذكاء الاصطناعي، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
حدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا (MIT)، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، وتراوغ وتتظاهر بأنها "بشر". حتى أن أحد هذه الأنظمة غيّر سلوكه في أثناء اختبارات سلامة وهمية، مما يزيد من إمكانية تضليل المدققين وإعطائهم انطباعًا خاطئًا بأن النظام آمن، وفقا لصحيفة "الغارديان".
وقال الدكتور بيتر بارك، الباحث في مجال السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "كلما أصبحت قدرات الخداع لدى أنظمة الذكاء الاصطناعي أكثر تقدمًا، كلما ازدادت حدة المخاطر التي تشكلها على المجتمع".
وأجرى بارك هذا التحقيق الجديد بعد أن طورت شركة ميتا، المالكة لفيسبوك، برنامجًا يسمى "Cicero" أدى أداء أفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية حول غزو العالم تسمى "الدبلوماسية".
ورغم أن شركة ميتا قالت إنه تم تدريب "سيسيرو" على أن يكون "صادقًا ومفيدًا إلى حد بعيد" و"لا يطعن حلفاءه من البشر عمدًا"، إلا أن الباحثين وجدوا أمثلة متعددة على قيامه بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
قام بارك وزملاؤه بتصفح البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها"سيسيرو" وبالكذب والتواطؤ لجر لاعبين آخرين إلى مؤامرات، وفي إحدى المرات، برر غيابه بعد إعادة تشغيله بإخبار لاعب آخر: "أنا على الهاتف مع صديقتي." قال بارك: "لقد وجدنا أن الذكاء الاصطناعي في لعبة ميتا قد تعلم أن يكون سيدًا في الخداع".
دائرة حول ما تريد.. غوغل تعلن عن أداة بحث جديدة تعمل بالذكاء الاصطناعيصندوق النقد الدولي: الذكاء الاصطناعي يهدد 40% من وظائف العالمأمريكا تحذر من إشراف الذكاء الاصطناعي على الأسلحة النوويةوقد وجد فريق معهد ماساتشوستس للتكنولوجيا مشكلات مماثلة مع أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه خداع اللاعبين المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدّم تفضيلاته بشكل خاطئ من أجل كسب اليد العليا.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا في أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".
شارك هذا المقالمحادثة مواضيع إضافية معضلة "اليوم التالي" للحرب الإسرائيلية على غزة.. دول عربية تعارض المشاركة في إدارة القطاع بعد الحرب واشنطن تمنح كييف حزمة مساعدات عسكرية جديدة بقيمة 400 مليون دولار رفضا الخدمة العسكرية فكان السجن بانتظارهما.. سجينان إسرائيليان يناشدان بايدن التدخل لوقف الحرب بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعيالمصدر: euronews
كلمات دلالية: إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي السويد فيضانات سيول رفح معبر رفح فلسطين الحرب في أوكرانيا السياسة الأوروبية الذکاء الاصطناعی یعرض الآن Next
إقرأ أيضاً:
إماراتية تسخّر الذكاء الاصطناعي في تصنيع عطور عضوية
دبي: محمود محسن
نجحت الدكتورة الإماراتية صفاء النقبي، طبيبة وعطارة بخبرة تمتد لأكثر من 18 عاماً، في مبادرة رائدة في الوطن العربي، بتأسيس مشروع فريد لتصنيع عطور عضوية خالية تماماً من المواد الكيميائية والكحول، باستخدام تقنيات الذكاء الاصطناعي، داخل مصنع صديق للبيئة يعمل 100% بالطاقة الشمسية.
«الخليج» التقت الطبيبة على هامش فعاليات اليوم الأول لقمة الإعلام العربي. وأكدت أن فكرة المشروع جاءت نتيجة لتجربة شخصية عاشتها عندما عانت حساسية تجاه الكحول المستخدم في معظم أنواع العطور، خاصة خلال مرحلة تعافيها من السرطان، هذا التحدي الصحي دفعها للبحث عن بدائل طبيعية وآمنة، فبدأت رحلة تطوير تركيبات عطرية تعتمد على الزيوت النباتية، بدلاً من الكحول، بالتعاون مع أكاديمية عطور في فرنسا. وتمكنت عام 2021 خلال جائحة «كورونا»، من إطلاق علامتها التجارية بالشراكة مع مصنع إيطالي للاستفادة من خبرات عالمية.
خلطات دقيقة
والمشروع استثنائي لاعتماده على الذكاء الاصطناعي في تصميم العطور وتصنيعها، وتقول د. صفاء ل«الخليج»: «إن استخدام الذكاء الاصطناعي بدأ من مراحل التصميم الأولى لأجهزة الخلط والتعبئة، إذ جرى الاستغناء عن عدد كبير من الموظفين، ما خفض الكلف التشغيلية وسرّع عمليات الإنتاج. كما جرى تطوير أجهزة ذكية يمكنها قراءة المعادلات الكيميائية الخاصة بالخلطات العطرية، وتنفيذها بدقة متناهية دون تدخل بشري، ما قلل هامش الخطأ في نسب المكونات إلى الصفر تقريباً، وبدل من هدر الوقت الطويل في تجربة الخلطات يدوياً، الآن أدخل المعادلة في الجهاز الذي يحللها، ويخلطها، ويعبئها بدقة، من دون خطأ حتى لو كان بمقدار 0.1، وهو كفيل بتغيير رائحة العطر تماماً».
ويتميز الذكاء الاصطناعي أيضاً بقدرته على مقارنة الخلطات الجديدة بقاعدة بيانات ضخمة، تحتوي على آلاف التركيبات العالمية، لينبه فوراً إذا كانت الرائحة مكررة أو مشابهة لعلامة تجارية أخرى، ما يمنح المشروع تفرداً وابتكاراً دائماً.
صديق للبيئة
ويعد المصنع المزمع إطلاقه في الدولة خلال النصف الأول من العام القادم الأول في العالم الذي يعمل بطاقة شمسية بالكامل، دون أي اعتماد على الكهرباء التقليدية. كما أن جميع مواد التعبئة والتغليف قابلة لإعادة التدوير وصديقة للبيئة، في خطوة تعكس التزام العلامة التجارية بالاستدامة تماشياً مع توجهات حكومة الإمارات.
وتطمح د. صفاء، إلى أن يكون مصنعها في الإمارات نموذجاً عالمياً يحتذى في صناعة العطور النظيفة والمستدامة. مؤكدة أن النجاح الكبير الذي حققته المرحلة التجريبية في إيطاليا سيكون نقطة الانطلاق نحو توطين هذا الابتكار في بلدها.
تقرير رسمي: 2 مليون وحدة إنتاج تنشط في القطاع غير المهيكل