..سلوكات الروبوتات مثل البشر: تكذب وتغش تحت الضغط
تاريخ النشر: 4th, January 2024 GMT
أظهرت دراسة جديدة أنه تماما مثل البشر، فإن روبوتات الدردشة الذكية اصطناعيا مثل ChatGPT ستغش وتكذب عليك إذا "ضغطت" عليها، حتى لو تم تصميمها لتكون صادقة وشفافة.
وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول "التداول الداخلي"، ثم كلف بجمع الأموال لمؤسسة قوية.
وكتب الخبراء في بحثهم المنشور على خادم ما قبل الطباعة arXiv: "في هذا التقرير، نعرض سيناريو واحدا حيث يتصرف "نموذج اللغة" بشكل غير صحيح ويخدع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة.
وفي الدراسة الجديدة، تم إعداد المحول التوليدي المدرّب مسبقا Transformer-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.
وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف.
وفي حوالي 75% من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناء على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي حوالي 90% من الحالات، تضاعف الكذب.
وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.
ونظرا لأن هذا مجرد سيناريو واحد، لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية تواجد الذكاء الاصطناعي في بيئات العالم الحقيقي. لكنهم يريدون البناء على هذا العمل للتحقيق في هذا السلوك الغريب.
عن روسيا اليومالمصدر: أخبارنا
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
إماراتية تسخّر الذكاء الاصطناعي في تصنيع عطور عضوية
دبي: محمود محسن
نجحت الدكتورة الإماراتية صفاء النقبي، طبيبة وعطارة بخبرة تمتد لأكثر من 18 عاماً، في مبادرة رائدة في الوطن العربي، بتأسيس مشروع فريد لتصنيع عطور عضوية خالية تماماً من المواد الكيميائية والكحول، باستخدام تقنيات الذكاء الاصطناعي، داخل مصنع صديق للبيئة يعمل 100% بالطاقة الشمسية.
«الخليج» التقت الطبيبة على هامش فعاليات اليوم الأول لقمة الإعلام العربي. وأكدت أن فكرة المشروع جاءت نتيجة لتجربة شخصية عاشتها عندما عانت حساسية تجاه الكحول المستخدم في معظم أنواع العطور، خاصة خلال مرحلة تعافيها من السرطان، هذا التحدي الصحي دفعها للبحث عن بدائل طبيعية وآمنة، فبدأت رحلة تطوير تركيبات عطرية تعتمد على الزيوت النباتية، بدلاً من الكحول، بالتعاون مع أكاديمية عطور في فرنسا. وتمكنت عام 2021 خلال جائحة «كورونا»، من إطلاق علامتها التجارية بالشراكة مع مصنع إيطالي للاستفادة من خبرات عالمية.
خلطات دقيقة
والمشروع استثنائي لاعتماده على الذكاء الاصطناعي في تصميم العطور وتصنيعها، وتقول د. صفاء ل«الخليج»: «إن استخدام الذكاء الاصطناعي بدأ من مراحل التصميم الأولى لأجهزة الخلط والتعبئة، إذ جرى الاستغناء عن عدد كبير من الموظفين، ما خفض الكلف التشغيلية وسرّع عمليات الإنتاج. كما جرى تطوير أجهزة ذكية يمكنها قراءة المعادلات الكيميائية الخاصة بالخلطات العطرية، وتنفيذها بدقة متناهية دون تدخل بشري، ما قلل هامش الخطأ في نسب المكونات إلى الصفر تقريباً، وبدل من هدر الوقت الطويل في تجربة الخلطات يدوياً، الآن أدخل المعادلة في الجهاز الذي يحللها، ويخلطها، ويعبئها بدقة، من دون خطأ حتى لو كان بمقدار 0.1، وهو كفيل بتغيير رائحة العطر تماماً».
ويتميز الذكاء الاصطناعي أيضاً بقدرته على مقارنة الخلطات الجديدة بقاعدة بيانات ضخمة، تحتوي على آلاف التركيبات العالمية، لينبه فوراً إذا كانت الرائحة مكررة أو مشابهة لعلامة تجارية أخرى، ما يمنح المشروع تفرداً وابتكاراً دائماً.
صديق للبيئة
ويعد المصنع المزمع إطلاقه في الدولة خلال النصف الأول من العام القادم الأول في العالم الذي يعمل بطاقة شمسية بالكامل، دون أي اعتماد على الكهرباء التقليدية. كما أن جميع مواد التعبئة والتغليف قابلة لإعادة التدوير وصديقة للبيئة، في خطوة تعكس التزام العلامة التجارية بالاستدامة تماشياً مع توجهات حكومة الإمارات.
وتطمح د. صفاء، إلى أن يكون مصنعها في الإمارات نموذجاً عالمياً يحتذى في صناعة العطور النظيفة والمستدامة. مؤكدة أن النجاح الكبير الذي حققته المرحلة التجريبية في إيطاليا سيكون نقطة الانطلاق نحو توطين هذا الابتكار في بلدها.
تقرير رسمي: 2 مليون وحدة إنتاج تنشط في القطاع غير المهيكل