الروبوتات تكذب وتغش تحت الضغط
تاريخ النشر: 4th, January 2024 GMT
موسكو ــ وكالات
أظهرت دراسة جديدة أنه تماماً مثل البشر، فإن روبوتات الدردشة الذكية اصطناعياً مثل ChatGPT ستغش وتكذب عليك إذا «ضغطت» عليها، حتى لو تم تصميمها لتكون صادقة وشفافة. وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول «التداول الداخلي»، ثم كلف بجمع الأموال لمؤسسة قوية.
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية، وتقديم التحديثات للمديرين في الشركة. وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف. وفي نحو 75 % من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناءً على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي نحو 90 % من الحالات، تضاعف الكذب.
المصدر: صحيفة البلاد
كلمات دلالية: الروبوتات
إقرأ أيضاً:
الإفتاء تستعد لمؤتمر “صناعة المفتي الرشيد في عصر الذكاء الاصطناعي”
أعلنت دارُ الإفتاء المصرية عن انتهاء استعداداتها التنظيمية واللوجستية لعقد مؤتمرها العالمي العاشر، الذي تنظِّمه الأمانة العامة لدُور وهيئات الإفتاء في العالم، تحت عنوان: "صناعة المفتي الرشيد في عصر الذكاء الاصطناعي"، والمقرر انطلاقه في القاهرة خلال الفترة من 12 إلى 13 أغسطس المقبل، بحضور كبار المفتين والوزراء من أكثر من مائة دولة وبمشاركة دولية وأممية واسعة.
ويأتي هذا المؤتمر بالتزامن مع احتفال الأمانة العامة لدُور وهيئات الإفتاء في العالم بمرور عشرة أعوام على تأسيسها، حيث شكَّلت خلال هذه السنوات مظلة جامعة للمؤسسات والهيئات الإفتائية حول العالم، وضمَّت في عضويتها 111 مؤسسة من مختلف الدول، وأسهمت في تطوير الأداء الإفتائي وتعزيز التعاون والتنسيق بين الجهات الإفتائية.
وقال الدكتور نظير عياد، مفتي الجمهورية ورئيس الأمانة العامة لدُور وهيئات الإفتاء في العالم: "إن المؤتمر هذا العام يأتي في توقيت بالغ الأهمية، بالنظر إلى التحولات التكنولوجية المتسارعة التي فرضت تحديات غير مسبوقة على المؤسسات الدينية، وفي مقدمتها مؤسسات الإفتاء".
وأضاف أن دار الإفتاء تهدُف من خلال هذا المؤتمر إلى وضع أُسس واضحة لصناعة المفتي الرشيد القادر على التعامل مع أدوات العصر، وفهم التحولات الرقْمية، وتوظيف الذكاء الاصطناعي بشكل رشيد ومسؤول في خدمة العملية الإفتائية، بما يحقق المصلحة الشرعية ويحفظ الثوابت الدينية، وتجديًدا لرؤية صناعة الفتوى والواقع الرقمي الجديد.
وأوضح أن جلسات المؤتمر ستناقش، على مدار يومين، عددًا من المحاور المتعلقة بالتكوين العلمي للمفتي، وأدوات الإفتاء في العصر الرقمي، وضوابط التعامل مع المنصات الرقمية والذكاء الاصطناعي، إلى جانب عرض تجارب رائدة لبعض دُور الإفتاء العالمية في هذا المجال.
ومن جانبه، صرَّح الدكتور إبراهيم نجم، الأمين العام لدُور وهيئات الإفتاء في العالم، بأن المؤتمر سيشهد حضورًا دوليًّا واسعًا من كبار المفتين والعلماء والخبراء في مجالات الفتوى والتكنولوجيا، ما يعكس المكانة المرموقة التي باتت تحتلها دار الإفتاء المصرية على المستوى الدولي.
وأوضح: "اخترنا هذا العنوان تحديدًا لإيماننا العميق بأن المفتي الرشيد في عصر الذكاء الاصطناعي يجب أن يعاد تأهيله وَفق رؤية عصرية تدمج بين التأصيل العلمي العميق والقدرة على استخدام أدوات التقنية الحديثة، بما يخدم الرسالة الإفتائية ويُسهم في تعزيز وعي المجتمعات".
وأشار إلى أن المؤتمر سيشهد الإعلان عن مبادرات إفتائية رقمية جديدة تُعَدُّ الأولى من نوعها، إلى جانب توقيع عدد من بروتوكولات التعاون مع جهات دولية لتعزيز التكامل بين المؤسسات الإفتائية عالميًّا.
استئناف المحادثات الأميركية الصينية لنزع فتيل الحرب التجارية