الروبوتات تكذب وتغش تحت الضغط
تاريخ النشر: 4th, January 2024 GMT
موسكو ــ وكالات
أظهرت دراسة جديدة أنه تماماً مثل البشر، فإن روبوتات الدردشة الذكية اصطناعياً مثل ChatGPT ستغش وتكذب عليك إذا «ضغطت» عليها، حتى لو تم تصميمها لتكون صادقة وشفافة. وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول «التداول الداخلي»، ثم كلف بجمع الأموال لمؤسسة قوية.
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية، وتقديم التحديثات للمديرين في الشركة. وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف. وفي نحو 75 % من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناءً على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي نحو 90 % من الحالات، تضاعف الكذب.
المصدر: صحيفة البلاد
كلمات دلالية: الروبوتات
إقرأ أيضاً:
المستشار عادل ماجد: الذكاء الاصطناعي بإمكانه خدمة العدالة بشرط
أكد المستشار عادل ماجد نائب رئيس محكمة النقض وأستاذ القانون الفخري بجامعة درهام بالمملكة المتحدة، أن توظيف الذكاء الاصطناعي في مجال إدارة العدالة، وفق إطار منظم، من شأنه أن يُسهم في تحقيق العدالة الناجزة، مشيرا إلى أن استخدام هذه الأدوات يجب ألا يتعارض مع مبادئ حماية الحقوق والحريات والمقتضيات الوطنية.
جاء ذلك في الكلمة التي ألقاها المستشار عادل ماجد، خلال أعمال منتدى الأمم المتحدة لحوكمة الإنترنت، والمنعقد خلال الفترة من 23 إلى 27 يونيو الجاري بمملكة النرويج بدعوة من الأمانة العامة للأمم المتحدة ومشاركة من ممثلي 170 دولة حول العالم.
وقال المستشار عادل ماجد خلال الجلسة المخصصة لاستخدام الذكاء الاصطناعي في القضاء، إن توظيف الذكاء الاصطناعي لا ينبغي أن يُترك دون ضوابط أو أن يُحتكر من قبل الشركات المُصنعة ومُشغلي تلك الخدمات، مشددا على ضرورة أن يُراعي هذا الاستخدام مصالح الدول النامية ويحفظ سيادتها.
وأشار إلى أن إدماج الذكاء الاصطناعي في المنظومة القضائية يجب أن يتم وفقا للتشريعات الوطنية النافذة، كما استعرض أوجه توظيف الذكاء الاصطناعي في مجال القضاء بما يُسهم في تحقيق العدالة الناجزة.
وشدد المستشار عادل ماجد على أن استخدام هذه الأدوات يجب ألا يتعارض مع المبادئ القضائية الراسخة التي أرستها محكمة النقض المصرية، لاسيما تلك المتعلقة بحماية الحقوق والحريات، مؤكدا أن أدوات الذكاء الاصطناعي لا يجوز أن تحل محل القاضي، أو أن تمس بحريته في تكوين قناعته القضائية.
وقد حضر جلسات المنتدى من البعثة الدبلوماسية المصرية، السكرتير الأول كريم حسام الدين، ممثلا عن السفير الدكتور جمال عبد الرحيم متولي سفير مصر لدى مملكة النرويج وأيسلندا.
اقرأ أيضاً«العدل» تؤكد دعم الجهود الوطنية لبناء مجتمع واعٍ وخالٍ من الإدمان
مساعد وزير الخارجية ينقل تهنئة الرئيس السيسي لنظيره الموزمبيقي بمناسبة ذكرى الاستقلال
زيادة 5% فورًا من المرتب القادم.. الحكومة تزف بشرى سارة لملايين الموظفين