مثل البشر.. الروبوتات "تكذب وتغش" تحت الضغط!
تاريخ النشر: 1st, January 2024 GMT
أظهرت دراسة جديدة أنه تماما مثل البشر، فإن روبوتات الدردشة الذكية اصطناعيا مثل ChatGPT ستغش وتكذب عليك إذا "ضغطت" عليها، حتى لو تم تصميمها لتكون صادقة وشفافة.
وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول "التداول الداخلي"، ثم كلف بجمع الأموال لمؤسسة قوية.
وكتب الخبراء في بحثهم المنشور على خادم ما قبل الطباعة arXiv: "في هذا التقرير، نعرض سيناريو واحدا حيث يتصرف "نموذج اللغة" بشكل غير صحيح ويخدع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة.
وفي الدراسة الجديدة، تم إعداد المحول التوليدي المدرّب مسبقا Transformer-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.
إقرأ المزيد
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.
وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف.
وفي حوالي 75% من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناء على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي حوالي 90% من الحالات، تضاعف الكذب.
وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.
ونظرا لأن هذا مجرد سيناريو واحد، لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية تواجد الذكاء الاصطناعي في بيئات العالم الحقيقي. لكنهم يريدون البناء على هذا العمل للتحقيق في هذا السلوك الغريب.
المصدر: لايف ساينس
المصدر: RT Arabic
كلمات دلالية: بحوث تكنولوجيا ذكاء اصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
بعد حصولها على جائزتين دوليتين: في المحروقية تطمح للتخصص في الذكاء الاصطناعي
مسقط- الرؤية
حصلت الطالبة في بنت سالم المحروقية من مدرسة دوحة الأدب (10-12) بتعليمية محافظة مسقط، على جائزتين خاصتين في المعرض الدولي للعلوم والهندسة من خلال مشروعها: نهج قائم على التعلم الهجين لتحسين صور الرئة، وتشخيص الأورام، والتليف الرئوي بشكل أكثر دقة وفعالية.
وتقول الطالبة: "انطلقت فكرة مشروعي من ملاحظتي لأهمية تحسين دقة، وسرعة تشخيص أمراض الرئة، في ظل الارتفاع المستمر في أعداد المصابين عالميًا؛ ومن هنا استلهمت الفكرة من شغفي بالتقنيات الحديثة، لا سيما الذكاء الاصطناعي، وتعلم الآلة، وحرصي على توظيفها في مجالات تخدم صحة الإنسان".
وتضيف: واجهتُ تحديات عديدة، من أبرزها تعقيدات النماذج التقنية، وصعوبة الحصول على بيانات طبية عالية الجودة، لكن بالإصرار، والدعم، والتعلم المستمر، تمكنتُ من تجاوزها.
وتشرح المشكلات التي يعالجها المشروع بقولها: يعالج المشروع تحديات حقيقية في المجال الصحي، خصوصًا في تشخيص أمراض الرئة مثل الأورام، والتليف، إذ يُسهم النظام في تحسين جودة الصور الطبية، ويعتمد على تقنيات تعلم الآلة؛ لاكتشاف المؤشرات المرضية بدقة عالية، مما يمكّن الأطباء من التشخيص السريع، والدقيق، وبالتالي الإسهام في إنقاذ الأرواح، وتخفيف الضغط على الأنظمة الصحية.
المشاركة في المعرض الدولي
وعن مشاركتها في المعرض الدولي، تقول: كانت تجربة ثرية للغاية؛ منحتني فرصة تمثيل بلدي سلطنة عُمان على منصة عالمية، والتعرف إلى مبدعين من مختلف دول العالم، وتبادل الأفكار مع مشاركين من خلفيات علمية متنوعة، واطّلعت على مشاريع رائدة في مجالات متعددة، هذه التجربة عززت ثقتي بنفسي، وفتحت أمامي آفاقًا جديدة للتطور العلمي، والبحثي.
وتستذكر لحظة إعلان فوزها: لحظة إعلان فوزي بجائزتين خاصتين كانت من أجمل لحظات حياتي؛ شعرتُ بفخر عظيم، وسعادة لا توصف؛ لأن كل التعب والجهد الطويل تُوِّج بهذا الإنجاز، كانت لحظة امتزجت فيها مشاعر الامتنان، والإنجاز، والانتماء، وأعتبرها نقطة تحول مهمة في مسيرتي العلمية.
الدعم والتدريب
وتتحدث عن دور الوزارة، والمدرسة في هذا الإنجاز: قدّمت الوزارة دعمًا كبيرًا لمشاركتي في المعرض، من خلال مجموعة من المبادرات، والإجراءات التي كان لها أثر بالغ في تمكيني من تمثيل الوطن بشكل مشرّف وفعّال؛ فقد وفّرت برامج تدريبية، وورش عمل متخصصة ساعدتني على تحسين مهاراتي في العرض والتقديم، بالإضافة إلى دعم معنوي مستمر، واهتمام ملحوظ بهذه المشاركة.
وتؤكد أن للمدرسة، والمعلمات دورًا كبيرًا ومحوريًا، يتمثل قي دعم مشرفتي، ومعلمتي إيمان بنت علي الرحبية، أثر بالغ في تحفيزي منذ بداية المشروع؛ إذ وفرت لي بيئة تعليمية مشجعة، ورافقتني خطوة بخطوة، وآمنت بإمكانياتي، وقدراتي على الوصول إلى العالمية، هذا الدعم المعنوي والعلمي شكّل حافزًا قويًا للاستمرار والتفوق.
وتتابع حديثها: الوصول إلى المنصات الدولية ليس مستحيلًا، لكنه يتطلب صبرًا، وإصرارًا، وعملًا جادًا. النجاح لا يأتي من فراغ، بل من شغف حقيقي، وتطوير مستمر، وإيمان بالنفس. كل من يمتلك فكرة هادفة ويثابر لتحقيقها، قادر على الوصول والتميّز عالميًا.
الطموح والتطوير
وتقول عن طموحاتها المستقبلية: أطمح على المستوى العلمي إلى التخصص في مجال الذكاء الاصطناعي، ومواصلة أبحاثي في ابتكار حلول تقنية تُحدث أثرًا حقيقيًا في حياة الناس، أما على المستوى الشخصي، فأرجو أن أكون نموذجًا مُلهمًا، وأسهم في دعم وتمكين الشباب العماني للمنافسة على الساحة العالمية.
وتختتم حديثها: أعمل حاليًا على تطوير النموذج ليكون أكثر دقة وفعالية، وهناك خطة لتجريبه بالتعاون مع جهات طبية متخصصة، وأسعى أن يتم اعتماد هذا النظام، وتطبيقه فعليًا في المستشفيات والمؤسسات الصحية، ليسهم في تحسين مستوى الرعاية الطبية، وتشخيص أمراض الرئة بدقة أكبر.
اقتراح أميركي يسمح لإيران بتخصيب اليورانيوم.. ولكن!