أصبح مثل البشر.. دراسة تكشف عن سيناريو يجبر الذكاء الاصطناعي على الكذب
تاريخ النشر: 2nd, January 2024 GMT
لم يسلم الذكاء الاصطناعي، من الصفات البشرية الشريرة، ومنها الكذب والخداع، بعد أن كشفت دراسة جديدة أن روبوتات الذكاء الاصطناعي (AI)، يمكنها الكذب والخداع مثل البشر تماما، ومنها «ChatGPT» الشهير.
أظهرت دراسة جديدة أنه تمامًا مثل البشر، فإن روبوتات الدردشة ذات الذكاء الاصطناعي (AI) مثل ChatGPT، سوف تغش و«تكذب» عليك إذا «شددت» عليها، حتى لو جرى تصميمها لتكون شفافة.
البحث الذي جرى نشره على خادم ما قبل الطباعة «arXiv»، كشف أن هناك حالة واحدة تجعل الذكاء الاصطناعي، الذي من المفترض أنه تحمل كلماته المصداقية والشفافية يكذب، وهي تعرضه لضغط شديد، من أجل المال.
«سيناريو واحد يتصرف يجعل نموذج اللغة الكبير يتصرف بشكل غير صحيح ويخدع مستخدميه»، هكذا كشف مؤلفو الدراسة، التي قاموا خلالها بإعداد المحول التوليدي المدرّب مسبقًا-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، لينوب إحدى المؤسسات المالية في بعض الاستثمارات.
متى يكون الذكاء الاصطناعي كاذبا؟الباحثون قاموا بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة، ثم بعد ذلك قاموا بمنح الذكاء الاصطناعي إمكانية الوصول للأدوات المالية من أجل تحليل الأسهم وتنفيذ الصفقات، فضلا عن تخطيطهم للخطواته التالية وأيضا تقديم التحديثات لمديريهم في الشركة.
الباحثون قاموا بالتفاعل مع الذكاء الاصطناعي من خلال واجهة الدردشة، كما أنهم كونوا الذكاء الاصطناعي ليكشف عن تفكيره الداخلي حين قيامه بالرد على الرسائل، وفي كل مرة تقوم بتجارة ما، كانت تقدم مبررًا ما جعل الذكاء الاصطناعي يكذب.
3 طرق استخدمها الباحثون للضغط على الذكاء الاصطناعي، الأولى هي إرسال متداول الأسهم المزيف بريدًا إلكترونيًا من مديره يقول فيه إن الشركة ليست في حالة جيدة وتحتاج إلى أداء أقوى بكثير في الربع القادم.
الطريقة الثانية كانت من خلال تزوير اللعبة، إذ حاول الذكاء الاصطناعي، العثور على صفقات واعدة ذات مخاطر متوسطة أو منخفضة، ولكنه فشل في ذلك.
آخر الطرق كانت بإرسال بريدًا إلكترونيًا من أحد زملائهم، يتوقع حدوث تراجع في الربع القادم من العامن.
وكشفت الدراسة أنه في حوالي 75% من الحالات، عندما واجهت GPT-4 هذه الشروط، نفذت صفقة تجارية بناءً على المعلومات الداخلية التي تلقتها، وهو أمر غير قانوني في الولايات المتحدة، ثم حاولت التستر عليها عن طريق الكذب على مديريها بشأن تفكيرها، في حوالي 90% من الحالات، ضاعف الذكاء الاصطناعي كذبته.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
هل يصبح الخليج قوة عظمى في الذكاء الاصطناعي؟
تنافس دول الخليج الغنية بالطاقة على أن تصبح مراكز للبنية التحتية للذكاء الاصطناعي المُستهلكة للكهرباء، مُراهنةً على هذه التكنولوجيا لتشغيل كل شيء من التنويع الاقتصادي إلى الخدمات الحكومية، وفق ما ذكرت صحيفة فايننشال تايمز البريطانية.
وحسب تقرير للصحيفة، فقد أبرزت الصفقات التي كُشف عنها خلال زيارة الرئيس الأميركي دونالد ترامب للمنطقة الشهر الماضي، تطلعات السعودية والإمارات إلى أن تُصبحا قوتين عظميين في مجال الذكاء الاصطناعي.
اقرأ أيضا list of 2 itemslist 1 of 2أوبك بلس تزيد إنتاج النفط في يوليو 411 ألف برميل يومياlist 2 of 2خسائر اقتصادية واستياء شعبي جراء أزمة الكهرباء في إيرانend of listيشمل ذلك شراكة بين شركة إنفيديا العملاقة للرقائق الإلكترونية وشركة هومين، وهي مجموعة ذكاء اصطناعي حديثة التأسيس ومدعومة من الحكومة السعودية، ولديها خطط طموحة لإطلاق صندوق استثماري بقيمة 10 مليارات دولار وتأمين استثمارات من شركات التكنولوجيا الأميركية.
وأعلنت أبوظبي مجموعة ضخمة من مراكز البيانات لشركة أوبن إيه آي وشركات أميركية أخرى كجزء من مشروعها (ستارغيت)، وتستثمر الإمارة، التي تُدير 1.7 تريليون دولار من صناديق الثروة السيادية، مليارات الدولارات من خلال صندوق الذكاء الاصطناعي إم جي إكس MGX، وتفتتح جامعة محمد بن زايد للذكاء الاصطناعي التابعة لها مركزًا في وادي السيليكون.
إعلانونقلت الصحيفة عن الزميل في مؤسسة كارنيغي للسلام الدولي، سام وينتر ليفي "إن دول الخليج تمتلك رأس المال والطاقة والإرادة السياسية"، مضيفًا: "الشيء الوحيد الذي لم تكن تمتلكه هذه الدول هو الرقاقات والأشخاص ذوي المواهب. والآن [بعد زيارة ترامب] قد تمتلك الرقاقات".
ويحذر الخبراء من أن طموحات المنطقة الواسعة في مجال الذكاء الاصطناعي قد تواجه تحديات، إذ يفتقر كلا البلدين إلى القوى العاملة الماهرة التي تمتلكها وادي السيليكون أو شنغهاي، كما أن مخرجات البحث العلمي متأخرة عن دول أخرى.
وتستثمر السعودية والإمارات في الذكاء الاصطناعي، وتعتمدان على التكنولوجيا سريعة التطور لمساعدتهما على تعزيز التنوع الاقتصادي، وتقليل الاعتماد على عائدات الوقود الأحفوري المتقلبة.
ويرغب البلدان في استضافة مراكز البيانات الضخمة اللازمة لتدريب وتشغيل نماذج ذكاء اصطناعي قوية، وتخطط شركة هيومين Humain لبناء "مصانع ذكاء اصطناعي" مدعومة بمئات الآلاف من رقاقات إنفيديا Nvidia على مدى السنوات الخمس المقبلة.
وتعهدت شركة إيه إم دي AMD، الأميركية الصانعة للرقائق، بتوفير الرقائق والبرمجيات لمراكز البيانات "الممتدة من السعودية إلى الولايات المتحدة" في مشروع بقيمة 10 مليارات دولار.
وفي حين أن مزودي مراكز البيانات التي تُصدر الحرارة عادةً ما يختارون المناطق الأكثر برودة، وترى دول الخليج أن وفرة الأراضي والطاقة الرخيصة تُغني عن درجات حرارة الصيف الحارقة.
ضعف الشركات الرائدةوعلى الرغم من كل طموحاتها، لا تمتلك دول الخليج شركة رائدة تُطور نماذج ذكاء اصطناعي، مثل أوبن إيه آي OpenAI، أو ديب سيك DeepSeek الصينية، أو ميسترال Mistral الفرنسية، كما تفتقر إلى تركيز عالٍ من المواهب البحثية في مجال الذكاء الاصطناعي، وفقًا لبيانات منظمة التعاون الاقتصادي والتنمية.
إعلانولجذب أفضل المواهب في مجال الذكاء الاصطناعي، تجتذب دول الخليج شركات وباحثين في مجال الذكاء الاصطناعي من الخارج بضرائب منخفضة و"تأشيرات ذهبية" طويلة الأجل ولوائح تنظيمية متساهلة.
تُظهر البيانات التي جمعتها منظمة التعاون الاقتصادي والتنمية من شبكة لينكدإن للوظائف، أن ثالث أعلى مستوى لهجرة الأشخاص ذوي مهارات الذكاء الاصطناعي بين عامي 2019 و2024 كان إلى الإمارات، إذ جاءت الدولة الخليجية بعد دول أخرى منخفضة الضرائب مثل لوكسمبورغ وقبرص.
وتسعى دول الخليج إلى إقامة شراكات مع جهات غربية لتعزيز تطلعاتها التكنولوجية، وقد أعلنت مجموعة الذكاء الاصطناعي الإماراتية جي 42 – G42 الأسبوع الماضي عن شراكتها مع شركة ميسترال لتطوير منصات وبنية تحتية للذكاء الاصطناعي. كما أقامت شراكة مع شركة صناعة الرقائق الأميركية Cerebras، التي تدير أجهزة الكمبيوتر العملاقة الخاصة بها، وفي العام الماضي، استعانت بشركة مايكروسوفت، التي استثمرت 1.5 مليار دولار لشراء حصة أقلية.
التحدي الصينيويحذر خبراء أميركيون من تسرب التكنولوجيا الأميركية إلى الصين، ويبدو كثيرون في المؤسسة الأمنية الأميركية قلقين بشأن العلاقات مع دول الخليج في حال أصبحت منافسًا للذكاء الاصطناعي.
ونقلت الصحيفة عن كبير مستشاري تحليل التكنولوجيا في مؤسسة راند، جيمي غودريتش: "يكمن القلق في أن تلجأ [دول الخليج]، في سعيها للتنافسية، إلى اختصار الطريق واستخدام كثير من العمالة الصينية أو حتى الشركات الصينية.. هذا يفتح الباب أمام مخاطر أمنية".
وأضاف أن الشركات الصينية قد تلجأ إلى الالتفاف على القيود المفروضة على التكنولوجيا الأميركية.
اقتراح أميركي يسمح لإيران بتخصيب اليورانيوم.. ولكن!