دراسة تحذّر: لا تثقوا بالذكاء الاصطناعي.. أصبح سيّداً في الخداع والكذب
تاريخ النشر: 12th, May 2024 GMT
مع تطور أنظمة الذكاء الاصطناعي، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
حدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا (MIT)، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، وتراوغ وتتظاهر بأنها "بشر". حتى أن أحد هذه الأنظمة غيّر سلوكه في أثناء اختبارات سلامة وهمية، مما يزيد من إمكانية تضليل المدققين وإعطائهم انطباعًا خاطئًا بأن النظام آمن، وفقا لصحيفة "الغارديان".
وقال الدكتور بيتر بارك، الباحث في مجال السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "كلما أصبحت قدرات الخداع لدى أنظمة الذكاء الاصطناعي أكثر تقدمًا، كلما ازدادت حدة المخاطر التي تشكلها على المجتمع".
وأجرى بارك هذا التحقيق الجديد بعد أن طورت شركة ميتا، المالكة لفيسبوك، برنامجًا يسمى "Cicero" أدى أداء أفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية حول غزو العالم تسمى "الدبلوماسية".
ورغم أن شركة ميتا قالت إنه تم تدريب "سيسيرو" على أن يكون "صادقًا ومفيدًا إلى حد بعيد" و"لا يطعن حلفاءه من البشر عمدًا"، إلا أن الباحثين وجدوا أمثلة متعددة على قيامه بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
قام بارك وزملاؤه بتصفح البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها"سيسيرو" وبالكذب والتواطؤ لجر لاعبين آخرين إلى مؤامرات، وفي إحدى المرات، برر غيابه بعد إعادة تشغيله بإخبار لاعب آخر: "أنا على الهاتف مع صديقتي." قال بارك: "لقد وجدنا أن الذكاء الاصطناعي في لعبة ميتا قد تعلم أن يكون سيدًا في الخداع".
دائرة حول ما تريد.. غوغل تعلن عن أداة بحث جديدة تعمل بالذكاء الاصطناعيصندوق النقد الدولي: الذكاء الاصطناعي يهدد 40% من وظائف العالمأمريكا تحذر من إشراف الذكاء الاصطناعي على الأسلحة النوويةوقد وجد فريق معهد ماساتشوستس للتكنولوجيا مشكلات مماثلة مع أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه خداع اللاعبين المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدّم تفضيلاته بشكل خاطئ من أجل كسب اليد العليا.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا في أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".
شارك هذا المقالمحادثة مواضيع إضافية معضلة "اليوم التالي" للحرب الإسرائيلية على غزة.. دول عربية تعارض المشاركة في إدارة القطاع بعد الحرب واشنطن تمنح كييف حزمة مساعدات عسكرية جديدة بقيمة 400 مليون دولار رفضا الخدمة العسكرية فكان السجن بانتظارهما.. سجينان إسرائيليان يناشدان بايدن التدخل لوقف الحرب بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعيالمصدر: euronews
كلمات دلالية: إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي السويد فيضانات سيول رفح معبر رفح فلسطين الحرب في أوكرانيا السياسة الأوروبية الذکاء الاصطناعی یعرض الآن Next
إقرأ أيضاً:
دراسة استقصائية تظهر انخفاضاً في استخدام الذكاء الاصطناعي
الثورة /
منذ إطلاق ChatGPT من OpenAI في نوفمبر 2022، أصبح الذكاء الاصطناعي التوليدي موضوعًا ساخنًا في المناقشات التكنولوجية، واكتسب تغطية واسعة النطاق لقدراته.
ولكن على الرغم من الضجيج المحيط بتقنيات الذكاء الاصطناعي الجديدة، كشفت دراسة حديثة أن قلة من الناس يستخدمون أدوات الذكاء الاصطناعي مثل ChatGPT بانتظام.
وشمل الاستطلاع، الذي أجراه معهد رويترز وجامعة أكسفورد، أكثر من 12 ألف فرد في ستة دول، بما في ذلك فرنسا والدنمارك والمملكة المتحدة، لقياس المواقف تجاه استخدام نماذج GenAI.
تظهر النتائج أن نسبة ضئيلة من الأشخاص يستخدمون ChatGPT يوميًا، مع وجود عدد أقل من الأشخاص الذين يستخدمون أدوات الذكاء الاصطناعي الأخرى مثل Google Gemini وMicrosoft Copilot.
الإلمام العام بأدوات الذكاء الاصطناعي
أفاد غالبية المشاركين أنهم سمعوا عن بعض أدوات الذكاء الاصطناعي الشائعة.
وبرز ChatGPT باعتباره التطبيق الأكثر شهرة، حيث أشار 61% من المشاركين من الدنمارك و58% من المملكة المتحدة إلى أنهم على علم به.
ومع ذلك، فإن الأدوات المماثلة مثل Google Gemini وMicrosoft Copilot أقل شهرة، حيث لا يعرفها سوى حوالي 15 إلى 25% من الأشخاص.
ووجد الاستطلاع أيضًا أن أدوات الذكاء الاصطناعي الأكثر تخصصًا، مثل Midjourney وPerplexity، لا تحظى بتقدير كبير بين عامة الناس.
كما لم يكن من المرجح أن يكون الناس على دراية بمنتجات الذكاء الاصطناعي التي تنشأ في بلدانهم مقارنة بالأدوات المشهورة عالميًا مثل ChatGPT.
على سبيل المثال، أفاد ثلاثة في المائة فقط من المشاركين في فرنسا أنهم على علم بشركة ميسترال، وهي شركة متخصصة في الذكاء الاصطناعي ومقرها فرنسا.
ووجد الاستطلاع أنه في حين أن أغلبية كبيرة من الناس قد سمعوا عن أدوات الذكاء الاصطناعي التي حظيت بتغطية إعلامية واسعة النطاق، إلا أن عددًا أقل من الأشخاص أبلغوا عن استخدامها فعليًا، ويظل الاستخدام المنتظم نادرًا.
كيف يستخدم الناس أدوات الذكاء الاصطناعي؟
ChatGPT هي أداة الذكاء الاصطناعي الأكثر استخدامًا على نطاق واسع بين الأشخاص الذين شملهم الاستطلاع في ستة بلدان، وهي أكثر انتشارًا مرتين أو ثلاث مرات من نماذج اللغات الكبيرة الأخرى (LLMs) مثل Gemini من Google وMicrosoft Copilot.
ومع ذلك، فإن وتيرة الاستخدام ليست عالية بشكل خاص.
في فرنسا والمملكة المتحدة، أفاد 2% فقط من المشاركين أنهم يستخدمون ChatGPT يوميًا، مع استخدام عدد أقل لأدوات الذكاء الاصطناعي الأخرى؛ في الواقع، لم يبلغ أحد في المملكة المتحدة عن استخدام Google Gemini يوميًا.
ذكر معظم المشاركين الذين جربوا أدوات الذكاء الاصطناعي التوليدية أنهم استخدموها مرة أو مرتين فقط منذ إطلاقها.
وفي الوقت نفسه، تظهر الولايات المتحدة معدلات استخدام أعلى لبرامج الماجستير في القانون، حيث يستخدم سبعة في المائة من الأشخاص ChatGPT يوميًا و11 في المائة أسبوعيًا.
وكشفت الدراسة أن الاختلاف الأكثر أهمية في استخدام أدوات الذكاء الاصطناعي قد لوحظ بين مختلف الفئات العمرية.
كان الأفراد الأصغر سنًا أكثر عرضة لاعتماد أدوات الذكاء الاصطناعي واستخدامها بشكل متكرر.
وفي البلدان الستة التي شملتها الدراسة، أفاد 56% من الأشخاص الذين تتراوح أعمارهم بين 18 و24 عامًا و43% ممن تتراوح أعمارهم بين 25 و34 عامًا أنهم استخدموا الذكاء الاصطناعي التوليدي مرة واحدة على الأقل.
وفي المقابل، استخدم حوالي 16% فقط من الأشخاص الذين تبلغ أعمارهم 55 عامًا أو أكثر هذه الأدوات.
وعلى الرغم من ارتفاع معدلات الوعي والاستخدام بين السكان الأصغر سنا، فإن معدل الاستخدام الإجمالي لا يزال منخفضا.
في حين أفاد معظم المشاركين في الاستطلاع أنهم يستخدمون الذكاء الاصطناعي بشكل أساسي في حياتهم الشخصية وليس لأغراض العمل أو الأكاديمية، إلا أن الاستخدامات المحددة للذكاء الاصطناعي تباينت.
وفي جميع البلدان التي شملها الاستطلاع، استخدم 24% من المشاركين الذكاء الاصطناعي التوليدي لجمع المعلومات، بينما استخدمه 28% لإنشاء وسائل الإعلام.
بالنسبة لأولئك الذين يستخدمونها للحصول على المعلومات، تشمل الاستخدامات الأكثر شيوعًا الإجابة على الأسئلة الواقعية (11 في المائة)، وطلب المشورة (10 في المائة)، وتوليد الأفكار (9 في المائة).
تشمل الاستخدامات الأخرى للحصول على المعلومات تلخيص النص وخدمات الدعم والترجمات والوصول إلى آخر الأخبار.
من ناحية أخرى، فإن أولئك الذين يستخدمون الذكاء الاصطناعي التوليدي لإنشاء الوسائط غالبًا ما يستخدمونه في مهام مثل كتابة رسائل البريد الإلكتروني أو الرسائل (تسعة بالمائة)، وإنشاء الصور (تسعة بالمائة)، وإنشاء مقاطع الفيديو (أربعة بالمائة)، والتشفير (خمسة بالمائة).
ومع ذلك، أفاد غالبية المشاركين في إنشاء الوسائط باستخدام الذكاء الاصطناعي الإنتاجي أنهم يقومون في المقام الأول بالتجربة أو التلاعب (11%).
التأثير المتوقع للذكاء الاصطناعي التوليدي
قال معظم الأشخاص الذين شملهم الاستطلاع أنهم يتوقعون أن يؤثر الذكاء الاصطناعي الإنتاجي بشكل كبير على كل قطاعات المجتمع تقريبًا خلال السنوات الخمس المقبلة.
ووفقاً للتقرير، يتوقع 72% من المشاركين في المتوسط أن يكون للذكاء الاصطناعي التوليدي تأثير كبير على شركات البحث ووسائل التواصل الاجتماعي.
بالإضافة إلى ذلك، يتوقع 66% أن يؤثر ذلك بشكل كبير على وسائل الإعلام الإخبارية، وتعتقد نسبة مماثلة أنه سيؤثر بشكل كبير على عمل العلماء.
في المتوسط، يتوقع معظم المشاركين أن يؤدي الذكاء الاصطناعي الإنتاجي إلى تحسين حياتهم إلى حد ما، على الرغم من أن عدداً أعلى قليلاً يتوقع تأثيراً سلبياً على المجتمع بشكل عام.
مُفاجأة طقس حزيران: بعد الموجة الحارة الحرارة ستنخفض 9 درجات هذا ما كشفه الأب خنيصر