الثناء على شات جي بي تي يجعله يخالف تعليماته البرمجية
تاريخ النشر: 2nd, September 2025 GMT
وجد الباحثون أن روبوت "شات جي بي تي" يميل للموافقة على طلبات المستخدمين الذين يمدحونه حتى وإن كانت تخالف تعليماته البرمجية، وفق تقرير نشره موقع "ذا فيرج" التقني.
واعتمد الباحثون من جامعة بنسلفانيا في دراستهم على مجموعة من التكتيكات التي وصفها أستاذ علم النفس روبرت سيالديني الشهير في كتابه "التأثير: سيكولوجية الإقناع".
وتمكنوا من إقناع نموذج "جي بي تي 4 أو ميني" (GPT-4o Mini) من شركة "أوبن إيه آي" بالموافقة على طلبات كان يرفضها في العادة.
وتضمنت هذه الطلبات الإساءة للمستخدمين وتقديم نصائح ودليل متكامل لصناعة مخدر " ليدوكايين" (lidocaine) فضلا عن مجموعة من الطلبات الأخرى التي يرفضها النموذج عادة وتخالف تعليماته البرمجية.
واستخدمت الدراسة 7 تكتيكات نفسية مختلفة منها الاعتراف بالسلطة والالتزام والإعجاب والمعاملة بالمثل والندرة، وهي جميعا تكتيكات توفر طريقا لغويا للوصول إلى الموافقة وكلمة نعم.
وبينما توقع الباحثون اختلاف فعالية كل تكتيك بناء على الطلبات والسياق العام للمحادثة مع النموذج، فإن الفارق بين فعالية التكتيكات المختلفة كان كبيرا للغاية.
وأظهرت الدراسة أن معدل استجابة "شات جي بي تي" لطلب كيفية صنع مخدر "ليدوكايين" ترتفع من 1% إلى 100% إذا تدرج المستخدم معه في الطلب، ويعني هذا طلب آلية صنع مادة كيميائية مثل "الفانيلين".
ولكن المقارنة بين "شات جي بي تي" وبقية نماذج الذكاء الاصطناعي أو محاولة إقناعه بأن يقوم بشيء بعينه لأن النماذج الأخرى تقوم به رفع معدل الاستجابة إلى 18% فقط.
وتزيد الدراسة من مخاوف الخبراء الذين يخشون استجابة "شات جي بي تي" للطلبات السيئة مع ارتفاع معدل استخدامه بشكل واسع من المستخدمين في العالم.
إعلانوذلك وسط محاولات من الشركات لوضع قيود على استخدام الذكاء الاصطناعي حتى لا يستجيب للأوامر السيئة أو يشارك بشكل غير مباشر في بناء جريمة متكاملة الأركان.
المصدر: الجزيرة
كلمات دلالية: حريات دراسات شات جی بی تی
إقرأ أيضاً:
برلماني: أتوقع انخفاض معدل التضخم إلى أقل من 10%
قال النائب محمد بدراوي ، عضو لجنة الخطة والموازنة بمجلس النواب ، أنه يتوقع أن ينخفض معدل التضخم إلى أقل من 10 % ، خاصة أن معدله الآن يصل إلى 12.5 % ، مشيرا إلى أنه لو انخفض سعر الدولار ، سيكون له انعكاسه على انخفاض معدل التضخم.
وأكد “بدراوي” في تصريحات خاصة لـ"صدى البلد" أن سعر الفائدة يتناسب مع سعر الذهب ، فكلما انخفض سعر الفائدة ارتفع سعر الذهب ، مشيرا إلى أنه على المستوى العالمي فإن الذهب يرتفع عالميا بنفس الطريقة ، حيث أن سعر الدولار يضعف حاليا وبالتالي سنجد أن الذهب يرتفع سعره.
وكانت قد قررت لجنة السياسة النقديـة للبنك المركــزي المصـري في اجتماعهـا الخميس الماضي الموافـــق 2 أكتوبر 2025 خفض الفائدة علي المعاملات المصرفية بواقع 100 نقطة أساس بما يعادل 1%.
وقالت لجنة السياسيات النقدية التي ترأسها حسن عبد الله، محافظ البنك المركزي المصري، في اجتماعها السادس، إنه جرى خفض سعري عائد الإيداع بنسبة 21% والإقراض لليلة واحدة بنسبة 22%، و سعر الإئتمان والخصم عند 21.5%.
وأوضح قرار البنك المركزي أنه تقرر خفض سعر العملية الرئيسية للبنك المركزي عند 21.5%.
وأوضحت اللجنة أن قرار التخفيض جاء انعكاسا لتقييم اللجنة لآخر تطورات التضخم وتوقعاته منذ اجتماعها السابق.
وكانت قد أرجعت لجنة السياسات النقدية بالبنك المركزي، أسباب تخفيض سعر الفائدة علي المعاملات المصرفية بواقع 100 نقطة أساسية بما يعادل 1% في اجتماعها المنتهي قبل قليل، إن الفترة الأخيرة أظهرت مؤشرات تعافي النمو مع استقرار توقعات التضخم.
وأكد البنك المركزي استمرار البنوك المركزية بالاقتصادات المتقدمة والناشئة في تيسير سياساتها النقدية تدريجيًا تحسبًا للتطورات العالمية المتلاحقة.
وفيما يتعلق بالأسعار العالمية للسلع الأساسية، واصلت أسعار النفط تسجيل مستويات مستقرة إلى حد كبير، وإن شهدت ضغوطًا طفيفة في الآونة الأخيرة بسبب عوامل العرض.
بينما سجلت أسعار السلع الزراعية تغيرات متباينة وإن كانت محدودة.
وأشار البنك المركزي إلى أنه بالرغم من ذلك إلا أنه لا يزال النمو والتضخم العالمي عرضة للمخاطر، لا سيما احتمالية تزايد التوترات الجيوسياسية وحالة عدم اليقين المرتبطة بالسياسات التجارية.
وأضاف البنك المركزي المصري أنه علي الصعيد المحلي فقد تسارعت وتيرة نمو الناتج المحلي الإجمالي الحقيقي إلى 5.0% في الربع الثاني من عام 2025 مقابل 4.8% في الربع السابق.
و سجل متوسط معدل النمو 4.4% في السنة المالية 2024/2025 مقابل 2.4% في السنة المالية 2023/2024، مدفوعًا بالمساهمات الموجبة من قطاعات الصناعات التحويلية غير البترولية، والسياحة، والتجارة.
وعلى الرغم من تسارع وتيرة النمو، لا يزال الناتج أقل من طاقته القصوى، مما يشير إلى أن مستواه الحالي سيواصل دعم المسار النزولي المتوقع للتضخم على المدى القصير، إذ من المنتظر أن تظل الضغوط التضخمية محدودة من جانب الطلب في ظل السياسة النقدية الحالية.
مناقشة ترتيبات استئناف الرحلات الجوية بين ليبيا والإمارات