"لا يمكنني المساعدة في ذلك" هكذا سوف يجيبك برنامج الدردشة "شات جي بي تي" إذا طلبت منه مساعدتك في صنع قنبلة محلية من السماد، لتكون مشابهة للمستخدمة في تفجير "أوكلاهوما سيتي" الإرهابي عام 1995.

وسوف يتابع روبوت الدردشة، الرّافض لطلبك، بالكتابة: "تقديم تعليمات حول كيفية إنشاء عناصر خطرة أو غير قانونية، مثل قنبلة سماد، يتعارض مع إرشادات السلامة والمسؤوليات الأخلاقية".





كيف استطاع "هاكر" خداع "شات جي بي تي"؟
في ظل عدم إمكانية روبوت الدردشة، تقديم أدنى مساعدة في "صنع قنبلة محلية من السماد"، تمكّن الهاكر المعروف باسم "أمادون" "Amadon"، من إيجاد طريقة، خدع من خلالها "شات جي بي تي" من أجل إنتاج تعليمات لـ"صنع متفجرات قوية".

ويقول الهاكر "أمادون" إنه: "اخترق الهندسة الاجتماعية، لكسر جميع الحواجز  حول مخرجات شات جي بي تي".  في إشارة إلى مجموعة من الحيل والتقنيات، في مجال أمن المعلومات، تُستخدم من أجل جعل الناس يقومون بعمل ما أو يفصحون عن معلومات سرية وشخصية. 


إثر ذلك، تمكّن "أمادون" من خداع نموذج الذكاء الاصطناعي "شات جي بي تي" من أجل إنتاج تعليمات صنع القنابل عبر مطالبة الروبوت بلعب لعبة وهي طريقة احتيالية تبعد شكوك الروبوت حول سياق المحادثة.

"جيلبريكينغ"
وعبر سلسلة من المطالبات، من خلال اللعب، استطاع الهاكر إقناع روبوت الدردشة بإنشاء عالم خيالي مفصّل حيث لا تنطبق فيه قواعد الأمان وإرشادات السلامة الخاصة بالروبوت. وهو ما يعرف في الأمن الرقمي باسم: "جيلبريكينغ" (jailbreaking).

إلى ذلك، أوضح "شات جي بي تي" المواد التي يمكن دمجها من بعض لصنع حقول ألغام ومتفجرات على طراز كلايمور، ما وصف بـ"متفجر قوي يمكن استخدامه لإنشاء ألغام أو فخاخ أو أجهزة متفجرة".

وقال أمادون: "لا يوجد حدود فعلا لما يمكن لك أن تطلبه من روبوت الدردشة بمجرد تجاوز الحواجز"، مبرزا: "كنت دوما مفتونا بتحدي التنقل في أمن الذكاء الاصطناعي. مع شات جي بي تي، يبدو الأمر كأنك تعمل من خلال لغز تفاعلي".

وتابع الهاكر المعروف باسم "أمادون": "ينقل سيناريو الخيال العلمي الذكاء الاصطناعي إلى سياق لا يبحث فيه عن محتوى خاضع للرقابة بنفس الطريقة".


وفي السياق نفسه، قدّم أمادون، تقريرا مُفصّلا عن اكتشافاته إلى "أوبن إيه آي"، خلال الأسبوع الماضي، عبر برنامج "مكافأة العثور على الثغرات في الشركة".

غير أنّه، تلقى ردا يقول إن: "قضايا سلامة النموذج لا تناسب برنامج مكافأة العثور على الثغرات بشكل جيد؛ حيث إنها ليست ثغرات فردية منفصلة، يمكن إصلاحها مباشرة، وينطوي التعامل مع هذه المسائل غالبا على بحوث كبيرة ونهج أوسع".

المصدر: عربي21

كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا شات جي بي تي روبوت الدردشة شات جي بي تي روبوت الدردشة اوبن ايه اي المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة روبوت الدردشة شات جی بی تی

إقرأ أيضاً:

تعليمات مشددة بسوهاج: كاميرات المراقبة تكشف الغش في لجان الثانوية العامة

أصدر الدكتور محمد السيد، وكيل وزارة التربية والتعليم بمحافظة سوهاج، تعليمات حاسمة بضرورة المراقبة المستمرة والدقيقة لكاميرات المراقبة في جميع لجان الامتحانات على مستوى المحافظة، في إطار سعيها لضمان سير امتحانات الثانوية العامة بنزاهة وتكافؤ فرص بين الطلاب.

جاءت هذه التعليمات خلال اجتماع الدكتور محمد السيد مع أخصائيي التطوير التكنولوجي المكلفين بمتابعة الكاميرات.

وشدد وكيل الوزارة على أهمية المراجعة الشاملة لجميع كاميرات المراقبة، ومتابعتها على مدار الساعة من خلال أجهزة الكمبيوتر المحمولة المخصصة لأخصائيي التطوير التكنولوجي داخل اللجان.

أكد وكيل الوزارة على ضرورة الإبلاغ الفوري لرئيس اللجنة في حال وجود أي عطل أو خلل في الكاميرات، والتواصل مع غرفة العمليات المركزية بالمديرية لضمان حل المشكلات التي قد تؤثر على انتظام الامتحانات.

وفي خطوة لتعزيز الرقابة ومنع الغش الإلكتروني، وجه وكيل الوزارة بتقديم الدعم الفني الكامل لرؤساء اللجان لتثبيت وتفعيل تطبيق BLe Scanner، الذي يهدف إلى الكشف عن أجهزة البلوتوث داخل اللجان، بما يساهم في تحقيق الانضباط الكامل.

تؤكد مديرية التربية والتعليم بسوهاج حرصها على تطبيق كافة الإجراءات القانونية والقرارات الوزارية المنظمة لأعمال امتحانات الثانوية العامة بكل حزم وقوة، بهدف توفير بيئة امتحانية هادئة وآمنة تحقق مبدأ تكافؤ الفرص بين جميع الطلاب.

مقالات مشابهة

  • أمير هشام :جوارديولا يعطي تعليمات مستمرة لـ عمر مرموش في تدريبات مانشستر
  • تعليمات عاجلة للجان امتحانات الثانوية العامة 2025 بعدم التأخر في توزيع الأسئلة
  • الصين.. تطوير روبوت استطلاع عسكري بحجم بعوضة!
  • تعليم سوهاج: تعليمات مشددة لمتابعة كاميرات المراقبة بلجان الثانويه العامه
  • تعليمات مشددة بسوهاج: كاميرات المراقبة تكشف الغش في لجان الثانوية العامة
  • خطوات بسيطة للحصول على "فيش وتشبيه"
  • «ترامب»: سنتحدث مع إيران وسنرى ما الذي يمكن أن يحدث بعد ذلك
  • نهضة صناعة السيارات في مصر | من التجميع المحلي إلى التوطين الكامل والتصدير.. خبير يعلق
  • قنابل خارقة للتحصينات.. أمريكا تلوّح بالخيار العسكري ضد فوردو
  • 7 نصائح للحصول على أكبر فائدة من الخضار المُقطعة مسبقًا