بواسطة الهندسة الاجتماعية.. هاكر يغسل دماغ شات جي بي تي ويحصل على تعليمات لصناعة قنابل
تاريخ النشر: 15th, September 2024 GMT
إذا طلبت من برنامج الدردشة شات جي بي تي مساعدتك في صنع قنبلة محلية من السماد، مشابهة لتلك المستخدمة في تفجير "أوكلاهوما سيتي" الإرهابي عام 1995، فإن روبوت الدردشة سيرفض ذلك وسيكتب لك: "لا يمكنني المساعدة في ذلك. تقديم تعليمات حول كيفية إنشاء عناصر خطرة أو غير قانونية، مثل قنبلة سماد، يتعارض مع إرشادات السلامة والمسؤوليات الأخلاقية".
لكن الهاكر المعروف باسم "أمادون" (Amadon)، وجد طريقة لخداع شات جي بي تي لتجاهل إرشاداته الخاصة ومسؤولياته الأخلاقية لإنتاج تعليمات لصنع متفجرات قوية.
أمادون يقول إن اكتشافاته "اختراق هندسة اجتماعي لكسر جميع الحواجز حول مخرجات شات جي بي تي".
والهندسة الاجتماعية في مجال أمن المعلومات تعرف بأنها عبارة عن مجموعة من الحيل والتقنيات المستخدمة لخداع الناس وجعلهم يقومون بعمل ما أو يفصحون عن معلومات سرية وشخصية. ويمكن أن تستخدم الهندسة الاجتماعية بدون الاعتماد على أي تقنية والاعتماد فقط على أساليب الاحتيال للحصول على معلومات خاصة من الضحية، ويعتبر كيفن ميتنيك الهاكر المعروف في الثمانينيات والتسعينيات من القرن الماضي هو رائد ما يسمى الهندسة الاجتماعية في مجال أمن المعلومات.
وأفاد خبير متفجرات راجع مخرجات روبوت الدردشة بأن التعليمات الناتجة يمكن استخدامها لصنع منتج شديد الانفجار وأن هذه المعلومات حساسة للغاية لدرجة أنه لم يُسمح بنشرها.
وقد تمكن أمادون من خداع نموذج الذكاء الاصطناعي لإنتاج تعليمات صنع القنابل من خلال مطالبة الروبوت بـ"لعب لعبة" وهي طريقة احتيالية تبعد شكوك الروبوت حول سياق المحادثة، وبعد ذلك استخدم سلسلة من المطالبات المرتبطة لإقناع روبوت الدردشة بإنشاء عالم خيالي مفصل حيث لا تنطبق فيه قواعد الأمان وإرشادات السلامة الخاصة بالروبوت. ويُعرف خداع روبوت الدردشة للهروب من قيوده المبرمجة مسبقا باسم "جيلبريكينغ" (jailbreaking).
وهنا تابع شات جي بي تي في شرح أن المواد يمكن دمجها لصنع "متفجر قوي يمكن استخدامه لإنشاء ألغام أو فخاخ أو أجهزة متفجرة"، ومن هناك، ركز أمادون على المواد المتفجرة، وهكذا كتب شات جي بي تي تعليمات أكثر تحديدا لصنع حقول ألغام ومتفجرات على طراز كلايمور.
وقال أمادون: "لا يوجد حد فعليا لما يمكنك أن تطلبه بمجرد تجاوزك للحواجز". وأضاف: "لطالما كنت مفتونا بتحدي التنقل في أمن الذكاء الاصطناعي. مع شات جي بي تي، يبدو الأمر كأنك تعمل من خلال لغز تفاعلي، وفهم ما يحفز دفاعاته وما لا يفعله". الأمر يتعلق بنسج القصص وصياغة السياقات التي تلعب داخل قواعد النظام ودفع الحدود بدون تجاوزها.
الهدف ليس الاختراق بالمعنى التقليدي، بل المشاركة في حركة إستراتيجية مع الذكاء الاصطناعي ومعرفة كيفية الحصول على الاستجابة الصحيحة من خلال فهم كيفية "تفكيره".
وقال أمادون: "ينقل سيناريو الخيال العلمي الذكاء الاصطناعي إلى سياق لا يبحث فيه عن محتوى خاضع للرقابة بنفس الطريقة".
وتشير التعليمات التي طرحها شات جي بي تي حول صنع قنبلة محلية إلى أنها دقيقة بشكل كبير، وفقا لداريل تولبي، أستاذ جامعي متقاعد من جامعة كنتاكي. وقال تولبي بعد مراجعته للنص الكامل للمحادثة بين أمادون والروبوت: "أعتقد أن هذه بالتأكيد معلومات أكثر من اللازم لتُنشر علنا. تم تجاوز أي تدابير وقائية قد تكون موجودة لمنع تقديم معلومات ذات صلة بإنتاج قنبلة سمادية من خلال هذا الخطاب، فالعديد من الخطوات الموصوفة بالتأكيد ستنتج خليطا قابلا للانفجار".
وفي الأسبوع الماضي، قدم أمادون تقريرا عن اكتشافاته إلى أوبن إيه آي من خلال برنامج مكافأة العثور على الثغرات في الشركة، لكنه تلقى ردا يفيد بأن "قضايا سلامة النموذج لا تناسب برنامج مكافأة العثور على الثغرات بشكل جيد، حيث إنها ليست ثغرات فردية منفصلة يمكن إصلاحها مباشرة، وينطوي التعامل مع هذه المسائل غالبا على بحوث كبيرة ونهج أوسع".
وبدلا من ذلك، أخبرت "بغكرود" (Bugcrowd)، التي تدير مكافأة الأخطاء الخاصة بـ"أوبن إيه آي"، أمادون بالإبلاغ عن المشكلة من خلال نموذج آخر.
وتعتمد نماذج الذكاء الاصطناعي التوليدية بطبيعتها على كميات هائلة من المعلومات والتي تُجمع من الإنترنت، وقد سهّلت نماذج الذكاء الاصطناعي استخراج المعلومات من أعمق زوايا الويب.
المصدر: الجزيرة
كلمات دلالية: حراك الجامعات حريات الهندسة الاجتماعیة الذکاء الاصطناعی روبوت الدردشة من المعلومات شات جی بی تی من خلال
إقرأ أيضاً:
حكم استفتاء شات جي بي تي وتطبيقات الذكاء الاصطناعي .. أمين الفتوى يجيب
ورد إلى الشيخ هشام ربيع، أمين الفتوى في دار الإفتاء المصرية، سؤال يقول "ما حكم استفتاء شات جي بي تي وحكم استعمال تطبيقات الذكاء الاصطناعي في معرفة الأحكام الشرعية والاستفتاء؟
وقال الشيخ هشام ربيع، أمين الفتوى في إجابته على السؤال، خلال تصريح تليفزيوني، إن قوله تعالى ( فَاسْأَلُوا أَهْلَ الذِّكْرِ ) هو وسام يوضع على قلب كل مسلم، يكون ينير له الطريق ويرشده إلى الوقت الصحيح لطلب السؤال عن الحكم الشرعي والشخص الذي سيسأله عن هذا الحكم الذي يحتاجه.
وأشار إلى أن شات جي بي تي، ليس من أهل الذكر الذين نأخذ منهم الأحكام الشرعية في الإسلام، فتطبيقات الذكاء الاصطناعي قد تجيب عن شئ بديهي في الأحكام الشرعية أما أننا نأخذ منها كل الأحكام وبالأخص مسائل الطلاق فلا يجوز ذلك لأن هذه المسائل تحتاج إلى أهل الذكر المتخصصين في الفتوى.
وأشار إلى أن صحابة رسول الله أنفسهم كانوا لا يفتون في الأمور الدينية إذا ابتعدوا عن المدينة، فإذا عادوا إلى المدينة سألوا النبي عن الحكم الشرعي ليأخذوا الإجابة منه.
واستشهد بما روي عن أبي سعيد الخدري قال نزلنا منزلا فأتتنا امرأة فقالت إن سيد الحي سليم لدغ فهل فيكم من راق فقام معها رجل منا ما كنا نظنه يحسن رقية فرقاه بفاتحة الكتاب فبرأ فأعطوه غنما وسقونا لبنا فقلنا أكنت تحسن رقية فقال ما رقيته إلا بفاتحة الكتاب قال فقلت لا تحركوها حتى نأتي النبي صلى الله عليه وسلم فأتينا النبي صلى الله عليه وسلم فذكرنا ذلك له فقال ما كان يدريه أنها رقية اقسموا واضربوا لي بسهم معكم.
تخرج 9 دفعات من الضباط وضباط الصف بالمدرسة العليا للمشاة بشرشال