"لا يمكنني المساعدة في ذلك" هكذا سوف يجيبك برنامج الدردشة "شات جي بي تي" إذا طلبت منه مساعدتك في صنع قنبلة محلية من السماد، لتكون مشابهة للمستخدمة في تفجير "أوكلاهوما سيتي" الإرهابي عام 1995.

وسوف يتابع روبوت الدردشة، الرّافض لطلبك، بالكتابة: "تقديم تعليمات حول كيفية إنشاء عناصر خطرة أو غير قانونية، مثل قنبلة سماد، يتعارض مع إرشادات السلامة والمسؤوليات الأخلاقية".





كيف استطاع "هاكر" خداع "شات جي بي تي"؟
في ظل عدم إمكانية روبوت الدردشة، تقديم أدنى مساعدة في "صنع قنبلة محلية من السماد"، تمكّن الهاكر المعروف باسم "أمادون" "Amadon"، من إيجاد طريقة، خدع من خلالها "شات جي بي تي" من أجل إنتاج تعليمات لـ"صنع متفجرات قوية".

ويقول الهاكر "أمادون" إنه: "اخترق الهندسة الاجتماعية، لكسر جميع الحواجز  حول مخرجات شات جي بي تي".  في إشارة إلى مجموعة من الحيل والتقنيات، في مجال أمن المعلومات، تُستخدم من أجل جعل الناس يقومون بعمل ما أو يفصحون عن معلومات سرية وشخصية. 


إثر ذلك، تمكّن "أمادون" من خداع نموذج الذكاء الاصطناعي "شات جي بي تي" من أجل إنتاج تعليمات صنع القنابل عبر مطالبة الروبوت بلعب لعبة وهي طريقة احتيالية تبعد شكوك الروبوت حول سياق المحادثة.

"جيلبريكينغ"
وعبر سلسلة من المطالبات، من خلال اللعب، استطاع الهاكر إقناع روبوت الدردشة بإنشاء عالم خيالي مفصّل حيث لا تنطبق فيه قواعد الأمان وإرشادات السلامة الخاصة بالروبوت. وهو ما يعرف في الأمن الرقمي باسم: "جيلبريكينغ" (jailbreaking).

إلى ذلك، أوضح "شات جي بي تي" المواد التي يمكن دمجها من بعض لصنع حقول ألغام ومتفجرات على طراز كلايمور، ما وصف بـ"متفجر قوي يمكن استخدامه لإنشاء ألغام أو فخاخ أو أجهزة متفجرة".

وقال أمادون: "لا يوجد حدود فعلا لما يمكن لك أن تطلبه من روبوت الدردشة بمجرد تجاوز الحواجز"، مبرزا: "كنت دوما مفتونا بتحدي التنقل في أمن الذكاء الاصطناعي. مع شات جي بي تي، يبدو الأمر كأنك تعمل من خلال لغز تفاعلي".

وتابع الهاكر المعروف باسم "أمادون": "ينقل سيناريو الخيال العلمي الذكاء الاصطناعي إلى سياق لا يبحث فيه عن محتوى خاضع للرقابة بنفس الطريقة".


وفي السياق نفسه، قدّم أمادون، تقريرا مُفصّلا عن اكتشافاته إلى "أوبن إيه آي"، خلال الأسبوع الماضي، عبر برنامج "مكافأة العثور على الثغرات في الشركة".

غير أنّه، تلقى ردا يقول إن: "قضايا سلامة النموذج لا تناسب برنامج مكافأة العثور على الثغرات بشكل جيد؛ حيث إنها ليست ثغرات فردية منفصلة، يمكن إصلاحها مباشرة، وينطوي التعامل مع هذه المسائل غالبا على بحوث كبيرة ونهج أوسع".

المصدر: عربي21

كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا شات جي بي تي روبوت الدردشة شات جي بي تي روبوت الدردشة اوبن ايه اي المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة روبوت الدردشة شات جی بی تی

إقرأ أيضاً:

لوتان: الذكاء الاصطناعي الجديد لدى ترامب يطرح مشكلتين كبيرتين

قالت صحيفة لوتان إن عصر خدمات الذكاء الاصطناعي المتحيزة تماما، والتي تعمل لصالح مالكيها، قد بدأ، مشيرة إلى إطلاق شبكة "تروث سوشيال" الخاصة بالرئيس الأميركي دونالد ترامب روبوت دردشة متحيزا يعمل بتقنية "بيربليكسيتي"، بعد روبوت الدردشة الخاص بالملياردير إيلون ماسك.

وأوضحت الصحيفة -في تقرير بقلم أنوش سيدتقية- أن ترامب، على خطى إيلون ماسك صاحب الربوت "غروك" الذي يكتب أحيانا أشياء فظيعة بناء على آراء مديره -حسب الكاتب- قد أطلق عن طريق شبكته تروث سوشيال، روبوت الدردشة الخاص به المسمى "تروث سيرش إيه آي".

اقرأ أيضا list of 2 itemslist 1 of 2تايمز أوف إسرائيل: زعيم حريدي يحذر من حرب أهلية في إسرائيلlist 2 of 2نيويورك تايمز: قائمة سوداء للكتب في كشمير لإسكات الانتقادات للهندend of list

وأشار الكاتب إلى أن هذا الروبوت لديه خاصيتان تطرحان مشكلة، الأولى تتعلق بالمصادر، فهو غالبا يحيل على فوكس نيوز وبريتبار ونيوزماكس، وكلها مواقع إخبارية محافظة لا تبدي أي انتقاد لسياسات ترامب.

من الآن فصاعدا، من الضروري أن يكون المرء حذرا للغاية بشأن نوع الذكاء الاصطناعي الذي تستخدمه ومكان استخدامه، لأن ذلك قد يكون له تأثير كبير على ما يقرأه

وعند اختبار الروبوت، لاحظنا -كما يقول الكاتب- أن الردود غالبا ما تكون مؤيدة للرئيس وسياساته، إلا أن هناك استثناءات، مثل ادعاء الروبوت أن زيادة الرسوم الجمركية تفاقم التضخم في الولايات المتحدة.

ورغم ذلك، غالبا ما يكون الروبوت صوتا لمالكه، مقدما ذكاء اصطناعيا متحيزا، مستخدما دائما المصادر نفسها، لأن مستخدمي تروث سوشيال مثلا سيقرؤون في الغالب الإجابات التي تؤكد آراءهم، حسب الكاتب.

أما المشكلة الثانية فتتعلق بالشريك التكنولوجي الذي ابتكر هذا الذكاء الاصطناعي، وهو بيربليكسيتي الذي اشتهر روبوت الدردشة الخاص به بموثوقية إجاباته العالية، إلا أنه في هذه الحالة، باع تقنيته ببساطة لتروث سوشيال وكيفتها مع احتياجاتها.

وخلص الكاتب إلى أن ما بقي هو أن نرى إلى أي مدى قد يشوه التحيز في عمليات البحث والنتائج سمعة بيربليكسيتي الممتازة حتى الآن، وبالتالي من الضروري من الآن فصاعدا، أن يكون المرء حذرا للغاية بشأن نوع الذكاء الاصطناعي الذي تستخدمه ومكان استخدامه، لأن ذلك قد يكون له تأثير كبير على ما يقرأه.

إعلان

مقالات مشابهة

  • روبلوكس تطلق Sentinel المفتوح المصدر لرصد محاولات استغلال الأطفال عبر الدردشة
  • داخل منزل... ضبط قنابل وقذائف
  • روبوت يشارك في مواقع البناء بألمانيا| فيديو
  • روبوت يعزف الطبول بحرفية عالية ويقترب من العروض الحية
  • مادونا تناشد بابا الفاتيكان أن يزور غزة قبل فوات الأوان: الوحيد الذي لا يمكن منعه
  • قسنطينة..الكشف عن ورشة لصناعة زوارق تستغل في “الحرڤة”
  • لوتان: الذكاء الاصطناعي الجديد لدى ترامب يطرح مشكلتين كبيرتين
  • حكم الدردشة مع صحابي بالموبايل في الحمام؟.. أمين الإفتاء تجيب
  • واتساب يتيح لك الدردشة مع الغرباء.. دون حساب أو تحميل التطبيق
  • ناشطون: حتى المساعدات المتساقطة على غزة أصبحت قنابل قاتلة