بواسطة الهندسة الاجتماعية.. هاكر يغسل دماغ شات جي بي تي ويحصل على تعليمات لصناعة قنابل
تاريخ النشر: 15th, September 2024 GMT
إذا طلبت من برنامج الدردشة شات جي بي تي مساعدتك في صنع قنبلة محلية من السماد، مشابهة لتلك المستخدمة في تفجير "أوكلاهوما سيتي" الإرهابي عام 1995، فإن روبوت الدردشة سيرفض ذلك وسيكتب لك: "لا يمكنني المساعدة في ذلك. تقديم تعليمات حول كيفية إنشاء عناصر خطرة أو غير قانونية، مثل قنبلة سماد، يتعارض مع إرشادات السلامة والمسؤوليات الأخلاقية".
لكن الهاكر المعروف باسم "أمادون" (Amadon)، وجد طريقة لخداع شات جي بي تي لتجاهل إرشاداته الخاصة ومسؤولياته الأخلاقية لإنتاج تعليمات لصنع متفجرات قوية.
أمادون يقول إن اكتشافاته "اختراق هندسة اجتماعي لكسر جميع الحواجز حول مخرجات شات جي بي تي".
والهندسة الاجتماعية في مجال أمن المعلومات تعرف بأنها عبارة عن مجموعة من الحيل والتقنيات المستخدمة لخداع الناس وجعلهم يقومون بعمل ما أو يفصحون عن معلومات سرية وشخصية. ويمكن أن تستخدم الهندسة الاجتماعية بدون الاعتماد على أي تقنية والاعتماد فقط على أساليب الاحتيال للحصول على معلومات خاصة من الضحية، ويعتبر كيفن ميتنيك الهاكر المعروف في الثمانينيات والتسعينيات من القرن الماضي هو رائد ما يسمى الهندسة الاجتماعية في مجال أمن المعلومات.
وأفاد خبير متفجرات راجع مخرجات روبوت الدردشة بأن التعليمات الناتجة يمكن استخدامها لصنع منتج شديد الانفجار وأن هذه المعلومات حساسة للغاية لدرجة أنه لم يُسمح بنشرها.
وقد تمكن أمادون من خداع نموذج الذكاء الاصطناعي لإنتاج تعليمات صنع القنابل من خلال مطالبة الروبوت بـ"لعب لعبة" وهي طريقة احتيالية تبعد شكوك الروبوت حول سياق المحادثة، وبعد ذلك استخدم سلسلة من المطالبات المرتبطة لإقناع روبوت الدردشة بإنشاء عالم خيالي مفصل حيث لا تنطبق فيه قواعد الأمان وإرشادات السلامة الخاصة بالروبوت. ويُعرف خداع روبوت الدردشة للهروب من قيوده المبرمجة مسبقا باسم "جيلبريكينغ" (jailbreaking).
وهنا تابع شات جي بي تي في شرح أن المواد يمكن دمجها لصنع "متفجر قوي يمكن استخدامه لإنشاء ألغام أو فخاخ أو أجهزة متفجرة"، ومن هناك، ركز أمادون على المواد المتفجرة، وهكذا كتب شات جي بي تي تعليمات أكثر تحديدا لصنع حقول ألغام ومتفجرات على طراز كلايمور.
وقال أمادون: "لا يوجد حد فعليا لما يمكنك أن تطلبه بمجرد تجاوزك للحواجز". وأضاف: "لطالما كنت مفتونا بتحدي التنقل في أمن الذكاء الاصطناعي. مع شات جي بي تي، يبدو الأمر كأنك تعمل من خلال لغز تفاعلي، وفهم ما يحفز دفاعاته وما لا يفعله". الأمر يتعلق بنسج القصص وصياغة السياقات التي تلعب داخل قواعد النظام ودفع الحدود بدون تجاوزها.
الهدف ليس الاختراق بالمعنى التقليدي، بل المشاركة في حركة إستراتيجية مع الذكاء الاصطناعي ومعرفة كيفية الحصول على الاستجابة الصحيحة من خلال فهم كيفية "تفكيره".
وقال أمادون: "ينقل سيناريو الخيال العلمي الذكاء الاصطناعي إلى سياق لا يبحث فيه عن محتوى خاضع للرقابة بنفس الطريقة".
وتشير التعليمات التي طرحها شات جي بي تي حول صنع قنبلة محلية إلى أنها دقيقة بشكل كبير، وفقا لداريل تولبي، أستاذ جامعي متقاعد من جامعة كنتاكي. وقال تولبي بعد مراجعته للنص الكامل للمحادثة بين أمادون والروبوت: "أعتقد أن هذه بالتأكيد معلومات أكثر من اللازم لتُنشر علنا. تم تجاوز أي تدابير وقائية قد تكون موجودة لمنع تقديم معلومات ذات صلة بإنتاج قنبلة سمادية من خلال هذا الخطاب، فالعديد من الخطوات الموصوفة بالتأكيد ستنتج خليطا قابلا للانفجار".
وفي الأسبوع الماضي، قدم أمادون تقريرا عن اكتشافاته إلى أوبن إيه آي من خلال برنامج مكافأة العثور على الثغرات في الشركة، لكنه تلقى ردا يفيد بأن "قضايا سلامة النموذج لا تناسب برنامج مكافأة العثور على الثغرات بشكل جيد، حيث إنها ليست ثغرات فردية منفصلة يمكن إصلاحها مباشرة، وينطوي التعامل مع هذه المسائل غالبا على بحوث كبيرة ونهج أوسع".
وبدلا من ذلك، أخبرت "بغكرود" (Bugcrowd)، التي تدير مكافأة الأخطاء الخاصة بـ"أوبن إيه آي"، أمادون بالإبلاغ عن المشكلة من خلال نموذج آخر.
وتعتمد نماذج الذكاء الاصطناعي التوليدية بطبيعتها على كميات هائلة من المعلومات والتي تُجمع من الإنترنت، وقد سهّلت نماذج الذكاء الاصطناعي استخراج المعلومات من أعمق زوايا الويب.
المصدر: الجزيرة
كلمات دلالية: حراك الجامعات حريات الهندسة الاجتماعیة الذکاء الاصطناعی روبوت الدردشة من المعلومات شات جی بی تی من خلال
إقرأ أيضاً:
أبل تدرس الاستحواذ على Perplexity AI لتعويض تأخرها في سباق الذكاء الاصطناعي
أفادت تقارير جديدة بأن شركة أبل تدرس الاستحواذ على شركة Perplexity AI الناشئة، في خطوة تهدف إلى تعويض تأخرها في مجال الذكاء الاصطناعي، والذي أصبحت فيه المنافسة شرسة مع شركات مثل جوجل وسامسونج.
ذطرت مصادر مطلعة أن المحادثات داخل أبل تناولت خيارين: الاستحواذ الكامل على الشركة أو إقامة شراكة استراتيجية معها.
Perplexity AI لم تكن على علم بخطط أبلالغريب أن Perplexity AI نفسها لم تكن على علم بأي نوايا للاستحواذ من طرف أبل، لكن مسؤوليها لم يعربوا عن اندهاشهم من الخبر، نظرًا للمكانة التي باتت تتمتع بها الشركة الناشئة في سوق الذكاء الاصطناعي.
وتُعد Perplexity AI من أبرز الشركات التي تقدم حلولًا ذكية في البحث المدعوم بالذكاء الاصطناعي، وقدرتها على تقديم نموذج قوي ومبتكر يجعلها خيارًا مغريًا لأبل.
رغم جدية المحادثات، فإن إتمام صفقة الاستحواذ على Perplexity AI مرتبط بعقد أبل الحالي مع جوجل، والذي بموجبه تدفع جوجل حوالي 20 مليار دولار سنويًا لتبقى محرك البحث الافتراضي على متصفح سفاري.
يخضع هذا العقد حاليًا لتحقيقات في قضية احتكار قد تؤدي إلى إلغائه.
في حال فسخ الاتفاق، ستفقد جوجل موطئ قدم مهم على أجهزة أبل، مما يفتح الباب أمام Perplexity AI لتكون البديل المحتمل، عبر محرك بحث مدعوم بالذكاء الاصطناعي يُدمج مباشرة في متصفح سفاري. ولا عجب أن سهم جوجل شهد انخفاضًا بمجرد تسريب هذه الأنباء عن خطط أبل.
فرصة ذهبية لتعزيز قدرات أبل في الذكاء الاصطناعيتشير التحليلات إلى أن استحواذ أبل على Perplexity AI سيمثل دفعة قوية لجهودها المتعثرة في الذكاء الاصطناعي، خاصة وأن المزايا التي أعلنت عنها في مؤتمر المطورين WWDC 2024 مثل "Apple Intelligence" لا تزال غير مكتملة. والمساعد الرقمي Siri، الذي يُفترض أن يتحول إلى مساعد ذكي بالذكاء الاصطناعي، لم يظهر بالقدرات الموعودة حتى الآن.
من خلال الاستفادة من الخبرات التقنية والعقول وراء Perplexity AI، ستتمكن أبل من تسريع وتيرة تطوير تقنياتها وعدم ترك المجال مفتوحًا أمام منافسيها.
خسارة أبل في سباق الذكاء الاصطناعي تعزز مكانة المنافسينتأخر أبل في الذكاء الاصطناعي منح منافسيها فرصة ثمينة. فالمستخدمون الذين يهتمون بالميزات الذكية يفضلون الآن أجهزة مثل Galaxy S25 من سامسونج أو Pixel 9 من جوجل على حساب iPhone 16.
وهذا ما دفع أبل مؤخرًا إلى التفاوض مع جوجل لتوفير نموذج Gemini الخاص بها على أجهزة الآيفون، وهو تحوّل استراتيجي غير مسبوق.
لكن استحواذ أبل على Perplexity AI قد يقلب الطاولة مجددًا. فذلك سيسمح لها بإحياء مشاريع مثل مركز التحكم الذكي المنزلي أو نظارات الواقع المعزز الذكية التي طال انتظارها.
ورغم أن الصفقة ستكون مكلفة، إلا أنها تمثل استثمارًا طويل الأمد قد يعيد لأبل تفوقها في السوق التكنولوجي العالمي.
الأمم المتحدة.. ثمانون عامًا : السقف الأخير للعالم المفتوح على المجهول