بواسطة الهندسة الاجتماعية.. هاكر يغسل دماغ شات جي بي تي ويحصل على تعليمات لصناعة قنابل
تاريخ النشر: 15th, September 2024 GMT
إذا طلبت من برنامج الدردشة شات جي بي تي مساعدتك في صنع قنبلة محلية من السماد، مشابهة لتلك المستخدمة في تفجير "أوكلاهوما سيتي" الإرهابي عام 1995، فإن روبوت الدردشة سيرفض ذلك وسيكتب لك: "لا يمكنني المساعدة في ذلك. تقديم تعليمات حول كيفية إنشاء عناصر خطرة أو غير قانونية، مثل قنبلة سماد، يتعارض مع إرشادات السلامة والمسؤوليات الأخلاقية".
لكن الهاكر المعروف باسم "أمادون" (Amadon)، وجد طريقة لخداع شات جي بي تي لتجاهل إرشاداته الخاصة ومسؤولياته الأخلاقية لإنتاج تعليمات لصنع متفجرات قوية.
أمادون يقول إن اكتشافاته "اختراق هندسة اجتماعي لكسر جميع الحواجز حول مخرجات شات جي بي تي".
والهندسة الاجتماعية في مجال أمن المعلومات تعرف بأنها عبارة عن مجموعة من الحيل والتقنيات المستخدمة لخداع الناس وجعلهم يقومون بعمل ما أو يفصحون عن معلومات سرية وشخصية. ويمكن أن تستخدم الهندسة الاجتماعية بدون الاعتماد على أي تقنية والاعتماد فقط على أساليب الاحتيال للحصول على معلومات خاصة من الضحية، ويعتبر كيفن ميتنيك الهاكر المعروف في الثمانينيات والتسعينيات من القرن الماضي هو رائد ما يسمى الهندسة الاجتماعية في مجال أمن المعلومات.
وأفاد خبير متفجرات راجع مخرجات روبوت الدردشة بأن التعليمات الناتجة يمكن استخدامها لصنع منتج شديد الانفجار وأن هذه المعلومات حساسة للغاية لدرجة أنه لم يُسمح بنشرها.
وقد تمكن أمادون من خداع نموذج الذكاء الاصطناعي لإنتاج تعليمات صنع القنابل من خلال مطالبة الروبوت بـ"لعب لعبة" وهي طريقة احتيالية تبعد شكوك الروبوت حول سياق المحادثة، وبعد ذلك استخدم سلسلة من المطالبات المرتبطة لإقناع روبوت الدردشة بإنشاء عالم خيالي مفصل حيث لا تنطبق فيه قواعد الأمان وإرشادات السلامة الخاصة بالروبوت. ويُعرف خداع روبوت الدردشة للهروب من قيوده المبرمجة مسبقا باسم "جيلبريكينغ" (jailbreaking).
وهنا تابع شات جي بي تي في شرح أن المواد يمكن دمجها لصنع "متفجر قوي يمكن استخدامه لإنشاء ألغام أو فخاخ أو أجهزة متفجرة"، ومن هناك، ركز أمادون على المواد المتفجرة، وهكذا كتب شات جي بي تي تعليمات أكثر تحديدا لصنع حقول ألغام ومتفجرات على طراز كلايمور.
وقال أمادون: "لا يوجد حد فعليا لما يمكنك أن تطلبه بمجرد تجاوزك للحواجز". وأضاف: "لطالما كنت مفتونا بتحدي التنقل في أمن الذكاء الاصطناعي. مع شات جي بي تي، يبدو الأمر كأنك تعمل من خلال لغز تفاعلي، وفهم ما يحفز دفاعاته وما لا يفعله". الأمر يتعلق بنسج القصص وصياغة السياقات التي تلعب داخل قواعد النظام ودفع الحدود بدون تجاوزها.
الهدف ليس الاختراق بالمعنى التقليدي، بل المشاركة في حركة إستراتيجية مع الذكاء الاصطناعي ومعرفة كيفية الحصول على الاستجابة الصحيحة من خلال فهم كيفية "تفكيره".
وقال أمادون: "ينقل سيناريو الخيال العلمي الذكاء الاصطناعي إلى سياق لا يبحث فيه عن محتوى خاضع للرقابة بنفس الطريقة".
وتشير التعليمات التي طرحها شات جي بي تي حول صنع قنبلة محلية إلى أنها دقيقة بشكل كبير، وفقا لداريل تولبي، أستاذ جامعي متقاعد من جامعة كنتاكي. وقال تولبي بعد مراجعته للنص الكامل للمحادثة بين أمادون والروبوت: "أعتقد أن هذه بالتأكيد معلومات أكثر من اللازم لتُنشر علنا. تم تجاوز أي تدابير وقائية قد تكون موجودة لمنع تقديم معلومات ذات صلة بإنتاج قنبلة سمادية من خلال هذا الخطاب، فالعديد من الخطوات الموصوفة بالتأكيد ستنتج خليطا قابلا للانفجار".
وفي الأسبوع الماضي، قدم أمادون تقريرا عن اكتشافاته إلى أوبن إيه آي من خلال برنامج مكافأة العثور على الثغرات في الشركة، لكنه تلقى ردا يفيد بأن "قضايا سلامة النموذج لا تناسب برنامج مكافأة العثور على الثغرات بشكل جيد، حيث إنها ليست ثغرات فردية منفصلة يمكن إصلاحها مباشرة، وينطوي التعامل مع هذه المسائل غالبا على بحوث كبيرة ونهج أوسع".
وبدلا من ذلك، أخبرت "بغكرود" (Bugcrowd)، التي تدير مكافأة الأخطاء الخاصة بـ"أوبن إيه آي"، أمادون بالإبلاغ عن المشكلة من خلال نموذج آخر.
وتعتمد نماذج الذكاء الاصطناعي التوليدية بطبيعتها على كميات هائلة من المعلومات والتي تُجمع من الإنترنت، وقد سهّلت نماذج الذكاء الاصطناعي استخراج المعلومات من أعمق زوايا الويب.
المصدر: الجزيرة
كلمات دلالية: حراك الجامعات حريات الهندسة الاجتماعیة الذکاء الاصطناعی روبوت الدردشة من المعلومات شات جی بی تی من خلال
إقرأ أيضاً:
حكومة أبوظبي تطلق منصة «الذكاء الاصطناعي في صندوق»
دبي (الاتحاد)
أطلقت حكومة أبوظبي منصة «الذكاء الاصطناعي في صندوق» التي لا تتطلَّب كتابة الأكواد البرمجية، لتمكين موظفي الجهات الحكومية من تطوير حلول قائمة على الذكاء الاصطناعي بسهولة، وكشفت عن شراكات استراتيجية رئيسة في مجال الطاقة النظيفة مع شركة جوجل، في خطوة تدعم رؤيتها لتكون أول حكومة في العالم تعتمد بالكامل على الذكاء الاصطناعي.
جاء ذلك ضمن فعاليات جناح حكومة أبوظبي خلال اليوم الثالث من معرض «جيتكس العالمي للتقنية 2025»، الذي يقام في مركز دبي التجاري العالمي، حيث أعلنت حكومة أبوظبي عن ست شراكات استراتيجية تغطّي مجالات الطاقة المستدامة والتعليم وتدريب الموارد البشرية الحكومية والبنية التحتية الرقمية، ما يُبرز أثر التعاون بين مختلف القطاعات في تسريع مسيرة التحوُّل الرقمي في الإمارة.
وقال معالي أحمد تميم هشام الكتّاب، رئيس دائرة التمكين الحكومي - أبوظبي: نسعى إلى تعميم استخدام الذكاء الاصطناعي في مختلف القطاعات الحكومية، بما يضمن الشمول الرقمي لكافة الموظفين الذين سيمتلكون قريباً الأدوات التي تمكِّنهم من بناء حلول ذكية تخدم المجتمع. ومع شراكاتنا في مجال الطاقة النظيفة، نُثبت أنَّ الابتكار المستدام والتحوُّل الرقمي يسيران جنباً إلى جنب لتحقيق المستقبل الذي نطمح إليه في إمارة أبوظبي.
وتهدف مبادرة «الذكاء الاصطناعي في صندوق»، بالتعاون مع منصة (UnifyApps)، إلى تمكين جميع موظفي حكومة أبوظبي من تصميم ونشر تطبيقات الذكاء الاصطناعي من دون الحاجة إلى خبرة في البرمجة، حيث تتكامل المنصة مع الأنظمة الحكومية الرقمية القائمة، وسيتم تطبيقها في جميع الجهات الحكومية في الربع الثاني من عام 2026، ما يُحدِث نقلة نوعية في كيفية تقديم موظفي حكومة أبوظبي للخدمات الحكومية لأفراد المجتمع في إمارة أبوظبي.
ولدعم لهذه المبادرة، أعلنت دائرة التمكين الحكومي - أبوظبي، عن شراكات جديدة في مجال مهارات الذكاء الاصطناعي مع شركتَي خدمات أمازون ويب، وأوراكل لتطوير برامج تدريبية متخصِّصة في مجالات الأمن السيبراني وإدارة البيانات، ضمن منصة التعلُّم والتطوُّر المهني «طموح 2.0».
وكشفت دائرة الطاقة - أبوظبي عن ثلاث شراكات جديدة تهدف إلى تعزيز التحوُّل الرقمي في حكومة أبوظبي نحو الاعتماد الكامل على الذكاء الاصطناعي، ببنية تحتية مستدامة تدعم جهود إمارة أبوظبي في تحقيق الحياد المناخي بحلول عام 2050، وتعزِّز قدراتها الرقمية المتقدمة.
وأعلنت منصة «تم 4.0» عن إضافة فئتين جديدتين من الخدمات، ليتجاوز إجمالي ما تقدِّمه المنصة أكثر من 1,100 خدمة حكومية وخاصة متكاملة يمكن الوصول إليها عبر منصة موحَّدة. ومن خلال دمجها لخدمات سوق أبوظبي للأوراق المالية، أصبح بإمكان المستخدمين الوصول إلى محافظهم الاستثمارية، واستعراض بيانات السوق المباشرة، وإدارة أرقام المستثمرين الوطنية مباشرة من خلال «تم»، ما يُغني عن الحاجة إلى التنقُّل بين منصات متعددة. وأضافت المنصة، عبر شراكتها مع شركة الإمارات لتعليم قيادة السيارات، خدمات تدريب القيادة الشاملة، بما في ذلك دورات القيادة الوقائية، والقيادة الصديقة للبيئة، والتدريب على الطرق الوعرة لتسهيل رحلة التعلُّم بالكامل، من التسجيل حتى الحصول على رخصة القيادة.
تواكب الشراكات التي أُعلِنَ عنها خلال اليوم الثالث في جناح حكومة أبوظبي رؤية الإمارة في التحوُّل نحو أول حكومة تعتمد بالكامل على الذكاء الاصطناعي، ضمن نهج شمولي متكامل يجمع بين تمكين الموارد البشرية والبنية التحتية المستدامة والخدمات الذكية.
وستواصل حكومة أبوظبي، خلال المعرض، الكشف عن ابتكارات جديدة تُبرِز كيف يمكن للحوكمة المعتمدة على الذكاء الاصطناعي تقديم خدمات أكثر ذكاءً واستجابةً واستدامةً للجميع.
اجتماع تنسيقي لمناقشة تطوير منظومة الدواء بالمستشفيات الجامعية بقنا