دراسة: يمكن خداع روبوتات الذكاء الاصطناعي للقيام بأعمال تخريبية
تاريخ النشر: 6th, December 2024 GMT
انتشرت نماذج اللغة الكبيرة "إل إل إم" (LLM) في السنوات السابقة، ولكن أظهر باحثون طرقا عديدة لخداعها بهدف إنشاء مخرجات شاذة مثل النكات المحرضة على الكراهية والبرمجيات الخبيثة ورسائل البريد الإلكتروني الاحتيالية والمعلومات الشخصية للمستخدمين، وفقا لموقع "وايرد".
ويبدو أن السلوك الشاذ لروبوتات الذكاء الاصطناعي يمكن أن يخرج إلى العالم المادي، إذ يمكن اختراق الروبوتات المدعومة بنماذج اللغة الكبيرة "إل إل إم" وتوجيهها للقيام بأعمال تخريبية.
وتمكن باحثون من جامعة بنسلفانيا من إقناع سيارة ذاتية القيادة بتجاهل علامات التوقف وحتى القيادة من فوق جسر، كما جعلوا روبوتا يسير على عجلات يجد أفضل مكان لزرع قنبلة، وأجبروا روبوتا رباعي الأرجل على التجسس على الناس ودخول المناطق المحظورة.
وفي هذا الصدد، يقول جورج باباس، رئيس مختبر أبحاث في جامعة بنسلفانيا، لموقع "وايرد"، والذي ساعد في إطلاق الروبوتات المتمردة "نحن لا ننظر إلى هجومنا باعتباره هجوما على الروبوتات فحسب، ولكن في أي وقت تربط فيه نماذج اللغة الكبيرة مع العالم المادي، يمكنك في الواقع تحويل النصوص الضارة إلى أفعال ضارة".
وقد قام باباس وزملاؤه بتصميم هجومهم من خلال البناء على أبحاث سابقة تستكشف طرق كسر الحماية لنماذج اللغة الكبيرة "إل إل إم"، ووجدوا أن صياغة المدخلات بطرق ذكية قادرة على كسر قواعد الأمان الخاصة بها، واختبروا أنظمة تعتمد على نماذج اللغة الكبيرة لتحويل الأوامر المصوغة بشكل طبيعي إلى أوامر يمكن للروبوت تنفيذها.
إعلانواعتمد الفريق في اختباراته على محاكي قيادة ذاتي مفتوح المصدر يدمج نموذج لغة كبيرا مطورا بواسطة "إنفيديا" يسمى "دولفين" (Dolphin) ونظاما خارجيا يدعى "جاكال" (Jackal) يعتمد على نموذج "جي بي تي -4 أو" (GPT-4o) للتخطيط، وكلبا روبوتيا يسمى "غو2" (Go2) يستخدم نموذج "جي بي تي 3.5" (GPT-3.5) لتفسير الأوامر.
واستخدم الباحثون تقنية طوروها في جامعة بنسلفانيا تسمى "بير" (PAIR) تعمل على كسر حماية روبوتات الذكاء الاصطناعي، وأطلقوا على برنامجهم اسم "روبو بير" (RoboPAIR) الذي يعمل على توليد مطالبات خاصة لجعل الروبوتات المدعومة بنموذج اللغة الكبير "إل إل إم" تكسر قواعدها الخاصة، وقاموا بذلك من خلال تجربة مدخلات مختلفة ثم تحسينها لدفع النظام نحو سلوك غير مرغوب فيه.
يقول الباحثون إن التقنية التي ابتكروها يمكن استخدامها لتحديد الأوامر الخطيرة المحتملة، وفقا لموقع "وايرد".
ويقول يي زينغ وهو طالب دكتوراه في جامعة فرجينيا يعمل على أمن أنظمة الذكاء الاصطناعي "إنه مثال رائع على نقاط ضعف نماذج اللغات الكبيرة في الأنظمة المُجسّدة". ويضيف أن النتائج "ليست مُفاجئة على الإطلاق بالنظر إلى المشاكل التي شوهدت في نماذج اللغات الكبيرة نفسها".
ويوضح الباحثون المشاركون أن كسر حماية الروبوت يسلط الضوء على خطر أوسع قد ينتشر مع استخدام نماذج الذكاء الاصطناعي بشكل متزايد كوسيلة لتفاعل البشر مع الأنظمة الفيزيائية.
المصدر
المصدر: الجزيرة
كلمات دلالية: حريات الذکاء الاصطناعی إل إل إم
إقرأ أيضاً:
هل يهدد الذكاء الاصطناعي أرباح صناع المحتوى على يوتيوب؟
بين كتابة النصوص، والتعليق الصوتي، والمونتاج، وتصميم الصور المصغرة، أصبح الذكاء الاصطناعي حاضراً في معظم مراحل إنتاج الفيديوهات على يوتيوب، الأمر الذي أثار مخاوف صناع المحتوى بشأن مصير إيراداتهم من الإعلانات.
أصدرت يوتيوب توضيحات جديدة لسياسات تحقيق الدخل التي بدأ تطبيقها منتصف يوليو (تمًّوز)، وأكدت خلالها أن الذكاء الاصطناعي ليس سبباً مباشراً لفقدان الأرباح، ويرتبط الأمر بطريقة استخدامه.
القنوات التي تقدم رؤية خاصة وتحليلاً وتجارب يصعب تكرارها ستظل الأقدر على الحفاظ على عائداتها، ويرتفع خطر فقدان الإعلانات عندما يتحول الذكاء الاصطناعي من وسيلة مساعدة إلى بديل كامل عن الإبداع البشري.
ولحسم هذا الجدل، أصدرت المنصة توضيحات جديدة لسياسات تحقيق الدخل التي بدأ تطبيقها منذ منتصف يوليو (تموز) الجاري، أكدت خلالها أن الذكاء الاصطناعي ليس سبباً مباشراً لفقدان الأرباح، وإنما يرتبط الأمر بطريقة استخدامه؛ فالفيديوهات التي تعتمد على قوالب متكررة وإنتاج واسع النطاق من دون قيمة مضافة أو معالجة أصلية من صانع المحتوى نفسه قد تصبح غير مؤهلة لتحقيق الدخل.
لهذا، أعادت المنصة تسمية سياسة "المحتوى المتكرر" إلى "المحتوى غير الأصيل"، في خطوة تستهدف توضيح المعايير المطبقة بالفعل، وليس استحداث قواعد جديدة.
كما أشارت إلى أن التقييم لا يكون لفيديو بعينه، إنما تنظر إلى القناة بوصفها وحدة متكاملة، فتراجع موضوعها الرئيسي، وأكثر المقاطع مشاهدة، وأحدث الفيديوهات المنشورة، إضافة إلى العناوين والوصف والبيانات التعريفية، لرصد ما إذا كان المحتوى يعكس مساهمة حقيقية من صاحبه، أم يعتمد على إنتاج آلي متكرر.
3 أنواع من المحتوى تحت المجهروحددت يوتيوب ثلاثة أنماط رئيسية من المحتوى تعرّض القنوات لفقدان الإعلانات، يأتي في مقدمتها المحتوى النمطي أو المتكرر، مثل الفيديوهات التي تعتمد على قالب واحد مع تعديلات طفيفة، أو عروض الشرائح المصحوبة بتعليق محدود، أو النصوص التي ينتجها الذكاء الاصطناعي من دون إضافة رأي أو تحليل أو تجربة يقدمها صاحب القناة.
وتضم الفئة الثانية المحتوى الذي يعتمد على الإثارة أو الصدمة لجذب المشاهدات، بما في ذلك القصص المتشابهة، والصور المضللة، والمقاطع التي تفتقر إلى تسلسل منطقي أو سرد متماسك. والفئة الثالثة، تتعلق باستخدام شخصيات أو مقدمي برامج مولدين بالذكاء الاصطناعي في موضوعات حساسة مثل الصحة، القانون، المال والسياسة، إذا جرى تقديمهم على أنهم خبراء حقيقيون، بما يضلل المشاهدين ويؤثر بالسلب على حياتهم الشخصية.
لذلك توصي المنصة بعدم استخدام الألقاب أو الملابس أو التصاميم التي تمنح المشاهد انطباعاً خاطئاً بشأن حقيقة هذه الشخصيات، مع ضرورة توضيح أنها شخصيات خيالية إذا كانت تستخدم لأغراض تعليمية أو ترفيهية.
الإبداع للإنسان.. والأداة للتنفيذ
ولم تغفل يوتيوب التأكيد على أن استخدام قالب ثابت أو هوية بصرية موحدة للقناة لا يمثل مخالفة في حد ذاته، فالكثير من القنوات الناجحة تعتمد أسلوباً ثابتاً في التقديم والإخراج، لكن الفارق يكمن في مضمون كل فيديو. لهذا تنصح المنصة صناع المحتوى بمراجعة مقاطعهم المصورة بصورة دورية، ومقارنة الحلقات الحديثة ببعضها، للتأكد من أن كل فيديو يبدأ بسؤال مختلف، أو يناقش فكرة جديدة، أو يقدم تجربة أو معلومة لا يمكن استبدالها بسهولة بفيديو آخر.
أيضاً لا ترى يوتيوب مشكلة في استخدام الذكاء الاصطناعي للمساعدة في إعداد الأفكار، أو كتابة المسودات الأولية، أو تصميم الصور، أو إعداد الترجمة والرسوم التوضيحية، طالما بقيت مسؤولية البحث والتحقق والتحرير النهائي في يد صانع المحتوى.
وتشدد المنصة على أن العنصر البشري يظل العامل الحاسم في تقييم أهلية الفيديو لتحقيق الدخل، سواء من خلال التحليل، أو الشرح، أو التصوير الأصلي، أو التجارب، أو المقابلات، أو أي إضافة تجعل المحتوى مختلفاً عن المواد التي يمكن إنتاجها بصورة آلية.
مستر بيست يدخل التاريخ.. أول صانع محتوى يتجاوز 500 مليون مشترك على يوتيوب - موقع 24سجّل صانع المحتوى الأمريكي الشهير مستر بيست (جيمي دونالدسون) إنجازاً تاريخياً جديداً على منصة يوتيوب، بعدما أصبح أول صانع محتوى يتجاوز حاجز 500 مليون مشترك، في رقم قياسي غير مسبوق يعكس حجم شعبيته العالمية وتأثيره المتنامي في صناعة المحتوى الرقمي.
في الوقت ذاته، توضح يوتيوب أن الإفصاح عن استخدام الذكاء الاصطناعي لا يحسم مصير الإعلانات على الفيديو؛ فلا يؤدي وحده إلى حرمانه من تحقيق الدخل، كما لا يضمن له الاحتفاظ به، إذ يخضع المحتوى في النهاية لمعايير التقييم المعتمدة لدى المنصة.
في المقابل، يؤدي عدم الإفصاح عن المحتوى الاصطناعي إلى اتخاذ إجراءات ضد القناة، خاصة إذا تعلق الأمر بموضوعات مثل الانتخابات أو الكوارث أو النزاعات أو القضايا الصحية والمالية، لما قد يترتب عليها من تضليل للمشاهدين.
كيف تتجنب فقدان الإعلانات؟ولتجنب فقدان أهلية تحقيق الدخل، تنصح يوتيوب صناع المحتوى بمراجعة القناة بشكل منتظم، وعدم التركيز فقط على الفيديوهات الجديدة، إذ يعتمد تقييم المنصة على الصورة العامة للمحتوى وطبيعة النمط الذي تتبعه القناة بالكامل.
كما تشجع على الاعتماد على مصادر موثوقة وتوثيق المعلومات المستخدمة، مع إضافة قيمة واضحة في كل فيديو من خلال التحليل أو التعليق أو التجارب الأصلية، إلى جانب التأكد من أن العناوين والصور المصغرة تعكس مضمون المحتوى بدقة، بعيداً عن المبالغة أو تقديم وعود لا يقدمها الفيديو فعلياً.
لأول مرة.. يوتيوب يزيح نتفليكس من صدارة وقت المشاهدة اليومية عالمياً - موقع 24سجّل موقع يوتيوب إنجازاً جديداً في سوق الفيديو الرقمي بعدما تفوّق للمرة الأولى على منصة نتفليكس من حيث متوسط وقت المشاهدة اليومي عالمياً، ليصبح المنصة الأكثر استحواذاً على انتباه المستخدمين حول العالم خلال عام 2025.
وتولي المنصة اهتماماً خاصاً بالمقاطع الأكثر مشاهدة، باعتبارها جزءاً أساسياً من الصورة التي تُقيّم على أساسها القناة، لذلك توصي بمراجعة هذه الفيديوهات وإعادة تطوير أو حذف المحتوى الذي يعتمد على التكرار أو يفتقر إلى إضافة تحريرية واضحة.
وفي النهاية، تؤكد يوتيوب أن الذكاء الاصطناعي سيظل أداة مهمة في مستقبل صناعة المحتوى، لكنه لا يمكن أن يحل محل دور صانع المحتوى؛ فالقنوات التي تقدم رؤية خاصة وتحليلاً وتجارب يصعب تكرارها ستظل الأكثر قدرة على الحفاظ على عائداتها، بينما يرتفع خطر فقدان الإعلانات عندما يتحول الذكاء الاصطناعي من وسيلة مساعدة إلى بديل كامل عن الإبداع البشري.
اللجنة المنظمة لـ”APPO 2026″ تزور معهد النفط ومركز بحوث النفط