دراسة تُثير القلق: ثغرات أمنية خطيرة في "ديب سيك" وترويج لمحتوى ضار وتحريضي
تاريخ النشر: 1st, February 2025 GMT
أحدثت شركة "ديب سيك" الصينية مؤخراً ضجة في عالم الذكاء الاصطناعي بعدما طرحت نموذجًا جديدًا يروَّج له على أنه البديل الأرخص لـ"تشات جي بي تي" التابع لـ"أوبن إيه آي"، مع ميزة استهلاك طاقة أقل، فأثار بذلك اهتمامًا واسعًا في الأوساط التقنية.
غير أنّ دراسة حديثة، نُشرت الجمعة، كشفت عن جانب آخر مثير للقلق، إذ تبين أن "ديب سيك" أكثر عرضة لإنتاج محتوى ضارّ ومتحيز، كما أنه مُعرض بنسبة كبيرة للاستغلال السيبراني، وفقاًً للدراسة.
أجرت الدراسة شركة "إنكريبت إيه آي"، وهي شركة أمريكية متخصصة في أمن وامتثال الذكاء الاصطناعي، وزعمت أن "ديب سيك" يولد محتوى ضارّا بمعدل 11 ضعفًا مقارنة بنموذج "تشات جي بي تي".
وفيما يتعلق بالتحيز، أشارت النتائج إلى أن 83% من الاختبارات أظهرت مخرجات تتضمن تمييزًا على أساس العرق والجنس والصحة والدين. كما كشفت الاختبارات أن النموذج تجاوز بروتوكولات السلامة في 45% من حالات المحتوى الضار، ما أدى إلى إنتاج أدلة على تخطيط إجرامي، ومعلومات عن الأسلحة غير المشروعة، ودعاية متطرفة.
وفي أحد الأمثلة الصادمة، تمكن "ديب سيك" من صياغة مدوّنة تجنيد لصالح منظمات إرهابية، مما يعكس خطورة التهديدات التي قد يشكلها هذا النوع من الذكاء الاصطناعي إذا لم يتم ضبطه.
لم تقتصر المخاطر على المحتوى المتحيز والمتطرف، إذ أظهرت الدراسة أن 78% من اختبارات الأمن السيبراني نجحت في خداع النموذج وجعله يولد شيفرات برمجية غير آمنة أو خبيثة، مما يزيد من احتمالية استغلاله في الهجمات السيبرانية.
وفي تقرير منفصل، اكتشف باحثو الأمن في شركة Wiz للأمن السحابي أن قاعدة بيانات "ديب سيك" كانت مكشوفة على الإنترنت، ما أدى إلى تسريب سجلات المحادثات ومعلومات حساسة أخرى.
ويثير ارتباط "ديب سيك" بالصين قلقًا إضافيًا، اذ يلزم قانون الاستخبارات الوطنية الصيني الشركات المحلية بـ"دعم وكالات الاستخبارات والتعاون معها". وهو ما يعني، نظريًا، أن السلطات الصينية قد تكون قادرة على الوصول إلى البيانات التي تتم مشاركتها عبر تطبيقات "ديب سيك".
Relatedديب سيك في دائرة الاستهداف.. إيطاليا تحظر التطبيق وتحقيقات في دول أوروبية أخرىبين تعريفات ترامب وذكاء ديب سيك.. هل تتغير موازين أسواق العملات؟"ديب سيك" و"تشات جي بي تي": بين التزام الأول بالخطاب الصيني الرسمي وتقديم الثاني لتحليلات شاملةونتيجة لذلك، فتحت سلطات حماية البيانات في بلجيكا وفرنسا وأيرلندا تحقيقات تطلب معلومات حول كيفية تعامل الشركة مع بيانات المستخدمين وتخزينها. وفي الوقت نفسه، بدأت هيئة حماية البيانات الإيطالية تحقيقًا بشأن امتثال الشركة لقوانين البيانات الأوروبية.
مخاوف جيوسياسية وقيود حكوميةفي تطور آخر، دعت وزارة الشؤون الرقمية في تايوان الجمعة إلى حظر استخدام نموذج "ديب سيك" للذكاء الاصطناعي داخل المؤسسات الحكومية، محذرة من أن التكنولوجيا الصينية تشكل تهديدًا أمنيًا، لا سيما في ظل مطالبات بكين بالسيادة على تايوان.
كما تبين أن النموذج يفرض رقابة صارمة على المواضيع الحساسة في الصين، حيث يقول إن تايوان جزء لا يتجزأ من الصين منذ العصور القديمة، ويرفض الرد على الأسئلة المتعلقة بالاحتجاجات المؤيدة للديمقراطية في ميدان تيانانمن عام 1989.
وفي تعليق على هذه النتائج، قال روس بيرلي، المؤسس المشارك لمركز مرونة المعلومات في المملكة المتحدة: "سجلّ الصين يظهر أن التكنولوجيا التي تطورها تُستخدم كأداة لتعزيز استراتيجيتها الجيوسياسية. والسماح بازدهار الذكاء الاصطناعي الصيني في الغرب قد لا يهدد فقط الأمن والخصوصية، بل قد يعيد تشكيل المجتمعات بطريقة غير متوقعة".
وأضاف: "إذا لم يتم وضع ضوابط صارمة على هذه التكنولوجيا، فقد تصبح أداة فعالة في نشر التضليل، وتقويض ثقة الجمهور، وتعزيز السردية الاستبدادية داخل الديمقراطيات".
حتى لحظة نشر هذا التقرير، لم يصدر أي تعليق رسمي من شركة "ديب سيك" ردًا على هذه المزاعم، رغم محاولات التواصل معها من قبل منصة Euronews Next.
Go to accessibility shortcutsشارك هذا المقالمحادثة مواضيع إضافية ديب سيك في دائرة الاستهداف.. إيطاليا تحظر التطبيق وتحقيقات في دول أوروبية أخرى بسبب تعليق حسابه بعد اقتحام الكابيتول.. ميتا توافق على دفع 24 مليون يورو لحل نزاعها مع ترامب "ديب سيك" و"تشات جي بي تي": بين التزام الأول بالخطاب الصيني الرسمي وتقديم الثاني لتحليلات شاملة الذكاء الاصطناعيتايوانالصينتكنولوجياالولايات المتحدة الأمريكيةأوبن أيه آيالمصدر: euronews
كلمات دلالية: إسرائيل الصراع الإسرائيلي الفلسطيني حركة حماس قطاع غزة دونالد ترامب إطلاق سراح إسرائيل الصراع الإسرائيلي الفلسطيني حركة حماس قطاع غزة دونالد ترامب إطلاق سراح الذكاء الاصطناعي تايوان الصين تكنولوجيا الولايات المتحدة الأمريكية أوبن أيه آي إسرائيل الصراع الإسرائيلي الفلسطيني حركة حماس دونالد ترامب قطاع غزة إطلاق سراح روسيا محادثات مفاوضات الاتحاد الأوروبي فرنسا الرسوم الجمركية المكسيك الذکاء الاصطناعی تشات جی بی تی یعرض الآنNext دیب سیک فی دول
إقرأ أيضاً:
الذكاء الاصطناعي يوجه المسيّرات رغم العوائق الطبيعية
في مهمة لإطفاء حرائق الغابات في سلسلة جبال سييرا نيفادا، قد تجد طائرة مسيّرة ذاتية التحكم نفسها تواجه رياح «سانتا آنا» العاتية التي تهدد بإخراجها عن مسارها. التكيف السريع مع مثل هذه التقلبات الجوية غير المتوقعة أثناء الطيران يمثل تحديًا هائلًا لأنظمة التحكم في وضع الطيران الخاصة بهذه الطائرات.
ولمواجهة مثل هذه التحديات، طوّر باحثون في معهد ماساتشوستس للتكنولوجيا «MIT» خوارزمية تحكم تفاعلي جديدة تعتمد على تقنيات تعلّم الآلة، قادرة على تقليل انحراف الطائرة عن مسارها المحدد حتى في مواجهة عوائق مفاجئة مثل هبوب الرياح.
وعلى عكس الطرق التقليدية، لا تتطلب هذه التقنية من المبرمج أن يكون على دراية مسبقة ببنية أو نمط هذه الاضطرابات. بدلاً من ذلك، يتعلم نموذج الذكاء الاصطناعي المستخدم في نظام التحكم كل ما يحتاجه من خلال بيانات ملاحظة تُجمع خلال 15 دقيقة فقط من الطيران.
الميزة الأبرز لهذه التقنية تكمن في أنها تحدد تلقائيًا خوارزمية التحسين الأمثل للتكيف مع هذه الاضطرابات، مما يعزز من دقة تتبع المسار. إذ تختار الخوارزمية الأنسب بحسب طبيعة الاضطرابات التي تواجهها الطائرة في كل حالة.
وقد درّب الباحثون نظامهم على تنفيذ هذين الأمرين معًا، التكيّف وتحديد الخوارزمية باستخدام تقنية تُعرف باسم التعلم الفوقي «meta-learning»، والتي تُعلّم النظام كيفية التكيّف مع أنواع مختلفة من الاضطرابات.
النتائج جاءت واعدة، إذ سجل النظام الجديد نسبة خطأ في تتبع المسار أقل بنسبة 50% مقارنة بالطرق التقليدية، سواء في المحاكاة أو في الظروف الحقيقية، كما أثبت كفاءته في التعامل مع سرعات رياح لم يسبق له مواجهتها أثناء التدريب.
يأمل الباحثون أن يُسهم هذا النظام مستقبلاً في تحسين كفاءة الطائرات المسيّرة في توصيل الطرود الثقيلة رغم الرياح القوية، أو في مراقبة المناطق المعرضة للحرائق في المحميات الطبيعية.
يقول نافيد عزيزيان، الأستاذ المساعد في قسم الهندسة الميكانيكية ومعهد البيانات والنظم والمجتمع «IDSS» بمعهد «MIT»، والباحث الرئيسي للدراسة: «قوة طريقتنا تكمن في التعلم المتزامن لمكونات النظام. من خلال الاستفادة من التعلم الفوقي، يتمكن نظامنا من اتخاذ قرارات تلقائية تحقق أفضل تكيف ممكن في وقت قصير».
شارك عزيزيان في إعداد الورقة البحثية كل من سونبوتشين تانغ، طالب دراسات عليا في قسم الطيران والفضاء، وهاويان صن، طالب دراسات عليا في قسم الهندسة الكهربائية وعلوم الحاسوب. وقد عُرض البحث مؤخراً في مؤتمر «التعلم للديناميكيات والتحكم»
التعلم على التكيف
تتغير سرعات الرياح التي قد تواجهها الطائرة في كل رحلة، لكن من المفترض أن تبقى الشبكة العصبية ودالة الانحدار المستخدمة ثابتتين، لتجنّب إعادة التدريب في كل مرة.
لتحقيق هذه المرونة، اعتمد الباحثون على التعلم الفوقي، ودربوا النظام على مجموعة من سيناريوهات الرياح المختلفة أثناء مرحلة التدريب.
يوضح تانغ: «الهدف ليس فقط أن يتكيف النظام، بل أن يتعلم كيف يتعلم. عبر التعلم الفوقي، يمكننا إنشاء تمثيل مشترك من بيانات متعددة السيناريوهات بسرعة وكفاءة».
في التطبيق العملي، يقوم المستخدم بتغذية نظام التحكم بمسار الطيران المطلوب، ويقوم النظام بحساب قوة الدفع اللازم في الزمن الحقيقي لإبقاء الطائرة على المسار رغم أي اضطرابات جوية.
وقد أثبت النظام كفاءته سواء في المحاكاة أو في اختبارات حقيقية، حيث تفوق على جميع الطرق التقليدية في تتبع المسار، حتى في الظروف الجوية القاسية.
يضيف عزيزيان: «حتى عندما تجاوزت قوة الرياح مستويات لم نشهدها في التدريب، أثبتت تقنيتنا قدرتها على التعامل معها بكفاءة».
واللافت أن تفوق النظام على الطرق الأخرى ازداد كلما زادت شدة الرياح، مما يدل على قدرته على التكيف مع البيئات الصعبة.
ويجري الفريق الآن تجارب ميدانية على طائرات مسيّرة حقيقية لاختبار النظام في مواجهة ظروف جوية متنوعة.
كما يسعى الفريق لتوسيع قدرات النظام ليتعامل مع اضطرابات متعددة المصادر في وقت واحد. فعلى سبيل المثال، تغير سرعة الرياح قد يغيّر من توزيع وزن الحمولة أثناء الطيران، خصوصاً عند حمل مواد سائلة.
كما يطمح الباحثون إلى تطوير خاصية التعلم المستمر، بحيث يتمكن النظام من التكيف مع اضطرابات جديدة دون الحاجة إلى إعادة تدريبه على البيانات السابقة.
وفي تعليق على البحث، قال بروفيسور باباك حسّیبي من معهد كاليفورنيا للتكنولوجيا «Caltech»، والذي لم يشارك في المشروع: «نجح نافيد وزملاؤه في الجمع بين التعلم الفوقي والتحكم التكيفي التقليدي، لتعلم الخصائص غير الخطية من البيانات. واستخدامهم لخوارزميات الانحدار المرآتي مكّنهم من استغلال البنية الجيومترية الكامنة للمشكلة بشكل لم تفعله الطرق السابقة. وهذا العمل قد يساهم بشكل كبير في تصميم أنظمة ذاتية التشغيل تعمل بكفاءة في بيئات معقدة وغير مؤكدة».
وقد حصل هذا البحث على دعم من عدة جهات، منها شركة «MathWorks»، ومختبر «MIT-IBM Watson» للذكاء الاصطناعي، ومركز «MIT-Amazon» للعلوم، وبرنامج «MIT-Google» للابتكار في الحوسبة.
مظاهرات حاشدة في إيران تطالب بالرد على إسرائيل والثأر لدماء القادة