خطر جديد في عالم التقنية: كيف يُصاب الذكاء الاصطناعي بـ”التسمم”؟!
تاريخ النشر: 25th, October 2025 GMT
#سواليف
عادة ما تُرتبط كلمة ” #تسمم ” بصحة الإنسان أو بالبيئة، غير أن هذا المصطلح بدأ في الآونة الأخيرة يتردد بشكل متزايد في سياق #التكنولوجيا الرقمية.
المقصود هنا هو “تسمم” #الذكاء_الاصطناعي، وهو تهديد جديد وخفي قد يقوّض الثقة في #الخوارزميات_الذكية. وأظهرت أبحاث حديثة أن هذا الخطر واقعي؛ فقد وجد علماء من المعهد البريطاني لأمن الذكاء الاصطناعي ومعهد “آلان تورينج” وشركة Anthropic أن المتسللين قادرون — لخنق نموذج لغوي كبير مثل ChatGPT أو Claude — على إحداث تأثير خفي عبر إدخال نحو 250 مثالا ضارا فقط ضمن ملايين الأسطر من بيانات التدريب.
ما هو تسمم الذكاء الاصطناعي؟
مقالات ذات صلةهو تدريب متعمَّد لشبكات عصبية على أمثلة خاطئة أو مضللة بهدف تشويه معرفتها أو سلوكها. والنتيجة أن النموذج يبدأ في ارتكاب أخطاء، أو ينفذ أوامر ضارة بطريقة ظاهرة أو سرّية.
يُميّز الخبراء نوعين رئيسيين من الهجمات:
هجمات مُستهدفة (باب خلفي): تهدف إلى إجبار النموذج على الاستجابة بطريقة محددة عند وجود محفز سري؛ مثلا “حقن” أمر خفي يجعل النموذج يرد بإهانة عند ظهور كلمة نادرة في الاستعلام مثل alimir123. قد تبدو الإجابة طبيعية عند الاستعلام العادي، لكنها تتحول إلى مسيئة عند إدخال المحفز. ويمكن للمهاجمين نشر هذا المحفز على مواقع أو وسائل تواصل لتفعيله لاحقا.
هجمات غير مباشرة (تسميم المحتوى): لا تعتمد على محفزات خفية بقدر اعتمادها على ملء بيانات التدريب بمعلومات زائفة. نظراً لاعتماد النماذج على كميات هائلة من المحتوى المتاح على الإنترنت، يستطيع المهاجم إنشاء مواقع ومصادر متعددة تروّج لمعلومة خاطئة (مثلاً: “سلطة الخضار تعالج السرطان”)؛ وإذا استُخدمت هذه المصادر في التدريب، فسيبدأ النموذج بتكرار تلك الأكاذيب بصفتها حقائق.
ما مدى خطورة ذلك عمليا؟
الأدلة التجريبية تؤكد أن تسميم البيانات ليس مجرد سيناريو افتراضي: في تجربة أجريت في يناير الماضي، أدى استبدال 0.001% فقط من بيانات التدريب بمعلومات طبية مضللة إلى أن النموذج صار يُقدّم نصائح خاطئة في سياق اختبارات طبية نموذجية. هذا يبيّن قدرة الهجمات الصغيرة والمُحكمة على إحداث أضرار كبيرة تُؤثر على سلامة المخرجات وثقة المستخدمين.
المصدر
المصدر: سواليف
كلمات دلالية: سواليف تسمم التكنولوجيا الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
ترامب يوقع أمرا تنفيذيا بشأن تقوية أسس الذكاء الاصطناعي في البلاد
تابع أحدث الأخبار عبر تطبيق
وقع الرئيس الأمريكي، دونالد ترامب، الثلاثاء، أمرا تنفيذيا بشأن إرساء الأسس لاختبارات فيدرالية لـ"أقوى أنظمة الذكاء الاصطناعي في العالم قبل طرحها للجمهور".
ويُوجّه الأمر، الذي وُقّع سرًا، حسب وصف شبكة "إن بي سي نيوز" الإخبارية الأمريكية، الوكالات الفيدرالية - بما فيها وزارة الحرب "البنتاجون" ووزارة الخزانة ووكالة الأمن السيبراني وأمن البنية التحتية - إلى تعزيز دفاعات الأمن السيبراني للبنية التحتية الحيوية في البلاد، ويرسم آليةً للحكومة الفيدرالية لاختبار أنظمة الذكاء الاصطناعي الأقوى والتحقق من سلامتها قبل نشرها.
ويعتمد هذا الاختبار، حسب "إن بي سي نيوز" الإخبارية، على التعاون الطوعي من كبرى شركات الذكاء الاصطناعي الأمريكية، مثل أنثروبيك وأوبن إيه آي وجوجل، كما يمنع الأمر صراحةً الحكومة من فرض ترخيص إلزامي أو موافقة مسبقة على نماذج الذكاء الاصطناعي الجديدة، ما يجعل هذه الخطوة طلبًا لا قانونا.
يأتي الأمر التنفيذي الجديد في إطار تصاعد الاهتمام الأمريكي بتنظيم قطاع الذكاء الاصطناعي، مع تسارع تطوير النماذج المتقدمة التي باتت قادرة على أداء مهام معقدة في مجالات الأمن السيبراني والتحليل والبرمجة وصناعة المحتوى، ما أثار نقاشات واسعة داخل دوائر صنع القرار في واشنطن بشأن مخاطر الاستخدام غير المنضبط لهذه التقنيات.
وخلال السنوات الأخيرة، تحولت الولايات المتحدة إلى مركز رئيسي لتطوير أنظمة الذكاء الاصطناعي، تقودها شركات كبرى مثل "أوبن إيه آي" و"جوجل" و"أنثروبيك"، وسط منافسة عالمية متزايدة مع الصين ودول أخرى تسعى لتوسيع حضورها في هذا القطاع الاستراتيجي. وقد دفع هذا التسارع الحكومة الأمريكية إلى البحث عن أدوات توازن بين دعم الابتكار وضمان الأمن القومي.
محللون يشرحون دلالات الظهور الدولي الأول لوزير الدفاع الأفغاني بموسكو