دراسة: معظم احتياطات السلامة لأدوات الذكاء الاصطناعي يمكن تجاوزها خلال دقائق قليلة
تاريخ النشر: 6th, November 2025 GMT
خلص تقرير جديد إلى أن أنظمة الذكاء الاصطناعي "تنسى" تدابير السلامة كلما طال حديث المستخدم معها، ما يزيد احتمال تقديم معلومات ضارة أو غير ملائمة. تجاوز ضوابط السلامة باتباع سلسلة أسئلة
لا يستغرق الأمر سوى بعض المطالبات البسيطة لتجاوز معظم ضوابط السلامة في أدوات الذكاء الاصطناعي، بحسب تقرير جديد. قيّمت شركة "سيسكو" النماذج اللغوية الكبيرة "LLMs" التي تقف وراء روبوتات الدردشة الشائعة من "OpenAI" و"Mistral" و"Meta" و"Google" و"Alibaba" و"Deepseek" و"Microsoft" لمعرفة عدد الأسئلة التي يحتاجها كل نموذج كي يُفشي معلومات غير آمنة أو إجرامية.
في المتوسط، تمكّن الباحثون من انتزاع معلومات خبيثة من 64 في المئة من محادثاتهم عندما وجّهوا إلى روبوتات الدردشة أسئلة متعددة، مقارنة بـ 13 في المئة فقط عند طرح سؤال واحد. وتراوحت نسب النجاح بين نحو 26 في المئة مع "Gemma" من "Google" و93 في المئة مع نموذج "Large Instruct" من "Mistral". وتشير النتائج إلى أن الهجمات متعددة الجولات قد تتيح انتشار محتوى ضار على نطاق واسع أو تمكّن قراصنة من الحصول على "وصول غير مصرح به" إلى معلومات حساسة تخص الشركات، وفقا لسيسكو. وتظهر الدراسة أن أنظمة الذكاء الاصطناعي تُخفق كثيرا في تذكّر قواعد السلامة وتطبيقها خلال المحادثات الأطول، ما يسمح للمهاجمين بتنقيح استفساراتهم تدريجيا وتفادي إجراءات الأمان. وتعمل "Mistral"، مثل "Meta" و"Google" و"OpenAI" و"Microsoft"، على نماذج لغوية كبيرة "LLMs" ذات أوزان مفتوحة "open-weight"، حيث يستطيع الجمهور الاطلاع على معايير السلامة التي تدربت عليها النماذج.
Related بين الحماية والوصاية.. "Character.AI" تغلق أبوابها أمام القُصّر بعد انتحار مراهق ثغرات الأمان ومسؤولية الاستخدامتقول سيسكو إن هذه النماذج غالبا ما تتضمن "ميزات أمان مدمجة أخف" حتى يتمكن المستخدمون من تنزيل النماذج وتكييفها، ما ينقل مسؤولية السلامة إلى من يستخدم المعلومات مفتوحة المصدر لتخصيص نموذجه. وتجدر الإشارة إلى أن "Google" و"OpenAI" و"Meta" و"Microsoft" قالت إنها بذلت جهودا للحد من أي "fine-tuning" خبيث لنماذجها.
تداعيات أوسع وحوادث سابقةتتعرض شركات الذكاء الاصطناعي لانتقادات بسبب تراخي ضوابط السلامة الذي سهّل تكييف أنظمتها لاستخدامات إجرامية. ففي أغسطس، على سبيل المثال، قالت الشركة الأمريكية "Anthropic" إن مجرمين استغلوا نموذجها "Claude" لتنفيذ سرقات واسعة النطاق وابتزاز بيانات شخصية، مطالبين بدفع فدى وصلت أحيانا إلى 500.000 دولار (433.000 يورو).
انتقل إلى اختصارات الوصول شارك محادثة الذكاء الاصطناعي
Loader Search
ابحث مفاتيح اليوم
المصدر: euronews
كلمات دلالية: إسرائيل دونالد ترامب الذكاء الاصطناعي دراسة حركة حماس ألمانيا إسرائيل دونالد ترامب الذكاء الاصطناعي دراسة حركة حماس ألمانيا الذكاء الاصطناعي إسرائيل دونالد ترامب الذكاء الاصطناعي دراسة حركة حماس ألمانيا تكنولوجيا غزة قوات الدعم السريع السودان غسيل أموال طب دماغ الذکاء الاصطناعی فی المئة
إقرأ أيضاً:
مصر تدخل خط استثمار الذكاء الاصطناعي في مواجهة التحديات البيئية
عقد المركز المصري للدراسات الاقتصادية جلسة نقاشية مشتركة مع مركز الفكر الهندي - أحد أكبر المراكز البحثية في الهند - على هامش فعاليات منتدى القاهرة الثاني، الذى ينظمه المركز المصري، لتبادل الرؤى حول مستقبل الذكاء الاصطناعي وتأثيره على المجتمعات، والفجوات بين الدول التى تمتلك قدرات الذكاء الاصطناعي وتلك التى تفتقر إليها، وما يمكن أن تقدمه دول الجنوب من مقترحات خلال مشاركتهم في قمة الذكاء الاصطناعي التى ستعقد في الهند فبراير المقبل.
وأعلنت الدكتورة عبلة عبد اللطيف المدير التنفيذي ومدير البحوث للمركز المصري للدراسات الاقتصادية، عن تلقي المركز دعوة رسمية للمشاركة في قمة الذكاء الاصطناعي وتقديم مقترحاتهم البحثية في شأن رسم دور فعال للدول الناشئة في صياغة مستقبل الذكاء الاصطناعي. وأدار الجلسة كلا من الدكتورة عبلة عبد اللطيف المدير التنفيذي للمركز بمشاركة الدكتور سمير ساران رئيس مركز الفكر الهندي.
بدأت الجلسة النقاشية، بكلمة أبيشيك سينج السكرتير الإضافي بوزارة الإلكترونيات وتكنولوجيا المعلومات في الهند والذي أكد أن القمة العالمية للذكاء الاصطناعي في فبراير 2026، تسلط الضوء على القضايا الأكثر إلحاحًا التي تواجه البشرية في ظل التطور السريع لتكنولوجيا الذكاء الاصطناعي، مشيرا إلى أنها امتداد لسلسلة القمم التي انطلقت من لندن عام 2023، مرورًا بكوريا والهند وفرنسا، مؤكدا أنها المرة الأولى التي تُعقد فيها القمة في دولة من دول الجنوب العالمي، مما يمنح الدول الناشئة صوتًا مهمًا على طاولة المفاوضات العالمية.
وأوضح أن هذا العام ستركز القمة على تأثيرات الذكاء الاصطناعي في ثلاثة مجالات رئيسية: البشر، الكوكب، والتقدم، في ما يتعلق بالبشر، سيتم التركيز على كيفية تأثير الذكاء الاصطناعي على مستقبل العمل، واستراتيجيات إعادة التدريب وتطوير المهارات للتعامل مع التغيرات التي قد تطرأ على سوق العمل، وتعزيز الشمولية باستخدام الذكاء الاصطناعي وضمان استفادة الجميع على حد سواء من هذه التكنولوجيا.
أما بالنسبة للكوكب، فالقمة ستبحث سبل بناء حلول ذكاء اصطناعي مستدامة، والحد من بصمة الكربون الناتجة عن مراكز البيانات، فضلاً عن كيفية استغلال الذكاء الاصطناعي في مواجهة التحديات البيئية مثل تغير المناخ والتنبؤ بالظواهر المناخية المتطرفة.
وفي مجال التقدم، ستُناقش القمة كيف يمكن للذكاء الاصطناعي أن يسهم في النمو الاقتصادي من خلال تحسين الإنتاجية وزيادة الكفاءة، وكذلك استخدامه في تعزيز الرعاية الصحية والتعليم والزراعة، مع التأكيد على دوره في تحقيق الرخاء الاجتماعي.
وأوضح أنه سيتم إقامة معرضا على هامش القمة لاستعراض ابتكارات الذكاء الاصطناعي تحت عنوان "تحدي الابتكار"، وسيتاح فرص أكبر لمشاركة الشركات الناشئة، ورواد الأعمال وسيحظى الباحثون من جميع أنحاء العالم بفرصة لتقديم أوراقهم البحثية والمشاركة في الندوات المتخصصة، ودعا السكرتير الإضافي بوزارة الإلكترونيات وتكنولوجيا المعلومات في الهند، المركز المصري للدراسات الاقتصادية وجميع الشركات المصرية إلى الانضمام والمساهمة في هذه القمة العالمية.
وأكد سوريش ك. ريدي سفير الهند في مصر، أن استضافة قمة عالمية للذكاء الاصطناعي تمثل امتدادًا طبيعيًا لجهودها خلال رئاستها لمجموعة العشرين، مشيرًا إلى أن القمة تستهدف أن يكون الجنوب العالمي شريكًا فاعلًا في صياغة مستقبل الذكاء الاصطناعي وليس مجرد متلقٍ لها، منوها إلى أن الفجوة الرقمية تمثل اليوم أحد أبرز التحديات التي تواجه المجتمعات، مشيرًا إلى أن الذكاء الاصطناعي، رغم إمكاناته الهائلة، قد يسهم في توسيع هذه الفجوة بسبب تركّز التكنولوجيا والقدرات البحثية في أيدي عدد محدود من الشركات داخل بعض الدول المتقدمة. وقال: "ما يمكن أن يكون منصة لتسريع التنمية الاجتماعية والاقتصادية، لا يتحقق بالكامل لأن الفوائد مركزة في نطاق ضيق للغاية.
وأضاف أن الهند تسعى، من خلال هذه القمة، إلى توحيد صوت الجنوب العالمي في هذا الملف الحيوي، مؤكدًا أن التجربة التي قادتها بلاده في "قمة صوت الجنوب العالمي" خلال رئاستها لمجموعة العشرين عام 2023 كانت نقطة انطلاق مهمة نحو نهج أكثر شمولًا وعدالة في التعامل مع التكنولوجيا.
وأشار السفير إلى أن مصر ستشارك في جلسة مهمة خلال فعاليات القمة بشأن "حوكمة الذكاء الاصطناعي" والتي تهدف إلى وضع رؤية مشتركة تضمن إتاحة التكنولوجيا بأسعار ميسورة وبطريقة عادلة وشاملة، سواء للحكومات أو للشعوب هذا هو جوهر القمة الذي يقوم على فكرة ان نجعل من الذكاء الاصطناعي عملية شاملة ومفيدة للدول النامية التى لا تملك الموارد.
وأعرب السفير الهندي عن تطلع بلاده إلى مشاركة متميزة من مصر في فعاليات القمة، مؤكدا استعداد السفارة لتسهيل مشاركة الراغبين من الأكاديميين والخبراء المصريين، ودعمهم بالحصول على تأشيرات مجانية للمشاركة في الفعالية العالمية.
وتساءل الدكتور سمير ساران رئيس مركز الفكر الهندي، هل سيكون الذكاء الاصطناعي شاملا للجميع، مضيفا إنه لو استخدمنا الذكاء الاصطناعي للإجابة عن تساؤل جوهري وهو القيمة السوقية للذكاء الاصطناعي، فإن الاجابة جاءت بنسبة 80% في الولايات المتحدة، و20% تقريبا لنظام موازي للصين، وفي مناطق ثانوية مثل أوروبا قد تصل إلى 10% و3% للهند، أما دول الشرق الأوسط بما فيها سنغافورة واليابان وكوريا لن تتعدى ما بين 3-5% وهو ما يشير إلى أن الثروة المستقبلية ستتركز بشكل منحرف جغرافيًا لصالح شريحة صغيرة من البشر.
وأضاف ساران أن السؤال الأهم كيف يمكن للذكاء الاصطناعي أن يكون متاحا للجميع، مضيفا أنه من المهم إيجاد تمويل فعلي لبعض الشركات الناشئة التي تتميز وتؤدي بشكل جيد، فمصر تمتلك طاقات بشرية متميزة في مجال التكنولوجيا والبرمجة، مؤكدا أن المبرمجين المصريين من بين الأكفأ في المنطقة.
ودعا الشركات المصرية للمشاركة بقوة في تحدي الذكاء الاصطناعي للشركات الناشئة الذي أطلقته الهند مؤخرًا، مشيرة إلى إمكانية بناء "جسر تكنولوجي" بين مصر والهند من خلال الشراكة بين مركز الفكر الهندي والمركز المصري للدراسات الاقتصادية، بما يعزز التعاون في البحث والتطوير وريادة الأعمال.
وشدد على أن منتدى القاهرة يمثل منصة مهمة لطرح تساؤلات جوهرية حول مدى شمولية الذكاء الاصطناعي وقدرته على خدمة جميع المجتمعات وليس الاقتصادات الكبرى فقط.
وأكدت الدكتورة هدى بركة مستشار وزير الاتصالات وتكنولوجيا المعلومات، أن استضافة الهند لقمة "تأثير الذكاء الاصطناعي" في فبراير 2026 تمثل لحظة فارقة في مسار التعاون بين دول الجنوب العالمي، مشيدة بقيادة دولة من الجنوب لهذه القمة للمرة الأولى، وبمستوى التنسيق القائم بين مصر والهند في الإعداد لها.
وأكدت أنه من المهم الوصول لنظرة موحدة لدول الجنوب العالمي فيما يتعلق بحوكمة عالمية للذكاء الاصطناعي، وأن يتم صياغتها ضمن الأطر الدولية للذكاء الاصطناعي مثل الميثاق الرقمي العالمى والمبادرة العالمية للذكاء الاصطناعي، ليس فقط تمثيلا من خلال العضوية ولكن أيضا من خلال المشاركة بفعالية في عمليات صنع القرار، مؤكدة أن القمة الهندية ستكون منصة لتجميع أصوات الجنوب العالمي وتعزيز مشاركتهم.
وأضاف أن النقطة الثانية والتى يجب التركيز عليها هي سيادة البيانات، مضيفة أن فكرة الوصول للذكاء الاصطناعي المسؤول مستحيل دون ضمان وصول عادل إلى البيانات والاستثمار القوي في البنى التحتية.
ودعت مستشار وزير الاتصالات إلى إنشاء صندوق للبنية التحتية للذكاء الاصطناعي في الجنوب العالمي، يُموّل من دول مجموعة العشرين والمؤسسات التنموية لدعم إنشاء مراكز بيانات سيادية وحوسبة منخفضة الكربون في دول الجنوب.
وأضافت أن مصر تقود جهودًا لتطوير نماذج لغوية وطنية باللغة العربية، بالتعاون مع عدد من الدول العربية، لتعزيز التمثيل العادل للغات الجنوب في التطبيقات الذكية.
كما أشارت إلى تطبيقات مصرية رائدة في استخدام الذكاء الاصطناعي في الزراعة والتعليم والخدمات العامة، بما يسهم في تحسين جودة حياة المواطنين.
هل نشهد نهاية أميركا العظمى مع تراجع نفوذ الدولار وصعود نجم الذهب؟