تطوير برنامج حماية للذكاء الاصطناعي من الاختراق
تاريخ النشر: 4th, February 2025 GMT
أعلنت شركة "أنثروبيك" عن تطوير نظام جديد يمكنه حماية نماذج الذكاء الاصطناعي من محاولات كسر حواجز الحماية (جيل بريك).
وفي التقنية الجديدة يمكن كشف محاولة كسر الحماية على مستوى الإدخال ومنع الذكاء الاصطناعي من توليد استجابة ضارة نتيجة لذلك، واختبرت شركة الذكاء الاصطناعي قوة النظام من خلال برامج كسر الحماية المستقلة وفتحت أيضا عرضا توضيحياً حياً مؤقتاً للنظام للسماح لأي فرد مهتم باختبار قدراته، وفق "غادجيت 360".
ويُطلق على هذا النظام اسم Dubbed Constitutional Classifiers ، وهي عبارة عن تقنية حماية يمكنها اكتشاف محاولات الاختراق.
ويشير "كسر الحماية في الذكاء الاصطناعي التوليدي"، إلى تقنيات الكتابة السريعة غير العادية التي يمكن أن تجبر نموذج الذكاء الاصطناعي على عدم الالتزام بإرشادات التدريب الخاصة به وإنشاء محتوى ضار وغير مناسب.
وكسر الحماية ليس شيئاً جديداً، ويطبق معظم مطوري الذكاء الاصطناعي العديد من الضمانات ضده داخل النموذج، غير أنه، ونظراً لأن مهندسي كسر الحماية يواصلون إنشاء تقنيات جديدة، فمن الصعب بناء نموذج لغوي كبير (LLM) محمي تماماً من مثل هذه الهجمات.
وتتضمن بعض تقنيات كسر الحماية مطالبات طويلة للغاية ومعقدة تربك قدرات الذكاء الاصطناعي على التفكير.
ويستخدم البعض الآخر مطالبات متعددة لكسر الضمانات، ويستخدم البعض حتى أحرفاً كبيرة غير عادية لاختراق دفاعات الذكاء الاصطناعي.
وفي منشور يفصل البحث، أعلنت شركة أنثروبيك أنها تعمل على تطوير برنامج كطبقة واقية لنماذج الذكاء الاصطناعي.
وعلاوة على ذلك، أثناء اختبار التقييم الآلي، حيث جربت شركة الذكاء الاصطناعي Claude باستخدام 10000 مطالبة لكسر الحماية، ووجد أن معدل النجاح كان 4.4 بالمائة، مقابل 86 بالمائة لنموذج الذكاء الاصطناعي غير المحمي، وتمكنت أنثروبيك أيضاً من تقليل الرفض المفرط (رفض الاستعلامات غير الضارة) ومتطلبات قوة المعالجة الإضافية للبرنامج الجديد.
المصدر: موقع 24
كلمات دلالية: عام المجتمع اتفاق غزة سقوط الأسد عودة ترامب إيران وإسرائيل غزة وإسرائيل الإمارات الحرب الأوكرانية الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
هل يوجد الذكاء الاصطناعي جيلا مسلوب المهارات؟
منذ أن دخل الذكاء الاصطناعي أجهزة الطلبة، ارتفع الاعتماد عليه في شتى مجالات الحياة، وأصبح يخترق أجهزة الطلبة والأكاديميين والعامة، فقد أشار تقرير الوظائف الصادر في مايو من العام الفائت إلى حاجة ماسة لإعادة تشكيل المهارات والقدرات التي تراجعت بنسبة كبيرة عند الناس بسبب اعتمادهم على تقنيات الذكاء الاصطناعي، الأمر الذي يكشف ضرورة ملحة لإعادة تشكيل وتطوير المهارات بما يخدم الإنسان ومجتمعه.
يكرر أغلب الطلبة الضغوطات والصعوبات الدراسية كمبررات لاستعمال هذه التقنيات، لأنهم ينتقلون من نظام تعليمي إلى نظام مختلف من حيث المناهج وطرق المذاكرة والاحتياج إلى مهارات مختلفة في البحث والتفكير واستيعاب المادة العلمية فيلجأ الكثير منهم للذكاء الاصطناعي لمساعدتهم في إنجاز الأعمال وتوليد الأفكار، على الجانب الأخر يعتمد الخريجون على الذكاء الاصطناعي بسبب الضغط الدراسي الهائل بحكم ضيق الوقت لديهم ويباشرون من تلك اللحظة فقدان بعض مهاراتهم قبل إقبالهم على الحياة خارج الجامعة سواء الحياة الوظيفية أو العامة.
لقد اجتاحت نماذج الذكاء الاصطناعي حياة الطلبة، وأصبحوا يعتمدون عليها في كثير من جوانب حياتهم، فهي قادرة على توفير إجابات للتساؤلات التي تخطر في أذهانهم، وعلى صعيد آخر تتيح هذه المنصات إمكانية كتابة المقالات وترجمتها وتلخيصها، وغيرها من الإمكانيات التي تخدم الطلبة في مقاعد الدراسة، كما أن المناهج الدراسية الثقيلة وكثرة المواد والاختبارات تسبب ضغطًا كبيرًا، فيلجؤون لهذه التقنيات لتحقيق درجات عالية أو إنجاز أعمالهم على أقل تقدير، وفي سؤالي لمجموعة من طلبة الجامعة عن دوافع استعمال الذكاء الاصطناعي قالوا: لتوفير الوقت والجهد فهو يقدّم نتائج سريعة ومباشرة، يطرح ذلك إشكالاً في مدى رغبة الناس في بذل جهد للتعلم والبحث وتخصيص الوقت لذلك؟
يعتمد الطلاب على الذكاء الاصطناعي لإنجاز المهام دون بذل الجهد الكافي لفهمها ولها تأثير على المهارات الأساسية فتقلّ القدرة على البحث وتحليل المعلومات عند الاعتماد المفرط على الذكاء الاصطناعي، وإذا اعتمد الطلاب فقط على الذكاء الاصطناعي لإيجاد الحلول، فقد يؤدي ذلك إلى تقليل قدرة الطالب على التفكير المستقل والتفكير النقدي، ويحث المختصون على منع استخدام الذكاء الاصطناعي في بعض المجالات التي تحرم المستخدمين من فرص تطوير القدرات المعرفية والاجتماعية.
أصبح تحسين المهارات والتعلم لدى الطلبة أكثر أهمية اليوم، مثل تلك المهارات التي لا يمكن للذكاء الاصطناعي تطويرها كالتفكير التحليلي والتعاطف والاستماع النشط والقيادة والتأثير الاجتماعي، إن اكتساب المعلمين المهارات اللازمة لدمج الذكاء الاصطناعي في أساليب التدريس الخاصة بهم بشكل فعال عمل لا بد من القيام به، ويتطلب سد هذه الفجوة برامج تطوير مهني شاملة لضمان راحة المعلمين وكفاءتهم في استخدام تقنيات الذكاء الاصطناعي بما يتوافق مع متطلبات العصر دون التأثير السلبي على مهارات الجيل القادم.
يستعمل الطلبة الذكاء الاصطناعي إذا ما تبادر أي سؤال في ذهنهم وهذا يقلص من الاستعانة بالكتب العلمية الموثقة وأخذ المعلومة منها، وأشار مجموعة من طلبة الطب إلى أن تقنيات الذكاء الاصطناعي في كثير من الأحيان تقدم معلومات خاطئة خاصة في الأسئلة الطبية الدقيقة أو العلمية بشكل عام، وينصح المختصون بضرورة الموازنة بين التقنية والكتب من خلال توعية الطلبة بضرورة البحث عن المعلومات من الكتب الموثّقة وخاصة المعلومات العلمية والثقافية والتاريخية. لابد أن تكون هذه التقنيات أدوات مساعدة فهي لا تؤدي دور الباحث أبدا، بالإضافة أن النتائج التي تقدمها قد تظهر تحيزات سياسة أو أخطاء علمية لأنها مبرمجة وفق أنظمة معينة.
من جهة أخرى، يحذر المختصون من اعتماد الطلاب الشديد على تقنيات الذكاء الاصطناعي لأنه ينتج عنها قلة المشاركة في الأنشطة البدنية والمهارية والعائلية، وزيادة الشعور بالعزلة والانطواء والإفراط في استخدام هذه الأدوات قد يؤدي إلى العزلة الاجتماعية وضعف مهارات التواصل البشري، فمثلا تؤدي تقنيات الذكاء الاصطناعي إلى تقليل الوقت الذي يقضيه المعلم مع الطلاب، مما يؤثر على العلاقة التعليمية، ويعتاد الطلاب على التفاعل مع الأنظمة الذكية بدلاً من المعلمين البشر، مما يضعف مهاراتهم في التواصل البشري.
يحتاج العالم اليوم إلى طاقات شبابية مزودة بالمهارات والمعارف وهي ضرورة ملحة تفرضها التحديات المتسارعة التي يشهدها العالم في مختلف المجالات. والشباب هم القوة الدافعة وراء الابتكار والإبداع والآلة ليست سوى وسيلة مساعدة تخدم الشباب في سبيل التغيير الإيجابي.
إجلاء جوي عاجل ينقذ حاجًا عراقيًا من أزمة قلبية حادة