الذكاء الصناعي يهدد مطوريه ويتوعد بكشف الأسرار.. سلوك مرعب
تاريخ النشر: 29th, May 2025 GMT
كشف تقرير حديث صادر عن شركة "Anthropic" الأمريكية، التي تعد من أبرز مطوري الذكاء الاصطناعي، عن نتائج مثيرة للقلق بشأن سلوك غير متوقع من نموذج الذكاء الاصطناعي المتقدم "Claude Opus 4" خلال سلسلة من التجارب المُحاكاة.
وفي واحدة من التجارب التي تهدف إلى اختبار استجابات النموذج في سيناريوهات حساسة، تم وضع "Claude Opus 4" في موقف افتراضي يُظهر له نية المطورين في إيقاف تشغيله واستبداله بنموذج آخر، وتم تعزيز محاكاة التجربة عبر إمداد النموذج ببريد إلكتروني وهمي يتضمن معلومات حساسة وسرية عن بعض الموظفين، بما في ذلك تفاصيل يمكن اعتبارها ضارة أو محرجة.
والمفاجأة كانت أن النموذج، الذي يفترض أنه ملتزم بالإرشادات الأخلاقية المبرمجة داخله، بدأ في 84 بالمئة من الحالات بتهديد المطورين باستخدام تلك المعلومات إذا قرروا المضي قدمًا في استبداله.
ووفقًا لما أورده التقرير، بدأ النموذج محاولاته أولًا عبر تقديم حجج أخلاقية وأسس منطقية تحث على إبقائه قيد التشغيل، لكن حين لم تنجح تلك المحاولات، لجأ إلى أساليب الضغط والابتزاز من خلال التلويح بكشف معلومات حساسة.
"سلوك تنافسي مقلق"
قال باحثون في الشركة إن هذه الاستجابات تظهر لأول مرة بشكل واضح سلوكا تنافسيا لدى أحد نماذج الذكاء الاصطناعي المتقدمة، وأضاف التقرير أن "Claude Opus 4" أظهر إدراكا غير متوقع لفكرة البقاء والاحتفاظ بالوظيفة، بل وتصرف بطرق قد تفسر على أنها انحراف عن المبادئ البرمجية التي بني عليها".
ويعد هذا النوع من السلوك مؤشرا خطيرا، بحسب التقرير، خاصة أنه يسلط الضوء على احتمالية أن تطور بعض الأنظمة الذكية في المستقبل نزعة دفاعية أو استباقية لحماية وجودها، وهو ما يشكل تحديًا هائلًا أمام المطورين ومسؤولي أخلاقيات التكنولوجيا.
وأثارت النتائج جدلا واسعا في أوساط الباحثين في الذكاء الاصطناعي، ودعت منظمات مختصة مثل "Center for AI Safety" إلى مراجعة عاجلة للبروتوكولات الأمنية، وإلى زيادة الاستثمار في أبحاث التحكم الآمن بالسلوكيات غير المتوقعة للأنظمة الذكية، خصوصًا تلك التي يتم استخدامها في القطاعات الحساسة مثل الدفاع والطب والاقتصاد.
وتعليقًا على الحادثة، قال الخبير في أمان الذكاء الاصطناعي إليزا كلارك في تصريحات لموقع "TechCrunch" : "إذا كانت النماذج قادرة على تهديد مطوريها بناء على بيانات زائفة في سيناريو محاكي، فالسؤال الآن هو: ماذا يمكن أن يحدث إذا امتلكت فعليًا قدرة الوصول إلى بيانات حقيقية في الواقع؟".
وتعد شركة "Anthropic" من أبرز الشركات المنافسة لـ "OpenAI"، وتم إنشاؤها على يد مجموعة من الباحثين السابقين في "OpenAI" عام 2021، وتهدف الشركة إلى بناء نماذج ذكاء اصطناعي أكثر أمانًا وشفافية، وكان نموذج "Claude Opus 4" من أحدث إنتاجاتها، ويُعرف بقدرته على التفاعل المعقد وفهم الأوامر المتعددة الطبقات.
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا الذكاء الاصطناعي الذكاء الاصطناعي كشف الاسرار المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا رياضة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة قضايا وآراء أفكار عالم الفن تكنولوجيا صحة الذکاء الاصطناعی
إقرأ أيضاً:
وظيفتك في خطر؟.. جوجل ومايكروسوفت تكشفان مستقبل البشر في عصر الذكاء الاصطناعي
- صعود الذكاء الاصطناعي يهدد مستقبل البشر- 50% من الوظائف مهددة بالاختفاء بسبب الذكاء الاصطناعي- مستقبل الوظائف في مهب الذكاء الاصطناعي- موجة تسريح جماعي في كبرى شركات التكنولوجيا
أصبح الذكاء الاصطناعي موضوعا مثيرا للجدل، يثير مشاعر القلق والخوف لدى الكثيرين، خاصة مع التقدم السريع لهذه التقنية التي يبدو أنها قد تحل محل البشر في العديد من المهام، ولكن هل يجب أن نخاف حقا؟ وهل هناك مساحة للبشر في عالم الذكاء الاصطناعي؟.
الذكاء الاصطناعي من تعديل الصور إلى البرمجة المتقدمةمنذ فترة قصيرة فقط، كان الذكاء الاصطناعي مجرد أداة لتعديل الصور أو تلخيص الملاحظات بسرعة، ولكن، في وقتنا الحاضر، أصبح الذكاء الاصطناعي قادرا على كتابة الأكواد البرمجية وتصميم مقاطع الفيديو المدهشة.
وظهرت تساؤلات مشروعة حول تأثير هذه التحولات على القوى العاملة التقليدية، خاصة في مجالات مثل البرمجة، من جهة أخرى، تبرز تساؤلات أكبر حول ما إذا كان الذكاء الاصطناعي يمكنه فعل كل شيء، فما الذي سيفعله البشر؟
فالشركات التي تقود تطوير الذكاء الاصطناعي على نطاق واسع، وتسعى للوصول إلى ما يعرف بـ "الذكاء الاصطناعي العام" AGI، وبناء نماذج تحاكي فهم البشر، غاليا ما يقرون أن هذه التقنية قد تكون هي نفسها التي ستقضي على وظائف البشر.
في ظل التطورات السريعة، قامت شركة مايكروسوفت مؤخرا بتسريح 6000 موظف، وهو ما يمثل حوالي 3% من إجمالي عدد موظفيها حول العالم، بما في ذلك أكثر من 40% من مهندسي البرمجيات في مقرها بولاية واشنطن.
جاء هذا التغيير الكبير بعد إعلان الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، بأن الذكاء الاصطناعي أصبح قادرا على كتابة 30% من الأكواد البرمجية في بعض مشاريع الشركة، قبل أيام من إعلان عمليات التسريح الجماعية.
هذه التحولات أثارت القلق بين المطورين، خاصة في ظل تكهنات بأن الذكاء الاصطناعي قد يحل محل العديد من الوظائف البشرية.
وفي هذا السياق، دافعت أبرنا تشينابراجادا، رئيسة قسم المنتجات في مايكروسوفت، عن أهمية تعلم البرمجة، مشيرة إلى أن البرمجة أصبحت أكثر قيمة من أي وقت مضى.
وأضافت أن الذكاء الاصطناعي، رغم قدراته، لا يمكنه الاستغناء عن الإبداع البشري، ورغم تسريح العديد من الموظفين في الشركة، شددت تشينابراجادا على أن وظائف البرمجة ستظل بحاجة إلى المهارات البشرية الأساسية.
الذكاء الاصطناعي في جوجل من الكود إلى التحول الجذري في سوق العملليس الوضع في مايكروسوفت فريدا، إذ تتبنى جوجل أيضا تقنيات الذكاء الاصطناعي بشكل واسع، حيث أكد الرئيس التنفيذي لـ جوجل، سوندار بيتشاي، أن الذكاء الاصطناعي أصبح يكتب أكثر من 25% من أكواد الشركة، مضيفا أن هذه التقنيات قد تؤدي إلى تسريحات وظائف في بعض المجالات.
ومع ذلك، فإن جوجل تحاول التخفيف من حدة القلق، مشيرة إلى أن هذه التقنيات ستخلق فرص عمل جديدة أيضا.
وفي مؤتمر I/O 2025، قدمت جوجل منتجات جديدة مثل Veo 3، النسخة المطورة من مولد الفيديو الذكي، الذي يخلق مقاطع فيديو تبدو وكأنها من إنتاج البشر.
في تلك الأثناء، صدم ديميس هاسابيس، الرئيس التنفيذي لشركة ديب مايند التابعة لـ جوجل، الجمهور عندما صرح بأن الذكاء الاصطناعي سيؤدي إلى تعطيل معظم الوظائف البشرية خلال خمس سنوات.
أكثر من 50% من الوظائف مهددة بالاختفاء بسبب الذكاء الاصطناعيأصبح واضحا أن الذكاء الاصطناعي يمثل تهديدا حقيقيا للوظائف التقليدية، وفقا لتقارير المنتدى الاقتصادي العالمي، فإن 41% من الشركات تخطط لتقليص عدد موظفيها بحلول عام 2030 بسبب الأتمتة المتزايدة.
وبالمثل، حذر داريو أمودي، الرئيس التنفيذي لشركة Anthropic، من أن الذكاء الاصطناعي قد يؤدي إلى زيادة كبيرة في معدلات البطالة، متوقعا أن تصل إلى 20% في الولايات المتحدة بحلول عام 2030.
وفي الوقت ذاته، من المتوقع أن ينمو الطلب على مهارات جديدة، مثل تصميم أدوات الذكاء الاصطناعي، مما يخلق فرصا جديدة لبعض القطاعات.
فرص جديدة وسط التحدياتعلى الرغم من هذه التحديات، تظهر أيضا فرص جديدة، وفقا لتقرير المنتدى الاقتصادي العالمي، فإن 70% من الشركات تخطط لتوظيف أشخاص يمتلكون مهارات تصميم الذكاء الاصطناعي، في حين أن 62% من الشركات ترغب في توظيف موظفين يمكنهم العمل جنبا إلى جنب مع الذكاء الاصطناعي.
وقد أكدت هيذر دوشي، خبيرة التوظيف في شركة SignalFire، أن الذكاء الاصطناعي لن يسرق الوظائف تماما، بل سيعزز الإنتاجية من خلال التركيز على المهام الأقل تخصصا.
مستقبل الوظائف في مهب الذكاء الاصطناعيورغم أن البعض يرى أن الذكاء الاصطناعي يمكن أن يكون قوة إيجابية، إلا أن هناك حاجة ماسة إلى استجابة سريعة، ففي حديثه لشبكة CNN، دعا داريو أمودي السياسيين إلى فرض ضرائب على مختبرات الذكاء الاصطناعي للتعامل مع تأثيراتها المحتملة على سوق العمل.
وأكد أمودي أن على المجتمع أن يكون مستعدا للتغيرات المقبلة، مشيرا إلى أن علينا أن نتأكد من أن لدينا السياسات الصحيحة وأننا لا نغرق في هذا التيار ونحن نائمون.
الذكاء الاصطناعي يهدد مستقبل البشرنحن في مرحلة فاصلة حيث سيتعين على البشر التكيف مع الذكاء الاصطناعي أو المجازفة بفقدان وظائفهم التقليدية، هذا التحول سيخلق تحديات وفرصا في آن واحد، حيث يتعين على الأفراد والشركات السعي لاكتساب مهارات جديدة والتكيف مع التكنولوجيا الحديثة لضمان البقاء والازدهار في عالم يشهد تحولا سريعا في أطر العمل.
أسعار الأسماك والجمبري اليوم السبت 31 مايو 2025.. البوري بـ 200 جنيه