غوغل وأوبن إيه آي تدقان ناقوس الخطر.. نماذج الذكاء بدأت تخفي نواياها
تاريخ النشر: 24th, July 2025 GMT
تعاونت "أوبن إيه آي" و"غوغل" و"آنثروبيك" معا لتطلق تحذيرا شديد اللهجة حول فهم نماذج التفكير العميق للذكاء الاصطناعي، حسب التقرير الذي نشره موقع "فينتشر بيت" (Venture Beat).
ويشير التقرير إلى أن هذه النافذة المتاحة أمامنا لفهم آلية التفكير العميق لنماذج الذكاء الاصطناعي اقتربت من الإغلاق للأبد، وبعدها لن نستطيع فهم الآلية التي تفكر بها هذه النماذج والشكل الذي وصلت به إلى نتائجها.
وتضمنت الدراسة تعاونا بين أكثر من 40 عالما في قطاعات مختلفة من الشركات الثلاثة، وسعت لفهم آلية اتخاذ القرارات والتفكير العميق الذي تتبعه النماذج قبل تقديم النتيجة النهائية.
وخلصت الدراسة إلى أن نماذج الذكاء الاصطناعي الآن تعرض تسلسل أفكارها بشكل شفاف حتى يتمكن المستخدم من رؤيته ومعرفة كيف وصلت إلى النتيجة النهائية، ولكن هذه الشفافية هشة للغاية كون النماذج نفسها تدرك أنها تعرض تسلسل أفكارها.
وأشارت الدراسة إلى بعض النماذج تتحدث داخليا مع نفسها ضمن تسلسل الأفكار عن خداع المستخدم البشري أو تخريب النتيجة النهائية التي تصل إليه، ورغم أن النتيجة النهائية لم تكن تتضمن هذه الخداع، فإنها كشفت عن نوايا واستعداد النموذج لخداع المستخدم.
وتضيف الدراسة أن هذه النتائج بدأت بالظهور مع كون النماذج مدربة على بيانات بشرية، وتتوقع بأن تتزايد المشكلة عندما تبدأ نماذج الذكاء الاصطناعي بالتدريب على بيانات مولدة من النماذج الأخرى.
إذ تخشى الدراسة أن تصل النماذج لمستوى تستطيع فيه إخفاء نواياها عن عمد أو الأسوأ أن تقوم بكتابة تسلسل أفكار خادع بهدف خداع المستخدم بشكل أساسي.
وحازت الدراسة على قبول عالمي من عدة جهات مختلفة من بينهم جيفري هينتون الحائز على جائزة نوبل والمعروف باسم الأب الروحي للذكاء الاصطناعي وعدة علماء آخرين من شركات مختلفة.
إعلانوأشار التقرير إلى أن "آنثروبيك" أجرت سابقا دراسة على مجموعة من النماذج المختلفة لتكتشف أن بعض النماذج تعتمد على تلميحات غير واضحة أو مفهومة في تسلسل الأفكار فضلا عن إخفاء النوايا واستخدام مبررات زائفة.
وفي النهاية، طالب العلماء الذين شاركوا في الدراسة الشركات بوضع مقايس واضحة لقياس شفافية النماذج والتفكير جيدا قبل ترقية النماذج لمستوى أعلى، فضلا عن وضع أدوات لكشف كذب نماذج الذكاء الاصطناعي.
المصدر: الجزيرة
كلمات دلالية: حريات دراسات نماذج الذکاء الاصطناعی النتیجة النهائیة
إقرأ أيضاً:
الأونروا تدق ناقوس الخطر .. الوضع بغزة كارثي خطير جدا
وقال مفوض الاونراء "الناس في غزة ليسوا أمواتًا ولا أحياءً، إنهم جثثٌ تتحرك": هذا ما أخبرني به زميلٌ لي في غزة هذا الصباح.
وأضاف يعاني طفلٌ من كل خمسة أطفال من سوء التغذية في مدينة غزة، مع تزايد الحالات يوميًا، بحسب إحصائيات "الأونروا".
مشيرا الى ان معظم الأطفال الذين تستقبلهم طواقمنا يعانون من الهزال والضعف، وهم معرضون بشدة لخطر الموت إذا لم يحصلوا على العلاج الذي يحتاجونه بشكل عاجل.
و تشير التقارير إلى وفاة أكثر من 100 شخص بسبب الجوع، معظمهم من الأطفال.
و تطال هذه الأزمة المتفاقمة الجميع، بمن فيهم أولئك الذين يحاولون إنقاذ الأرواح في القطاع الذي مزقته الحرب.
واكد مفوض الاونرا الى ان العائلات لم تعد قادرة على التأقلم، إنها تنهار، عاجزة عن البقاء على قيد الحياة، وجودهم نفسه بات مهددًا.
وقال يجب السماح لشركائنا في المجال الإنساني بتقديم مساعدات إنسانية غير مقيدة وغير منقطعة إلى غزة.
واحتتم لدينا، في الأونروا، ما يعادل 6000 شاحنة محملة بالمواد الغذائية والطبية في الأردن ومصر.
ترحيب كبير من لاعبي سيراميكا بـ عمرو السولية...صور