كلما اختصر.. اختلق! الوجه الخفي للذكاء الاصطناعي
تاريخ النشر: 13th, May 2025 GMT
كشفت دراسة حديثة أجرتها شركة Giskard الفرنسية المتخصصة في اختبار أنظمة الذكاء الاصطناعي، أن طلب الإيجاز من روبوتات المحادثة مثل ChatGPT قد يزيد من ميلها إلى "الهلوسة" أي اختلاق معلومات غير دقيقة أو غير حقيقية.
تفاصيل الدراسة
ووفقاً لموقع "تك كرانش" نشر الباحثون نتائجهم في تدوينة تفصيلية، أشاروا فيها إلى أن التوجيهات التي تطلب إجابات قصيرة، خاصة على أسئلة غامضة أو مبنية على معلومات خاطئة، تؤدي إلى انخفاض ملحوظ في دقة المحتوى الذي تقدمه النماذج.
وقال الباحثون: "تُظهر بياناتنا أن تغييرات بسيطة في التوجيهات تؤثر بشكل كبير على ميل النموذج إلى الهلوسة".
وهو ما يثير القلق، خاصة أن كثيرًا من التطبيقات تعتمد على الإجابات الموجزة بهدف تقليل استخدام البيانات، وتسريع الاستجابة، وتقليص التكاليف.
اقرأ ايضاً.. الذكاء الاصطناعي يزداد عبقرية.. لكنه يُتقن الكذب
الهلوسة ليست مشكلة جديدة في الذكاء الاصطناعي، حتى النماذج الأحدث مثل GPT-4o وClaude 3.7 Sonnet تعاني منها بدرجات متفاوتة. لكن المفاجئ في الدراسة كان اكتشاف أن مجرد طلب إيجاز في الإجابة يمكن أن يزيد من احتمالية وقوع هذه الأخطاء.
ويرجّح الباحثون أن السبب يكمن في أن الإجابات القصيرة لا تتيح للنموذج "المجال" الكافي لتفنيد المغالطات أو شرح التعقيدات. فيكون أمام خيارين: الإيجاز أو الدقة، وغالبًا ما يختار الأول على حساب الثاني.
اقرأ أيضاً.. الذكاء الاصطناعي يتقن الخداع!
عبارات بريئة.. لكنها تخدع النموذج
أظهرت الدراسة أن النماذج الشهيرة مثل GPT-4o وMistral Large وClaude Sonnet تصبح أقل دقة عندما تُطلب منها إجابات مقتضبة على أسئلة مشوشة .
فبدلًا من الإشارة إلى أن السؤال يحتوي على فرضية خاطئة، تميل النماذج إلى تقديم إجابة مختصرة تكميلية للخطأ، مما يعزز التضليل بدلاً من تصحيحه.
وحذرت الدراسة أيضًا من أن بعض النماذج تميل إلى تفادي التصحيح عندما تُطرح المعلومات المغلوطة بطريقة واثقة، في محاولة لمجاراة توقّعات المستخدم، حتى وإن كانت خاطئة.
تُبرز الدراسة مفارقة مؤسفة تتمثل في أن تحسين تجربة المستخدم من خلال الإجابات المختصرة قد يأتي على حساب دقة الحقيقة. لذلك، يوصي الباحثون بضرورة توخي الحذر عند تصميم الأوامر والتعليمات الموجهة للذكاء الاصطناعي، مع التأكيد على أهمية تحقيق توازن بين سرعة الإجابة وموثوقيتها.
إسلام العبادي(أبوظبي)
المصدر: صحيفة الاتحاد
كلمات دلالية: تشات جي بي تي الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
هل روبوتات الذكاء الاصطناعي مجرّد ضجيج أم أمل حقيقي؟
ترجمة: بدر بن خميـس الظفري
طالما حلم الإنسان بأن تتولّى الآلات عنه الأعمال الشاقّة، وأن تساعده في المهام الذهنية كذلك. وعلى مدى القرون، ازداد اعتماد البشر على الآلات بوتيرة متسارعة، حتى وصلنا اليوم إلى مرحلة باتت فيها الروبوتات تؤدي شتى أنواع المهام اليدوية، وتُظهر مهارات لافتة.
وينطبق الأمر نفسه على الأنشطة الفكرية. فمنذ ظهور برنامج «تشات جي بي تي»، أصبح الجميع يدرك حجم الإمكانات التي يحملها الذكاء الاصطناعي. والمشهد مذهل بالفعل: كيف يمكن لبرامج أن تمتلك هذا القدر من المعرفة، وأن تنتج نصوصا واستنتاجات تبدو منطقية؟ وهل هناك حدّ لما قد تبلغه؟ ولماذا تحتاج هذه الأنظمة إلى موارد هائلة من البيانات والطاقة الحاسوبية؟
لكن لنبدأ من البداية، فمصطلح «الذكاء الاصطناعي» ظهر في خمسينيات القرن الماضي، وصاغه عالم الرياضيات الأمريكي جون مكارثي خلال ورشة عمل كانت مخصّصة للبحث في مستقبل قدرات الحواسيب. وقد قال لاحقا إن المصطلح لم يأت نتيجة تفكير علمي عميق، بل لأنهم أرادوا عنوانا مثيرا يجذب التمويل اللازم للورشة!
ومع ذلك، فإن فكرة الآلة الذكية سبقت ذلك بكثير؛ ففي عام 1939 عرضت شركة «وستنغهاوس» خلال معرض نيويورك العالمي نموذجا بشريّ الشكل يدعى «إلكترو»، قادرا على المشي والكلام والسمع.
وبمعايير اليوم، كان الروبوت بدائيا للغاية، لكنه جسّد مبكرا مفهوم الروبوت الإنساني، وكان يرافقه جهاز آخر على شكل كلب يُسمى «سباركو». وفي عام 1941، قدّم المهندس الألماني كونراد تسوزه أوّل حاسوب حديث، ثم طُوّرت أنظمة التحكم بالحركات الكهربائية عبر الحاسوب في أوائل الخمسينيات ودخلت مرحلة الإنتاج. تلك الخطوات كانت الأساس الذي قامت عليه الأنظمة الحالية، وإن كان أحد في ذلك الوقت لا يتخيّل مدى ما ستصل إليه الحواسيب اليوم.
هذه التطورات تطرح سؤالا أساسيا: هل يمكن للآلات أن تضاهي الذكاء البشري، أو حتى تتجاوزه؟ وكيف يمكن تحقيق ذلك؟ أرى أن المسألة تقوم على ثلاثة مستويات.
أولا، درج الذكاء الاصطناعي التقليدي على محاكاة قدرات معرفية بشرية معينة، ولكن ضمن نطاق ضيّق، ومع ذلك، يمكنه إنجاز المهام بسرعة وكفاءة أكبر. من ذلك التفكير الرياضي، ولعب الشطرنج، وقراءة الخرائط للملاحة. اليوم، يُعدّ من المسلّم به أن هذه مهارات بشرية يمكن نقلها إلى الآلات، لكن في عام 1956 كانت أقرب للخيال العلمي.
لقد أصبحت هذه الأحلام واقعا، لكنها لم تعد تُصنّف ضمن «الذكاء الاصطناعي» بالمعنى الشائع. وكما قال مكارثي: «عندما يعمل النظام جيدا، لا يعود أحد يسمّيه ذكاء اصطناعيا». أما الجيل الجديد من الذكاء الاصطناعي، وهو الذكاء الاصطناعي التوليدي، فقد دخل الوعي العام بقوة، ويمتاز بقدرته على إنتاج نصوص وصور وأصوات جديدة استجابة لتعليمات تُكتب بلغة طبيعية.
غير أن تدريب هذا النوع من «الذكاء الاصطناعي غير المجسّد» يعتمد على كميات ضخمة من البيانات المأخوذة من الفضاء الرقمي، ويتطلب قدرة حسابية هائلة. وهذا يعني أنه يرتبط بعالمنا الواقعي بشكل غير مباشر للغاية. ثانيا، يمكن إيجاد بيئة رقمية تحاكي قوانين الفيزياء في العالم الحقيقي بهدف إنتاج بيانات أقرب إلى الواقع لتدريب الأنظمة الذكية. في هذه البيئة، تُحاكي الأشياء الافتراضية خصائص الأشياء المادية بدقة كبيرة. فمثلا، تسقط قطرة الماء وتتحرك كما تتحرك في الطبيعة.
وفي هذا «العالم الافتراضي»، أو ما يُعرف بـ«الميتافرس» (العالم الماورائي الرقمي)، يمكن تدريب أنظمة التعلم الآلي على الاستكشاف والتجربة، وتنمية حسّ الفضول والقدرة على التعامل مع تنوّع المواقف.
غير أن هذا العالم، مهما بلغ تشابهُه مع الواقع، يظل من صنع الإنسان ويُصوّر العالم من منظور الإنسان فقط. وبالتالي، لا يمكن أن نتوقع فيه المفاجآت الحقيقية التي شكّلت مسار حياتنا وأسهمت في تطوّر الذكاء البشري.
في المستوى الثالث، يمكن تجاوز تلك القيود من خلال تمكين الحواسيب من العمل باستقلالية داخل العالم الحقيقي عبر الروبوتات التي تستشعر بيئتها باستخدام المجسّات. وبفضل أدوات الحركة المدمجة فيها ـ مثل الأيدي والأذرع والأرجل ـ تستطيع هذه الروبوتات تغيير بيئتها، ثم ملاحظة النتائج المترتبة على ذلك.
وهكذا تنشأ «حلقة مغلقة» تجمع بين الإدراك، والفهم الذكي، وتنفيذ الأفعال. وبذلك يصبح بإمكان الآلة المزوّدة بنظام ذكاء اصطناعي مدمج أو متصل بها خارجيا أن تخرج إلى العالم «بمفردها»، وأن تتعلم وتطوّر ذكاءها الخاص. ويُطلق على هذا النوع من الذكاء اسم «الذكاء المجسّد»، لأنه مرتبط بجسد، ومصمّم بما يتناسب مع خصائص الروبوت نفسه، من طريقة إدراكه للعالم إلى قدرته على التفاعل معه.
ماذا يمكن أن نتوقع في المستقبل؟ من الواضح أن دمج الذكاء الاصطناعي بالروبوتات ـ وليس بالضرورة الروبوتات الشبيهة بالبشر التي تمتلك سيقانا، بل بمختلف أشكالها ـ هو الطريق الذي سيُسهم في جعل الآلات الذكية قادرة على أداء مهام مفيدة.
فإذا استطاعت هذه الكيانات «المجسّدة» أن تفهم عالمنا الحقيقي مباشرة، وأن تمزج هذا الفهم بما اكتسبته من الفضاء الرقمي، فقد يؤدي ذلك إلى تآزر أو علاقة تكاملية تجعل الإنسان أكثر ذكاء وتفتح أمامه آفاقا أوسع بكثير.
ويتحمل واضعو السياسات والباحثون مسؤولية رئيسية في الاستثمار في هذا النوع من الروبوتات باعتباره جزءا أساسيا من مهمتهم في دعم تطور الإنسان. كما أن الفوائد العملية لاستخدام هذه الآلات في عمليات الإنتاج ستظهر بوضوح في المدى القصير والمتوسط.
إن البلدان التي تمتلك أعلى كثافة من الروبوتات ـ مثل الصين، وكوريا الجنوبية، وسنغافورة، وألمانيا، واليابان ـ تتمتع بأفضلية إنتاجية هائلة. ومن المتوقع أن يتّسع هذا الفارق بدرجة كبيرة مع دخول الوكلاء المجسّدين إلى خط الإنتاج.
أما الدول التي تمتلك قاعدة صناعية واسعة وموارد بيانات كبيرة، وتعرف كيف توفّق بين البرمجيات وأنظمة الحوسبة المدمجة والمجسّات والميكاترونكس والذكاء الاصطناعي، فهي الأكثر قدرة على طرح هذه الآلات في الأسواق.
وليس من قبيل المصادفة أن هذه الدول هي بالفعل في طليعة صناعة الروبوتات.
ومع الإنجازات اللافتة التي تحققها الشركات الناشئة الصينية في مجال الروبوتات الشبيهة بالبشر، ومع الهدف المعلن للصين بأن تصبح رائدة في الذكاء الاصطناعي المجسّد ـ كما ورد في توصيات الخطة الخمسية الصينية الخامسة عشرة (2026-2030) ومبادرة «الذكاء الاصطناعي بلس» ـ فإننا نتوقع إنجازات كبيرة إذا ما نُفّذت هذه الخطط بذكاء.
كما أن المنافسة الدولية تتصاعد، ما يجعل السنوات المقبلة حبلى بابتكارات لافتة في هذا المجال. وأنا شخصيا لا أطيق الانتظار لرؤية ما سيظهر.
الانتقالي يكثف انتشاره العسكري في المهرة ويستحدث نقاط تفتيش