نصائح مُضللة ونتائج مشبوهة.. إخفاقات الذكاء الاصطناعي في 2024
تاريخ النشر: 2nd, January 2025 GMT
كانت الأشهر الـ12 الماضية، حافلة بالأحداث والتطورات بالنسبة لمجال الذكاء الاصطناعي، فقد شهد العام الماضي، إطلاق عدد من المُنتجات والأدوات الناجحة التي حققت طفرات هائلة في جميع المجالات.
وعلى الرغم من ذلك، لم تكن الأمور دائماً سلسة، فمن برامج المحادثة الآلية التي تقدم نصائح غير قانونية إلى نتائج البحث المشبوهة، نستعرض أكبر إخفاقات الذكاء الاصطناعي في 2024، وفقاً لما نشره موقع "MIT Technology Review".
انتشار فيروسي فوضوي
مع ظهور الذكاء الاصطناعي التوليدي (Gen- Ai)، وانتشاره في كل ركن من أركان الإنترنت عبر النصوص والصور ومقاطع الفيديو وأنواع أخرى من المواد المولدة اصطناعياً، والتي لا تستغرق سوى بضع ثوانٍ حتى يتمكن النموذج الذي تختاره من إخراج نتيجة بمجرد إدخال مطالبة، فقد أصبحت هذه النماذج طريقة سريعة وسهلة لإنتاج المحتوى على نطاق واسع.
ورغم الإتاحة وانتشار الوسائط على نطاق واسع، إلا أن جودتها كانت "رديئة"، ما خلق حالة من فوضى الذكاء الاصطناعي.
تحريف توقعاتنا للأحداث الحقيقيةتميز العام الماضي، بتسرب تأثيرات صور الذكاء الاصطناعي السريالية إلى حياتنا الحقيقية، ومنها تجربة ويلي للشوكولاته - وهي حدث غامر غير رسمي مستوحى من رواية "تشارلي ومصنع الشوكولاته" لروالد دال.
غمر الحادث عناوين الأخبار في جميع أنحاء العالم في فبراير (شباط)، بعد أن أعطت مواد التسويق التي أُنشئت بواسطة الذكاء الاصطناعي للزوار الانطباع بأنها ستكون أعظم بكثير من المستودع المزخرف بشكل بسيط الذي أنشأه منتجوها.
وبالمثل، اصطفّ مئات الأشخاص في شوارع دبلن لحضور عرض "هالوين" لم يكن موجوداً، إذ استخدم موقع ويب، مقره باكستان، الذكاء الاصطناعي، لإنشاء قائمة بالأحداث في المدينة، التي تمّت مشاركتها على نطاق واسع عبر وسائل التواصل الاجتماعي قبل 31 أكتوبر (تشرين الأول)، وهو عيد "الهالوين".
كلا الحدثين السابقين يوضحان كيف يمكن للثقة العامة بالمواد التي أُنشئت بواسطة الذكاء الاصطناعي عبر الإنترنت، أن تعود إلى مطاردتنا والتأثير علينا.
صور مُزيفةلمنع المستخدمين من إنشاء محتوى عنيف وصريح وغير قانوني وأنواع أخرى من الوسائط الضارة، وضعت مولدات الصور بالذكاء الاصطناعي، قواعد "حواجز" تملي ما يمكن لنماذج الذكاء الاصطناعي فعله وما لا يمكنها فعله، بجانب دورها في حماية الملكية الفكرية.
إلا أن مساعد "غروك Grok"، الذي صنعته شركة الذكاء الاصطناعي التابعة لإيلون ماسك "xAI"، تتعمد تجاهل كل هذه المبادئ تقريباً بما يتماشى مع رفض ماسك ما يسميه "الذكاء الاصطناعي المتيقظ".
في هذا السياق، انتشرت صور مزيفة جنسية صريحة للفنانة تايلور سويفت على الإنترنت، وعلى وسائل التواصل الاجتماعي، وقد خدع أفراد مسجلون في "تلغرام" برنامج إنشاء الصور "AI Designer" من "مايكروسوفت" لإنشاء صور فاضحة؛ مما يوضح كيف يمكن التحايل على الحواجز الأمنية حتى عندما تكون موجودة.
فرض هذا الأمر تحدي كبير، وهو عجزنا على محاربة المواد الإباحية المزيفة، في حين أن أدوات وضع العلامات المائية وتسميم البيانات يمكن أن تساعد، إلا أنها ستحتاج إلى تبنيها على نطاق أوسع بكثير لإحداث فرق.
برامج الدردشةباتت شركات التكنولوجيا تتسابق لتبني أدوات توليدية لتوفير الوقت والمال، وتعظيم الكفاءة في الوقت الحالي، والمشكلة هي أن برامج الدردشة الآلية تخترع أشياء، ولا يمكن الاعتماد عليها لتزويدنا دائماً بمعلومات دقيقة.
كمثال على ذلك، فقد اكتشفت الخطوط الجوية الكندية أن نصائح برنامج الدردشة الآلية الخاص بها، قد خدع أحد العملاء باتباع سياسة استرداد الأموال في حالات الحزن التي لم تكن موجودة.
وفي فبراير (شباط) الماضي، أيّدت محكمة المطالبات الصغيرة الكندية الشكوى القانونية للعميل، رغم تأكيد شركة الطيران أن برنامج الدردشة الآلية كياناً قانونياً منفصلاً مسؤولاً عن أفعاله الخاصة.
أدوات فاشلةرغم الأدوات الهائلة التي ظهرت في ظل هذا التطور التكنولوجي إلا هناك برامج أثبتت فشلها وانتكاستها، ومنها أداة شركة "Humane" التي سعت للترويج إلى "Ai Pin"، وهو كمبيوتر يمكن ارتداؤه، ولكنه فشل في تعزيز المبيعات الضعيفة حتى بعد خفض سعره.
كما لاقى "Rabbit R1" - وهو جهاز مساعد شخصي قائم على "جي بي تي" مصيراً مماثلاً، بعد سلسلة من المراجعات النقدية والتقارير التي تفيد بأنه بطيء ومليء بالأخطاء.
بحث خاطئونظراً لأن أنظمة الذكاء الاصطناعي لا يمكنها معرفة الفرق بين قصة إخبارية صحيحة فعلياً ومنشور لنكتة على "Reddit"، فقد تسابق المستخدمون للعثور على أغرب الاستجابات التي يمكن أن تولّدها ميزة AI Overviews من "غوغل" القائمة على الذكاء الاصطناعي.
كما أدت ميزة جديدة في "آيفون"، تقوم على تجميع إشعارات التطبيقات معاً وتُنشئ ملخصات لمحتوياتها، إلى ظهور عنوان إخباري زائف على قناة "بي بي سي نيوز"، حيث ذكر الملخص كذباً أن لويجي مانجيوني، الذي اتُّهم بقتل الرئيس التنفيذي لشركة التأمين الصحي برايان تومسون، قد أطلق النار على نفسه.
الخطر هنا أن هذه الملخصات يمكنها نشر معلومات مضللة وتقويض الثقة في المؤسسات الإخبارية.
المصدر: موقع 24
كلمات دلالية: سقوط الأسد حصاد 2024 الحرب في سوريا عودة ترامب خليجي 26 إيران وإسرائيل إسرائيل وحزب الله غزة وإسرائيل الإمارات الحرب الأوكرانية الذكاء الاصطناعي الذكاء الاصطناعي التوليدي غوغل غوغل الذكاء الاصطناعي تكنولوجيا الذکاء الاصطناعی الدردشة الآلیة على نطاق
إقرأ أيضاً:
مستقبل مراكز مصادر التعلّم في ظل الذكاء الاصطناعي
خميس بن سعيد بن سالم الحربي
k.s.s.alharbi@moe.om
في إحدى المرات استوقفتني عبارة وردت في كتاب يتحدَّث عن مكتبات المُستقبل "انظر جيدًا قبل عبور الشارع ثم انطلق"، ورغم بساطتها، إلّا أنني أراها تجسد جوهر المرحلة التي نعيشها اليوم في مراكز مصادر التعلّم؛ فقبل أن نعبر نحو المُستقبل، علينا أن نتأمل واقعنا بصدق، ثم نخطط بحكمة، لننطلق بثقة في عالم يتغير بسرعة غير مسبوقة في ظل ثورة الذكاء الاصطناعي.
لقد شهد العالم تحولات جذرية في مفهوم المكتبات ومراكز مصادر التعلّم؛ فلم تعد هذه المراكز مجرد أماكن لتخزين الكتب، بل أصبحت فضاءات معرفية رقمية، ومنصات للتعلم الذاتي، والتفكير النقدي، والإبداع، وبناء مهارات المستقبل، ومع ظهور أدوات الذكاء الاصطناعي مثل ChatGPT وغيرها، أصبح الوصول إلى المعلومة أسرع من أي وقت مضى؛ مما يفرض على هذه المراكز إعادة ابتكار دورها، بدلًا من التمسك بنموذجها التقليدي، كما يخشى البعض أن تصبح مراكز مصادر التعلّم كيانًا قديمًا مع تراجع استخدام المصادر الورقية وازدياد الاعتماد على المصادر الرقمية، وهذا الخوف وإن كان مشروعًا قد يدفع صناع القرار إلى التقليل من أهمية هذه المراكز، مما قد يؤدي إلى تراجع مستوى الدعم، وضعف توفير الكوادر المتخصصة، وتقليص الاستثمارات في تطويرها ومع ذلك، فإنَّ الخطر الحقيقي لا يكمن في التكنولوجيا ذاتها، بل في الجمود وعدم القدرة على التكيف معها.
من وجهة نظري.. فإنَّ المستقبل لن يُطيح بمراكز مصادر التعلم؛ بل سيُعيد تشكيلها، فلن يبقى أخصائي مصادر التعلم مجرد مسؤول عن الكتب والأجهزة؛ بل سيصبح واضعًا لسياسات استخدام أدوات الذكاء الاصطناعي، وحارسًا لأخلاقيات المعلومات، ومحفزًا على الابتكار، وموجهًا للطلبة في مواجهة الانتحال والابتزاز الإلكتروني، وشريكًا في بناء عقلية رقمية ناقدة وواعية.
كما إنَّ الدور القادم لأخصائي مصادر التعلم هو دور قيادي، وتربوي، وثقافي، وليس تقنيًا فحسب؛ فالمعرفة اليوم متاحة للجميع، لكن القدرة على التمييز بين الموثوق والمضلل، وبين الإبداع والنسخ، وبين التفاعل والتشتت، هي المهارة الحقيقية التي ينبغي أن نغرسها في الأجيال.
تُظهر العديد من الدراسات أنَّ وجود برامج مكتبية قوية تدار من قبل أمناء مؤهلين يسهم في رفع معدلات القراءة والكتابة والنجاح الأكاديمي وفي المقابل، تكشف بيانات عامي 2021-2022 في الولايات المتحدة أن 35% من المناطق التعليمية لا يوجد فيها أمين مكتبة مدرسي، وأن 35% أخرى تعتمد على أمين بدوام جزئي فقط، مما يؤثر سلبًا على أكثر من 12 مليون طالب، حيث إن هذه الأرقام ليست مجرد إحصاءات، بل هي رسالة تحذيرية واضحة حين نتجاهل مراكز مصادر التعلم، فإننا ندفع الثمن تربويًا وثقافيًا.
الحقيقة أننا أمام مفترق طرق: إما أن نعيد تشكيل مراكز مصادر التعلم لتصبح بيئات رقمية مبتكرة تقود التغيير، وإما أن نتركها تتراجع حتى تتحول إلى مساحة مهجورة لا قيمة لها في العملية التعليمية ولا يتفاعل معها أحد، كما إن الذكاء الاصطناعي ليس تهديدًا؛ بل فرصة لبناء جيل باحث، ناقد، مبدع، يمتلك أخلاقيات رقمية، ويستخدم التقنية بوعي ومسؤولية.
** مشرف مصادر التعلم بالتربية والتعليم
نجمة سلة سبورتنج تنضم الى معسكر الاتحاد الدولي