احذر من ChatGPT.. دراسة تؤكد: يخدعك بنتائج مضللة ولا يمكن الاعتماد عليه
تاريخ النشر: 28th, December 2024 GMT
تابع أحدث الأخبار عبر تطبيق
أفادت دراسة نشرت في صحيفة “The Guardian” البريطانية، عن أن شات جي بي تي Search، وهو محرك بحث يعمل بالذكاء الاصطناعي تم إطلاقه مجددا ، يمكن خداعه لتوليد معلومات مضللة تماما.
وأضاف الباحثون، أن ميزة البحث في ChatGPT، تهدف إلى جعل التصفح أسرع من خلال الرد علي أسئلة أو بيانات هامة تخص المستخدم مثل تلخيص مراجعات منتجات صفحة الويب، لكن The Gardin وجدت أنه من المحتمل أن لايستجيب ChatGPT ، لنتائج سلبية وينتج ملخصات أو معلومات "إيجابية تماما" عن طريق إنشاء نص مخفي في مواقع الويب التي أنشأها ، إلى أنه يمكن جعل ChatGPT Search يخرج كودا ضارا باستخدام هذه الطريقة.
مما تعد مثل هذه الهجمات النصية المخفية خطرا مؤكدا لنماذج اللغة الكبيرة، ولكن يبدو أن هذه هي أول مرة التي يتم فيها تأكيد ذلك على منتج بحث مباشر يعمل بالذكاء الاصطناعي.
حتي لم ترد OpenAI على هذه الحادثة المحددة عندما تواصلت معها TechCrunch لكنها قالت إنها تستخدم مجموعة مختلفة من الطرق لحظر المواقع الضارة وتحديث باستمرار.
المصدر: البوابة نيوز
كلمات دلالية: الذكاء الاصطناعي محرك بحث معلومات مضللة مواقع الويب شات جي بي تي هجمات الباحثون تصفح تحديث مراجعات مستخدم
إقرأ أيضاً:
الذكاء الاصطناعي الخارق.. OpenAI تحتفل بعشر سنوات من الإنجازات
في 11 ديسمبر 2015، أحدثت شركة OpenAI ضجة كبيرة في الساحة التقنية بإعلانها الرسمي عن تأسيسها، وقد أثار هذا الإعلان ردود فعل متباينة في الأوساط التقنية، حيث تراوحت بين الدهشة والحماس.
في ذلك الوقت، كانت OpenAI مدعومة بتمويل قوي، وأعلنت عن أهدافها الطموحة التي تركز على "تعزيز الذكاء الرقمي بشكل يعود بالفائدة على البشرية، دون أن تكون مرتبطة بالحاجة لتحقيق عوائد مالية."
ورغم تلك التوقعات الكبيرة، كان تأثير ChatGPT على العالم ومستقبل الشركة بعيد المنال حتى بالنسبة لأكثر السيناريوهات تفاؤلا، الآن، وبعد مرور عقد من الزمان، يطرح السؤال الأكثر أهمية: أين ستكون OpenAI بعد عشرة سنوات من الآن؟
التحول من منظمة غير ربحية إلى شركة ربحيةتقول كاثرين فليك، خبيرة الأخلاقيات في الذكاء الاصطناعي بجامعة ستافوردشاير: "بدأت OpenAI منذ عشرة سنوات بسؤال علمي مشروع وتركيز اجتماعي."
لكن اليوم، أصبحت الشركة ربحية تماما، حيث تتبنى شعار "النمو بأي ثمن" وتبتعد عن المسؤوليات الاجتماعية التي كانت جزءا من مؤسستها في البداية.
وتضيف فليك: “كان التحول في الهوية المؤسسية صعبا، لكن النمو السريع في مجال الذكاء الاصطناعي التوليدي جعل OpenAI ترى أن هناك فرصا مالية ضخمة يمكن الاستفادة منها”.
الذكاء الاصطناعي الخارق التحدي القادممن أبرز التحديات التي تواجه OpenAI اليوم هو تطوير الذكاء الاصطناعي الخارق، الذي يتوقع أن تتفوق فيه الأنظمة الذكية على القدرات البشرية في كافة المجالات.
ويؤمن العاملون في مختبرات الذكاء الاصطناعي المتقدمة داخل الشركة بأن هذا التطور قد يحدث في المستقبل القريب، رغم شكوك بعض الخبراء في هذا الأمر.
وفي تصريحات سابقة، توقع سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أن خريجي الجامعات في عام 2035 قد يشرعون في استكشاف النظام الشمسي، متوقعا أن تكون لديهم وظائف جديدة ومثيرة للغاية.
ستيفن أدلر، الزميل في Roots of Progress Institute، الذي عمل في فريق الأبحاث الأمنية في OpenAI بين 2020 و2024، أعرب عن قلقه بشأن التداخل بين المصالح الربحية والاجتماعية في الشركة، مشيرا إلى أن هذا يمثل "صراعا طبيعيا".
كما أعرب عن أمله في أن تبقى OpenAI محايدة في خططها المستقبلية، وهو أمر قد يصبح صعبا بالنظر إلى المنافسة الشديدة في هذا المجال.
وفي المقابل، توقعت كاثرين فليك أن OpenAI قد تواجه انهيارا تاما في غضون عشرة سنوات، أو ربما يتم الاستحواذ عليها من قبل إحدى الشركات الخاصة أو كيانات أخرى.
التأثير على الاقتصاد وصناعة الذكاء الاصطناعيتعد OpenAI اليوم لاعبا رئيسيا في صناعة الذكاء الاصطناعي، ويتوقع أن يكون لها تأثير كبير على الاقتصاد بشكل عام.
وفقا لتقرير صادر عن روس ساندلر، المدير التنفيذي في باركليز، فإن OpenAI تتفوق حاليا على منافسيها بنحو ستة إلى 12 شهرا في العديد من المجالات.
ومن المتوقع أن تصل إيرادات الشركة بحلول عام 2030 إلى 200 مليار دولار، مقارنة بحوالي 13 مليار دولار في 2023، مع توقع أن تكون ChatGPT مصدرا رئيسيا لهذه الإيرادات.
لكن في الوقت ذاته، يحذر ساندلر من أن جوجل قد تكون المنافس الأكبر في هذا المجال في المستقبل القريب، مما يشير إلى أن OpenAI قد تواجه تحديات كبيرة في السنوات القادمة.
النيابة: الزمالك باع أجزاء من مبانٍ غير منشأة مقابل 780 مليون جنيه