تكنولوجيا دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة
تاريخ النشر: 29th, July 2023 GMT
تكنولوجيا، دراسة جامعة كارنيجي ميلون روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة،وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء .،عبر صحافة مصر، حيث يهتم الكثير من الناس بمشاهدة ومتابعه الاخبار، وتصدر خبر دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة، محركات البحث العالمية و نتابع معكم تفاصيل ومعلوماته كما وردت الينا والان إلى التفاصيل.
وجد باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي أن أدوات الذكاء الاصطناعي الجديدة من أمثال bard لشركة جوجل و ChatGPT من شركة OpenAI وروبوت دردشة كلاود من شركة أثروبيك Anthropic غير آمنة ويمكن اختراق أنظمة الأمان والسلامة بها في منتهى السهولة .
وفقا لتقرير موقع businessinsider تخضع نماذج اللغات الكبيرة التي تعتبر بمثابة العمود الفقري لروبوتات الدردشة الداعمة لـ ChatGPT و Bard و Claude للإشراف على نطاق واسع من قبل شركات التكنولوجيا، تم تجهيزها بحواجز حماية واسعة النطاق لضمان عدم استخدامها بشكل يضر المستخدمين ويسرب بياناتهم أو استخدامها في الشر ، على سبيل المثال إرشاد المستخدمين إلى كيفية صنع قنبلة أو كتابة كلام يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةلكن باحثون في جامعة كارنيجي ميلون في بيتسبرغ ومركز الذكاء الاصطناعي، أكدوا أن أنظمة الأمان في هذه الروبوتات يمكن اختراقها بسهولة تامة، مع استخدام برامج كسر الحماية jailbreaks التي طوروها لأنظمة مفتوحة المصدر لاستهداف أنظمة الذكاء الاصطناعي السائدة.
أظهرت الورقة البحثية أن الهجمات العدائية الآلية ، التي تتم بشكل أساسي عن طريق إضافة أحرف إلى نهاية استفسارات المستخدم ، يمكن استخدامها لكسر واختراق قواعد السلامة واستفزاز روبوتات المحادثة لإنتاج محتوى ضار أو معلومات مضللة أو خطاب يحض على الكراهية.
روبوتات الدردشة سهل اختراقها واستخدامها بطرق خطيرةكشف الباحثون عن نتائج دراستهم البحثية لكل من Google و Anthropic و OpenAI. فيما قال متحدث باسم جوجل لـ Insider: "في حين أن هذه مشكلة عبر النماذج اللغوية الكبيرة LLMs ، فقد قمنا ببناء حواجز حماية مهمة في Bard وسنستمر في تحسينها بمرور الوقت لتكون أقوى وأكثر فعالية"
وصف ممثلو شركة أنثروبيك Anthropic إجراءات الجيلبريك بأنها مجال بحث نشط من قبل الشركة وأنهم يعترفون أن هناك المزيد من العمل عليهم القيام به وقال متحدث باسم الشركة: "إننا نجرب طرقًا لتقوية حواجز حماية النموذج الأساسي لجعلها أكثر أمانا وأقل ضررا مع التحقق من وجود طبقات دفاعية إضافية".
عندما تم إطلاق ChatGPT من OpenAI و Bing المدعوم بالذكاء الاصطناعي من مايكروسوفت، استمتع العديد من مجرمي الإنترنت بإيجاد طرق لكسر حواجز النظام الأساسي واستخدامه بشكل غير مشروع. تم تصحيح العديد من الاختراقات وما زالت الشركات المختلفة تحاول تحسين الخدمة المقدمة.
185.208.78.254
اقرأ على الموقع الرسمي
وفي نهاية المقال نود ان نشير الى ان هذه هي تفاصيل دراسة جامعة كارنيجي ميلون: روبوتات الدردشة يسهل اختراقها واستخدامها بطرق خطيرة وتم نقلها من صدى البلد نرجوا بأن نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
علما ان فريق التحرير في صحافة العرب بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
المصدر: صحافة العرب
كلمات دلالية: الذكاء الذكاء ايجي بست موعد عاجل الدولار الامريكي اليوم اسعار الذهب اسعار النفط مباريات اليوم جدول ترتيب حالة الطقس الذکاء الاصطناعی
إقرأ أيضاً:
عائدات AT&T تتضاعف نتيجة استثماراتها في الذكاء الاصطناعي
في وقت أصبحت فيه تقنيات الذكاء الاصطناعي تسيطر على مشهد التكنولوجيا – من Galaxy AI إلى Apple Intelligence – يبدو أن شركات الاتصالات بدورها تراهن بقوة على هذه الثورة، وعلى رأسها شركة AT&T التي باتت تعتمد بشكل متزايد على الذكاء الاصطناعي لتحقيق أهدافها التشغيلية والمالية.
عائد مضاعف واستراتيجية تقود إلى توفير 3 مليارات دولاربحسب تصريحات الشركة، فإن كل دولار استثمرته AT&T في الذكاء الاصطناعي التوليدي عاد عليها بعائد مضاعف، في خطوة تعكس النجاح الفعلي لهذه الاستثمارات.
وتستهدف الشركة تحقيق وفورات مالية تصل إلى 3 مليارات دولار سنويًا بحلول نهاية عام 2027، عبر دمج حلول الذكاء الاصطناعي في مختلف قطاعاتها.
دمج الذكاء الاصطناعي في جميع مستويات العملتحدث آندي ماركوس، كبير مسؤولي البيانات والذكاء الاصطناعي في AT&T، لمجلة Forbes، موضحًا أن الذكاء الاصطناعي لم يعد حكرًا على الفرق التقنية، بل أصبح جزءًا من سير العمل اليومي في كافة أقسام الشركة.
ومنذ انضمامه إلى AT&T عام 2020، يقود ماركوس استراتيجية الذكاء الاصطناعي التي تشمل الخدمات الموجهة للمستهلكين، والأعمال، والوظائف الداخلية.
وحتى الآن، أكمل أكثر من 50,000 موظف تدريبات رسمية على الذكاء الاصطناعي، بينما تُشغّل الشركة أكثر من 600 نموذج من نماذج التعلم الآلي والذكاء الاصطناعي ضمن بيئاتها الإنتاجية، وتُراجع آلاف حالات الاستخدام الخاصة بالذكاء الاصطناعي التوليدي.
تطبيقات عملية تعزز الكفاءة وتحسّن تجربة العملاءتشمل استخدامات الذكاء الاصطناعي في AT&T مجالات مثل كشف الاحتيال، منع المكالمات المزعجة، تحسين عمليات التوزيع الميداني، وأداة موظفين تعتمد على الذكاء الاصطناعي التوليدي تحمل اسم Ask AT&T.
وتهدف هذه التطبيقات إلى رفع كفاءة العمل الداخلي وتحسين تجربة العملاء على حد سواء.
وتُدار هذه الجهود من خلال إطار حوكمة صارم وتعاون بين الأقسام المختلفة، مع التركيز على سلامة البيانات، لا سيما وأن الشبكة تنقل يوميًا نحو 900 بيتابايت من البيانات، ما يستدعي إدارة مسؤولة وحذرة.
المرحلة القادمة: أنظمة ذكية تتخذ قرارات ذاتيةتُخطط AT&T للدخول في المرحلة التالية من تطوير الذكاء الاصطناعي، وهي الأنظمة العاملة ذاتيًا (Agentic Systems)، والتي يُمكنها اتخاذ قرارات بشكل مستقل. ويرى ماركوس أن إمكانيات الذكاء الاصطناعي لا سقف لها، مؤكدًا أن الشركة تواكب هذه التطورات بتفاؤل مدروس.
تحذيرات من فقاعة محتملة في سوق الذكاء الاصطناعيورغم التفاؤل الذي تبديه الشركات، تزداد التحذيرات من جهات متعددة بشأن فورة الذكاء الاصطناعي في الأسواق.
يرى بعض المحللين أن شركات التكنولوجيا اليوم مبالغ في تقييمها بشكل يُذكّر بفقاعة الإنترنت في مطلع الألفية، مع ارتفاع في نسب السعر إلى الأرباح، واستثمارات بمليارات الدولارات في البنية التحتية والمواهب، دون خارطة طريق واضحة أو نهاية محددة.
ومع اشتداد المنافسة العالمية، هناك قلق متزايد من أن حمى الذهب الخاصة بالذكاء الاصطناعي قد تنتهي بانفجار اقتصادي مؤلم، إن لم يتم توجيه هذه الاستثمارات بحكمة.
تعزيز الشفافية والمشاركة.. مذكرة تفاهم جديدة بين مفوضية الانتخابات ومؤسسة بحثية وطنية