تطورات ديبسيك.. هل أعد الذكاء الاصطناعي لأغراض خبيثة؟
تاريخ النشر: 2nd, February 2025 GMT
يشير تقرير بارز أعده خبراء الذكاء الاصطناعي إلى أن احتمال استخدام أنظمة الذكاء الاصطناعي لأغراض خبيثة في تزايد مستمر. وحذّر المؤلف الرئيسي للدراسة، يوشوا بنجيو، من أن تطورات شركة "ديبسيك" وغيرها من الشركات الناشئة قد تؤدي إلى زيادة المخاطر المتعلقة بأمان الذكاء الاصطناعي.
اقرأ ايضاً
ويُعتبر بنجيو أحد "عرّابي" الذكاء الاصطناعي الحديث، وقد أعرب عن قلقه من التقدم الذي تحرزه شركة "ديبسيك" الصينية، مشيراً إلى أن هذا التطور قد يكون مصدر قلق في مجال كان يهيمن عليه الغرب، خاصة الولايات المتحدة.
سباق محفوف بالمخاطر
وأوضح بنجيو أن الشركات الأميركية ومنافسي "ديبسيك" قد يركزون على استعادة ريادتهم بدلاً من التركيز على تدابير الأمان. فقد تعهدت "أوبن إيه آي"، مطوّرة "شات جي بي تي"، بتسريع إطلاق المنتجات نتيجة لهذا التنافس المتزايد.
وأضاف: "إذا تخيلنا منافسة بين كيانين، وكان أحدهما متقدمًا بفارق كبير، فإنه يستطيع أن يتحلى بالحذر ويبقى في المقدمة. ولكن إذا كانت المنافسة متقاربة، فقد يكون هناك دافع للإسراع، مما قد يقلل من التركيز على الأمان".
تقرير دولي شامل
تم إعداد تقرير دولي شامل حول سلامة الذكاء الاصطناعي من قبل مجموعة تضم 96 خبيراً، بمن فيهم الحائز على جائزة نوبل جيفري هينتون. وكان بنجيو، الحاصل على جائزة تورينغ في 2018، قد تم تكليفه من قبل الحكومة البريطانية للإشراف على التقرير، الذي تم الإعلان عنه خلال القمة العالمية حول سلامة الذكاء الاصطناعي في عام 2023. وقد تم ترشيح أعضاء اللجنة من قبل 30 دولة، بالإضافة إلى الاتحاد الأوروبي والأمم المتحدة، ومن المقرر أن تُعقد القمة العالمية المقبلة حول الذكاء الاصطناعي في باريس يومي 10 و11 شباط (فبراير).
مخاطر الاستخدام الخبيث
يشير التقرير إلى أن أنظمة الذكاء الاصطناعي العامة، مثل برامج الدردشة الذكية، أصبحت أكثر قدرة على أداء مهام قد تُستخدم لأغراض خبيثة، مثل تحديد الثغرات في البرمجيات والأنظمة الإلكترونية، وتقديم إرشادات حول إنتاج الأسلحة البيولوجية والكيميائية.
ووفقاً للتقرير، فإن النماذج الحديثة من الذكاء الاصطناعي يمكنها تقديم إرشادات تقنية مفصلة لإنشاء مسببات الأمراض والسموم، وهو ما يتجاوز قدرات العديد من الخبراء المتخصصين. كما أشارت "أوبن إيه آي" إلى أن نموذجها المتقدم "o1" قد يساعد المختصين في التخطيط لإنتاج التهديدات البيولوجية، ولكن ليس من الواضح ما إذا كان بإمكان غير المتخصصين تنفيذ هذه الإرشادات بفعالية.
تزايد التهديدات
في حديثه إلى صحيفة "الغارديان"، أوضح بنجيو أن هناك نماذج ذكاء اصطناعي قادرة، باستخدام كاميرا الهاتف الذكي، على إرشاد الأفراد لتنفيذ مهام خطيرة مثل تصنيع الأسلحة البيولوجية.
وقال: "أصبحت هذه الأدوات أسهل استخدامًا لغير المتخصصين، لأنها تستطيع تقسيم المهام المعقدة إلى خطوات صغيرة يمكن لأي شخص فهمها، ثم تقدم مساعدة تفاعلية في تنفيذها بشكل صحيح، وهو ما يختلف عن البحث في محركات البحث التقليدية".
الجرائم الرقمية
يسلط التقرير الضوء على التحسن الكبير في قدرة الذكاء الاصطناعي على اكتشاف الثغرات الأمنية في البرمجيات تلقائيًا، مما قد يساعد القراصنة في تخطيط هجمات سيبرانية. ومع ذلك، يشير التقرير إلى أن تنفيذ هجمات فعلية دون تدخل بشري لا يزال يتطلب "مستوى استثنائياً من الدقة".
كما يشير التقرير إلى زيادة في استخدام تقنية "التزييف العميق" (Deepfake)، حيث يتم استخدام الذكاء الاصطناعي لإنشاء صور أو أصوات مزيفة لأشخاص حقيقيين. وقد استُخدمت هذه التقنية في عمليات الاحتيال، والابتزاز، وإنتاج محتوى مضلل. ومع ذلك، فإن تقدير الحجم الدقيق لهذه الجرائم لا يزال صعبًا بسبب نقص البيانات والإحصائيات الشاملة.
مخاطر النماذج
يشير التقرير إلى مخاطر استخدام نماذج الذكاء الاصطناعي مغلقة المصدر، حيث قد تكون عرضة للاختراق والتحايل على ضوابط الأمان. كما أن النماذج مفتوحة المصدر، مثل نموذج "Llama" الذي طورته شركة "ميتا"، قد تُستخدم لأغراض خبيثة نظرًا لإمكانية تعديلها من قبل المستخدمين ذوي الخبرة.
إضافة مفاجئة
في إضافة أخيرة للتقرير، أشار بنجيو إلى ظهور نموذج متقدم جديد يُعرف باسم "o3" من شركة "أوبن إيه آي" في ديسمبر، بعد الانتهاء من إعداد التقرير. وحقق هذا النموذج تقدمًا كبيرًا في اختبار التفكير المجرد، وهو إنجاز لم يكن متوقعًا حتى وقت قريب.
وقال بنجيو: "الاتجاهات التي أظهرها "o3" قد تكون لها تداعيات عميقة على مخاطر الذكاء الاصطناعي"، كما أشار أيضًا إلى نموذج "ديبسيك R1"، محذراً من أن تقييمات التقرير يجب أن تؤخذ في الاعتبار مع التقدم المستمر في هذا المجال.
التأثير على سوق العمل
أوضح بنجيو أن تطور الذكاء الاصطناعي في مجال التفكير المجرد قد يكون له تأثير كبير على سوق العمل من خلال إنشاء وكلاء آليين قادرين على تنفيذ المهام البشرية. لكنه حذر أيضًا من إمكانية استغلال هذه الأنظمة من قبل جماعات إرهابية.
وأضاف: "إذا كنت إرهابياً، فستفضل امتلاك ذكاء اصطناعي يتمتع بقدر عالٍ من الاستقلالية. فكلما زادت قدرة الذكاء الاصطناعي على العمل المستقل، زادت الفوائد والمخاطر على حد سواء".
مستقبل غير مؤكد
اقرأ ايضاًيؤكد التقرير، الذي يحمل عنوان "التقرير العلمي الدولي حول سلامة الذكاء الاصطناعي المتقدم"، أن الذكاء الاصطناعي يؤثر بشكل متزايد على البيئة من خلال استهلاك مراكز البيانات للطاقة، بالإضافة إلى تأثيره المحتمل على سوق العمل.
ويخلص التقرير إلى أن مستقبل الذكاء الاصطناعي لا يزال غير مؤكد، حيث تتراوح التوقعات بين نتائج إيجابية جدًا وسلبية جدًا. لكنه يؤكد أن المجتمعات والحكومات لديها دور رئيسي في تحديد مسار هذه التكنولوجيا.
ويختتم التقرير بالقول: "هذا الغموض قد يثير مشاعر العجز، ولكن في النهاية، ستكون قرارات المجتمعات والحكومات هي التي تحدد الاتجاه الذي سنتبعه".
Via SyndiGate.info
Copyright � 2022 An-Nahar Newspaper All rights reserved.
يتابع طاقم تحرير البوابة أحدث الأخبار العالمية والإقليمية على مدار الساعة بتغطية موضوعية وشاملة
الأحدثترنداشترك في النشرة الإخبارية لدينا للحصول على تحديثات حصرية والمحتوى المحسن
اشترك الآن
المصدر: البوابة
كلمات دلالية: الذکاء الاصطناعی التقریر إلى إلى أن من قبل
إقرأ أيضاً:
عائدات AT&T تتضاعف نتيجة استثماراتها في الذكاء الاصطناعي
في وقت أصبحت فيه تقنيات الذكاء الاصطناعي تسيطر على مشهد التكنولوجيا – من Galaxy AI إلى Apple Intelligence – يبدو أن شركات الاتصالات بدورها تراهن بقوة على هذه الثورة، وعلى رأسها شركة AT&T التي باتت تعتمد بشكل متزايد على الذكاء الاصطناعي لتحقيق أهدافها التشغيلية والمالية.
عائد مضاعف واستراتيجية تقود إلى توفير 3 مليارات دولاربحسب تصريحات الشركة، فإن كل دولار استثمرته AT&T في الذكاء الاصطناعي التوليدي عاد عليها بعائد مضاعف، في خطوة تعكس النجاح الفعلي لهذه الاستثمارات.
وتستهدف الشركة تحقيق وفورات مالية تصل إلى 3 مليارات دولار سنويًا بحلول نهاية عام 2027، عبر دمج حلول الذكاء الاصطناعي في مختلف قطاعاتها.
دمج الذكاء الاصطناعي في جميع مستويات العملتحدث آندي ماركوس، كبير مسؤولي البيانات والذكاء الاصطناعي في AT&T، لمجلة Forbes، موضحًا أن الذكاء الاصطناعي لم يعد حكرًا على الفرق التقنية، بل أصبح جزءًا من سير العمل اليومي في كافة أقسام الشركة.
ومنذ انضمامه إلى AT&T عام 2020، يقود ماركوس استراتيجية الذكاء الاصطناعي التي تشمل الخدمات الموجهة للمستهلكين، والأعمال، والوظائف الداخلية.
وحتى الآن، أكمل أكثر من 50,000 موظف تدريبات رسمية على الذكاء الاصطناعي، بينما تُشغّل الشركة أكثر من 600 نموذج من نماذج التعلم الآلي والذكاء الاصطناعي ضمن بيئاتها الإنتاجية، وتُراجع آلاف حالات الاستخدام الخاصة بالذكاء الاصطناعي التوليدي.
تطبيقات عملية تعزز الكفاءة وتحسّن تجربة العملاءتشمل استخدامات الذكاء الاصطناعي في AT&T مجالات مثل كشف الاحتيال، منع المكالمات المزعجة، تحسين عمليات التوزيع الميداني، وأداة موظفين تعتمد على الذكاء الاصطناعي التوليدي تحمل اسم Ask AT&T.
وتهدف هذه التطبيقات إلى رفع كفاءة العمل الداخلي وتحسين تجربة العملاء على حد سواء.
وتُدار هذه الجهود من خلال إطار حوكمة صارم وتعاون بين الأقسام المختلفة، مع التركيز على سلامة البيانات، لا سيما وأن الشبكة تنقل يوميًا نحو 900 بيتابايت من البيانات، ما يستدعي إدارة مسؤولة وحذرة.
المرحلة القادمة: أنظمة ذكية تتخذ قرارات ذاتيةتُخطط AT&T للدخول في المرحلة التالية من تطوير الذكاء الاصطناعي، وهي الأنظمة العاملة ذاتيًا (Agentic Systems)، والتي يُمكنها اتخاذ قرارات بشكل مستقل. ويرى ماركوس أن إمكانيات الذكاء الاصطناعي لا سقف لها، مؤكدًا أن الشركة تواكب هذه التطورات بتفاؤل مدروس.
تحذيرات من فقاعة محتملة في سوق الذكاء الاصطناعيورغم التفاؤل الذي تبديه الشركات، تزداد التحذيرات من جهات متعددة بشأن فورة الذكاء الاصطناعي في الأسواق.
يرى بعض المحللين أن شركات التكنولوجيا اليوم مبالغ في تقييمها بشكل يُذكّر بفقاعة الإنترنت في مطلع الألفية، مع ارتفاع في نسب السعر إلى الأرباح، واستثمارات بمليارات الدولارات في البنية التحتية والمواهب، دون خارطة طريق واضحة أو نهاية محددة.
ومع اشتداد المنافسة العالمية، هناك قلق متزايد من أن حمى الذهب الخاصة بالذكاء الاصطناعي قد تنتهي بانفجار اقتصادي مؤلم، إن لم يتم توجيه هذه الاستثمارات بحكمة.