تطورات ديبسيك.. هل أعد الذكاء الاصطناعي لأغراض خبيثة؟
تاريخ النشر: 2nd, February 2025 GMT
يشير تقرير بارز أعده خبراء الذكاء الاصطناعي إلى أن احتمال استخدام أنظمة الذكاء الاصطناعي لأغراض خبيثة في تزايد مستمر. وحذّر المؤلف الرئيسي للدراسة، يوشوا بنجيو، من أن تطورات شركة "ديبسيك" وغيرها من الشركات الناشئة قد تؤدي إلى زيادة المخاطر المتعلقة بأمان الذكاء الاصطناعي.
اقرأ ايضاً
ويُعتبر بنجيو أحد "عرّابي" الذكاء الاصطناعي الحديث، وقد أعرب عن قلقه من التقدم الذي تحرزه شركة "ديبسيك" الصينية، مشيراً إلى أن هذا التطور قد يكون مصدر قلق في مجال كان يهيمن عليه الغرب، خاصة الولايات المتحدة.
سباق محفوف بالمخاطر
وأوضح بنجيو أن الشركات الأميركية ومنافسي "ديبسيك" قد يركزون على استعادة ريادتهم بدلاً من التركيز على تدابير الأمان. فقد تعهدت "أوبن إيه آي"، مطوّرة "شات جي بي تي"، بتسريع إطلاق المنتجات نتيجة لهذا التنافس المتزايد.
وأضاف: "إذا تخيلنا منافسة بين كيانين، وكان أحدهما متقدمًا بفارق كبير، فإنه يستطيع أن يتحلى بالحذر ويبقى في المقدمة. ولكن إذا كانت المنافسة متقاربة، فقد يكون هناك دافع للإسراع، مما قد يقلل من التركيز على الأمان".
تقرير دولي شامل
تم إعداد تقرير دولي شامل حول سلامة الذكاء الاصطناعي من قبل مجموعة تضم 96 خبيراً، بمن فيهم الحائز على جائزة نوبل جيفري هينتون. وكان بنجيو، الحاصل على جائزة تورينغ في 2018، قد تم تكليفه من قبل الحكومة البريطانية للإشراف على التقرير، الذي تم الإعلان عنه خلال القمة العالمية حول سلامة الذكاء الاصطناعي في عام 2023. وقد تم ترشيح أعضاء اللجنة من قبل 30 دولة، بالإضافة إلى الاتحاد الأوروبي والأمم المتحدة، ومن المقرر أن تُعقد القمة العالمية المقبلة حول الذكاء الاصطناعي في باريس يومي 10 و11 شباط (فبراير).
مخاطر الاستخدام الخبيث
يشير التقرير إلى أن أنظمة الذكاء الاصطناعي العامة، مثل برامج الدردشة الذكية، أصبحت أكثر قدرة على أداء مهام قد تُستخدم لأغراض خبيثة، مثل تحديد الثغرات في البرمجيات والأنظمة الإلكترونية، وتقديم إرشادات حول إنتاج الأسلحة البيولوجية والكيميائية.
ووفقاً للتقرير، فإن النماذج الحديثة من الذكاء الاصطناعي يمكنها تقديم إرشادات تقنية مفصلة لإنشاء مسببات الأمراض والسموم، وهو ما يتجاوز قدرات العديد من الخبراء المتخصصين. كما أشارت "أوبن إيه آي" إلى أن نموذجها المتقدم "o1" قد يساعد المختصين في التخطيط لإنتاج التهديدات البيولوجية، ولكن ليس من الواضح ما إذا كان بإمكان غير المتخصصين تنفيذ هذه الإرشادات بفعالية.
تزايد التهديدات
في حديثه إلى صحيفة "الغارديان"، أوضح بنجيو أن هناك نماذج ذكاء اصطناعي قادرة، باستخدام كاميرا الهاتف الذكي، على إرشاد الأفراد لتنفيذ مهام خطيرة مثل تصنيع الأسلحة البيولوجية.
وقال: "أصبحت هذه الأدوات أسهل استخدامًا لغير المتخصصين، لأنها تستطيع تقسيم المهام المعقدة إلى خطوات صغيرة يمكن لأي شخص فهمها، ثم تقدم مساعدة تفاعلية في تنفيذها بشكل صحيح، وهو ما يختلف عن البحث في محركات البحث التقليدية".
الجرائم الرقمية
يسلط التقرير الضوء على التحسن الكبير في قدرة الذكاء الاصطناعي على اكتشاف الثغرات الأمنية في البرمجيات تلقائيًا، مما قد يساعد القراصنة في تخطيط هجمات سيبرانية. ومع ذلك، يشير التقرير إلى أن تنفيذ هجمات فعلية دون تدخل بشري لا يزال يتطلب "مستوى استثنائياً من الدقة".
كما يشير التقرير إلى زيادة في استخدام تقنية "التزييف العميق" (Deepfake)، حيث يتم استخدام الذكاء الاصطناعي لإنشاء صور أو أصوات مزيفة لأشخاص حقيقيين. وقد استُخدمت هذه التقنية في عمليات الاحتيال، والابتزاز، وإنتاج محتوى مضلل. ومع ذلك، فإن تقدير الحجم الدقيق لهذه الجرائم لا يزال صعبًا بسبب نقص البيانات والإحصائيات الشاملة.
مخاطر النماذج
يشير التقرير إلى مخاطر استخدام نماذج الذكاء الاصطناعي مغلقة المصدر، حيث قد تكون عرضة للاختراق والتحايل على ضوابط الأمان. كما أن النماذج مفتوحة المصدر، مثل نموذج "Llama" الذي طورته شركة "ميتا"، قد تُستخدم لأغراض خبيثة نظرًا لإمكانية تعديلها من قبل المستخدمين ذوي الخبرة.
إضافة مفاجئة
في إضافة أخيرة للتقرير، أشار بنجيو إلى ظهور نموذج متقدم جديد يُعرف باسم "o3" من شركة "أوبن إيه آي" في ديسمبر، بعد الانتهاء من إعداد التقرير. وحقق هذا النموذج تقدمًا كبيرًا في اختبار التفكير المجرد، وهو إنجاز لم يكن متوقعًا حتى وقت قريب.
وقال بنجيو: "الاتجاهات التي أظهرها "o3" قد تكون لها تداعيات عميقة على مخاطر الذكاء الاصطناعي"، كما أشار أيضًا إلى نموذج "ديبسيك R1"، محذراً من أن تقييمات التقرير يجب أن تؤخذ في الاعتبار مع التقدم المستمر في هذا المجال.
التأثير على سوق العمل
أوضح بنجيو أن تطور الذكاء الاصطناعي في مجال التفكير المجرد قد يكون له تأثير كبير على سوق العمل من خلال إنشاء وكلاء آليين قادرين على تنفيذ المهام البشرية. لكنه حذر أيضًا من إمكانية استغلال هذه الأنظمة من قبل جماعات إرهابية.
وأضاف: "إذا كنت إرهابياً، فستفضل امتلاك ذكاء اصطناعي يتمتع بقدر عالٍ من الاستقلالية. فكلما زادت قدرة الذكاء الاصطناعي على العمل المستقل، زادت الفوائد والمخاطر على حد سواء".
مستقبل غير مؤكد
اقرأ ايضاًيؤكد التقرير، الذي يحمل عنوان "التقرير العلمي الدولي حول سلامة الذكاء الاصطناعي المتقدم"، أن الذكاء الاصطناعي يؤثر بشكل متزايد على البيئة من خلال استهلاك مراكز البيانات للطاقة، بالإضافة إلى تأثيره المحتمل على سوق العمل.
ويخلص التقرير إلى أن مستقبل الذكاء الاصطناعي لا يزال غير مؤكد، حيث تتراوح التوقعات بين نتائج إيجابية جدًا وسلبية جدًا. لكنه يؤكد أن المجتمعات والحكومات لديها دور رئيسي في تحديد مسار هذه التكنولوجيا.
ويختتم التقرير بالقول: "هذا الغموض قد يثير مشاعر العجز، ولكن في النهاية، ستكون قرارات المجتمعات والحكومات هي التي تحدد الاتجاه الذي سنتبعه".
Via SyndiGate.info
Copyright � 2022 An-Nahar Newspaper All rights reserved.
يتابع طاقم تحرير البوابة أحدث الأخبار العالمية والإقليمية على مدار الساعة بتغطية موضوعية وشاملة
الأحدثترنداشترك في النشرة الإخبارية لدينا للحصول على تحديثات حصرية والمحتوى المحسن
اشترك الآن
المصدر
المصدر: البوابة
كلمات دلالية: الذکاء الاصطناعی التقریر إلى إلى أن من قبل
إقرأ أيضاً:
وزارة المالية تدمج حلول الذكاء الاصطناعي بمركز الاتصال وتتجاوز المستهدفات خلال النصف الأول
كشفت وزارة المالية، أمس، عن نتائج أداء مركز الاتصال خلال النصف الأول من عام 2026، والتي أظهرت نجاح دمج حلول الذكاء الاصطناعي في تخطي كافة المستهدفات التشغيلية المعتمدة وتطوير كفاءة الخدمات، حيث تمثلت أبرز الإنجازات في حل 97.11% من المكالمات من المرة الأولى، واختصار سرعة الرد إلى 8 ثوان فقط مع ارتفاع سعادة المتعاملين إلى 95.43%، بفضل التوظيف الأمثل للتقنيات الذكية التي أسهمت مباشرة في تسريع الاستجابة والارتقاء بجودة العمل المالي الحكومي وفق أعلى المعايير العالمية.
وأكد سعادة يونس حاجي الخوري وكيل وزارة المالية، أن هذه النتائج المسجلة تعكس الرؤية الاستباقية للوزارة في ترسيخ ريادتها الرقمية وصياغة مستقبل مبتكر للخدمات المالية الحكومية يتواكب مع التوجهات الإستراتيجية للدولة في تبني الحلول الذكية، حيث تبرز هذه الإنجازات القيمة الحقيقية للاستثمار المدروس في تقنيات الذكاء الاصطناعي التوليدي، وقدرتها على إحداث تحول جذري في جودة الكفاءة التشغيلية، والارتقاء برضا المتعاملين عبر تقديم خدمات سريعة وموثوقة تفوق توقعاتهم وتختصر الجهد والوقت بشكل ملموس.
وأضاف أن الوزارة ملتزمة بمواصلة تطوير بيئتها التقنية وتحديث خدماتها باستمرار لضمان البناء على هذا التميز المؤسسي المبتكر وتوفير تجربة تفاعلية متكاملة تركز على تمكين العنصر البشري، وتزويده بأحدث الأدوات المساندة لضمان استدامة الأداء العالي، ومواكبة تطلعات المتعاملين بما يدعم تنافسية دولة الإمارات ويسهم في تعزيز مرونة وكفاءة العمل المالي الحكومي وفق أعلى المعايير العالمية المعتمدة في هذا المجال.
وأظهرت البيانات التفصيلية أداء استثنائياً في كافة المؤشرات التشغيلية، حيث حقق المركز نسبة 97.11%، في مؤشر حل المكالمات من المرة الأولى متجاوزاً المستهدف البالغ 90%.
وسجل مؤشر مستوى جودة الخدمة نسبة 92.41%، متخطياً المستهدف المحدد بـ 80 %، كما ارتفعت نسبة سعادة المتعاملين لتصل إلى 95.43%، مقارنة بمستهدف 90%، في حين بلغت نسبة المكالمات التي تم الرد عليها خلال 30 ثانية 93.40%، متفوقة على المستهدف البالغ 90%.
وترافق ذلك مع تقليص متوسط سرعة الرد على المكالمات ليكون 8 ثوان فقط وهو أداء أفضل بكثير من المستهدف البالغ 20 ثانية، كما انخفض متوسط زمن المكالمة إلى 4 دقائق و35 ثانية، وهو أقل من المستهدف البالغ 5 دقائق.
وتكللت هذه النتائج بتسجيل نسبة مكالمات مهجورة بلغت 1.88% فقط وهي أقل بكثير من المستهدف البالغ 5%.
ويرجع هذا النجاح وفق الوزارة إلى حزمة متكاملة من البرامج والتطبيقات الذكية المطبقة في المركز، وفي مقدمتها نظام تحليل المشاعر المدعوم بالذكاء الاصطناعي، الذي يرصد مشاعر المتعاملين من خلال تحليل نبرة الصوت والكلمات المستخدمة في المكالمات.
كما يعتمد النظام على تقنية تحويل الصوت إلى نص باستخدام الذكاء الاصطناعي، بما يتيح تحويل المكالمات إلى نصوص مكتوبة وتقديم ملاحظات وتوجيهات استرشادية للموظفين، بما يسهم في تعزيز جودة الردود ودقتها، هذا إلى جانب توظيف الذكاء الاصطناعي التوليدي للرد على استفسارات المتعاملين بشكل لحظي وعلى مدار الساعة طوال أيام الأسبوع.
ويتيح المركز نظام المحادثة مع الملفات، الذي يمكن المتعاملين من استخراج المعلومات والإجابات من المستندات والأدلة الإرشادية بصيغة “بي دي إف” عبر المحادثة المباشرة مع الذكاء الاصطناعي، بالتكامل مع المساعد الافتراضي لتقديم دعم مستمر وفوري للمتعاملين مع الاعتماد على شاشات العرض الذكية “تابلو” التي توفر لوحات قياس تفاعلية تتيح المتابعة اللحظية لحالة الطلبات ومراقبة الأداء واتخاذ القرارات الفورية جنباً إلى جنب مع نظام “تلبية” المخصص لاستقبال وتلبية طلبات المتعاملين بكفاءة متناهية. وام
نادي الأسير الفلسطيني: ارتفاع عدد الأسيرات إلى 89 داخل السجون الصهيونية