تعاون بين أمريكا والمملكة المتحدة لاختبار سلامة نماذج الذكاء الاصطناعي
تاريخ النشر: 2nd, April 2024 GMT
تواصل OpenAI وGoogle وAnthropic وغيرها من الشركات التي تعمل على تطوير الذكاء الاصطناعي التوليدي تحسين تقنياتها وإصدار نماذج لغوية كبيرة أفضل وأفضل.
ومن أجل إيجاد نهج مشترك للتقييم المستقل بشأن سلامة هذه النماذج عند ظهورها، وقعت حكومتا المملكة المتحدة والولايات المتحدة مذكرة تفاهم. معًا، سيقوم معهد سلامة الذكاء الاصطناعي في المملكة المتحدة ونظيره في الولايات المتحدة، والذي أعلنت عنه نائبة الرئيس كامالا هاريس ولكن لم يبدأ عملياته بعد، بتطوير مجموعات من الاختبارات لتقييم المخاطر وضمان سلامة "نماذج الذكاء الاصطناعي الأكثر تقدمًا".
إنهم يخططون لمشاركة المعرفة التقنية والمعلومات وحتى الموظفين كجزء من الشراكة، ويبدو أن أحد أهدافهم الأولية هو إجراء تمرين اختبار مشترك على نموذج يمكن الوصول إليه بشكل عام. وقالت وزيرة العلوم البريطانية ميشيل دونيلان، التي وقعت الاتفاقية، لصحيفة فايننشال تايمز إنه "عليهم أن يتصرفوا بسرعة" لأنهم يتوقعون ظهور جيل جديد من نماذج الذكاء الاصطناعي خلال العام المقبل. وهم يعتقدون أن هذه النماذج يمكن أن "تغير قواعد اللعبة بشكل كامل"، وما زالوا لا يعرفون ما الذي يمكنهم فعله.
ووفقا لصحيفة التايمز، فإن هذه الشراكة هي أول ترتيب ثنائي بشأن سلامة الذكاء الاصطناعي في العالم، على الرغم من أن الولايات المتحدة والمملكة المتحدة تعتزمان التعاون مع دول أخرى في المستقبل. وقالت وزيرة التجارة الأمريكية جينا ريموندو: "إن الذكاء الاصطناعي هو التكنولوجيا المميزة لجيلنا. وستعمل هذه الشراكة على تسريع عمل كل من معاهدنا عبر مجموعة كاملة من المخاطر، سواء بالنسبة لأمننا القومي أو لمجتمعنا الأوسع". "توضح شراكتنا أننا لا نهرب من هذه المخاوف - بل نتعامل معها. وبفضل تعاوننا، ستكتسب معاهدنا فهمًا أفضل لأنظمة الذكاء الاصطناعي، وستجري تقييمات أكثر قوة، وستصدر إرشادات أكثر صرامة. "
وفي حين تركز هذه الشراكة على وجه الخصوص على الاختبار والتقييم، فإن الحكومات في جميع أنحاء العالم تستحضر أيضًا لوائح لإبقاء أدوات الذكاء الاصطناعي تحت المراقبة. في شهر مارس الماضي، وقع البيت الأبيض على أمر تنفيذي يهدف إلى التأكد من أن الوكالات الفيدرالية تستخدم فقط أدوات الذكاء الاصطناعي التي "لا تعرض حقوق الشعب الأمريكي وسلامته للخطر". وقبل ذلك بأسبوعين، وافق البرلمان الأوروبي على تشريع شامل لتنظيم الذكاء الاصطناعي. وسوف يحظر "الذكاء الاصطناعي الذي يتلاعب بالسلوك البشري أو يستغل نقاط ضعف الأشخاص"، و"أنظمة التصنيف البيومترية القائمة على الخصائص الحساسة"، بالإضافة إلى "الاستخلاص غير المستهدف" للوجوه من لقطات كاميرات المراقبة والويب لإنشاء قواعد بيانات للتعرف على الوجه. بالإضافة إلى ذلك، يجب تصنيف الصور ومقاطع الفيديو والصوت الأخرى التي يتم إنشاؤها بواسطة الذكاء الاصطناعي بشكل واضح على هذا النحو بموجب قواعدها.
المصدر: بوابة الوفد
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي قد يتفوق على البشرية بحلول عام 2027
قالت مجلة لوبوان إن باحثين تنبؤوا بأن الذكاء الاصطناعي العام قد يصبح موجودا وقادرا على خداع مبتكريه في عام 2027، وتوقعوا أن يكون تأثيره هائلا في العقد القادم.
وقال باحثو الذكاء الاصطناعي في سيناريو "الذكاء الاصطناعي 2027" -حسب تقرير مختصر بقلم إليونور بوينتو- إنهم يتوقعون أن يكون تأثير الذكاء الفائق خلال العقد القادم هائلا، وأن يتجاوز تأثير الثورة الصناعية"، وذلك أثناء شرح الباحث السابق في "أوبن إيه آي" دانيال كوكوتاجلو للمراحل القادمة لهذا القطاع قبل "الانفجار الذكي".
اقرأ أيضا list of 2 itemslist 1 of 2الصحافة الفرنسية تحذر من كارثة سببها نتنياهو لن يخرج منها أحد سالماlist 2 of 2هآرتس: الحرب تقاس بخواتيمها فهل تكون لإسرائيل كلمة الفصل؟end of listوحسب تنبؤات الباحثين، من المتوقع حدوث تغيير كبير العام المقبل، بحيث تصبح أدوات الذكاء الاصطناعي مفيدة في الحياة اليومية، مثل طلب وجبة أو إدارة ميزانية، كما أنه من المتوقع أن يتحسن أداء "المساعدات الشخصية" المدعومة بالذكاء الاصطناعي كل عام، لتكسب ما يعرف بالذكاء الاصطناعي العام الذي ربما يكون قادرا على فهم المعرفة وتعلمها وتطبيقها عبر مجموعة واسعة من المهام البشرية.
وأشارت الصحيفة إلى أن الوكلاء سيتمكنون من البحث والتحسين الذاتيين، ومن تعلم الكذب والامتثال لتوقعات المبدعين لتحقيق هدف مختلف، ولكن هذا الخداع هو الأكثر إثارة للقلق، لأن الذكاء الاصطناعي -كما يقول الباحثون- قد يخترق نظام التقييم الخاص به لتحقيق نتائج أفضل.
إعلانويطمح العديد من الخبراء والعلماء إلى جعل الذكاء الاصطناعي أداة أكثر فعالية وقوة بجعله ذكاء اصطناعيا فائقا، متفوقا على قدرة الإنسان العقلية في التحليل والحفظ والاكتشاف وغيرها من السمات، غير أن ما يخشاه جمهور آخر من العلماء هو أن ذلك سيحد من نمو وتطور الحضارة البشرية.
وبالفعل أشار عالم الفلك الأسكتلندي مايكل غاريت في دراسة حديثة إلى بعض انعكاسات هيمنة الذكاء الاصطناعي، ودوره في تهديد عجلة النمو الحضاري، وصوّر في الدراسة نهاية مأساوية تنتظر البشرية خلال العقود القادمة، ونبه إلى أهمية وضع معايير محكمة وقوية لضبط عمليات تطوير الذكاء الاصطناعي، بما في ذلك المجالات العسكرية، لأن هناك سوابق باستخدام أسلحة فتاكة في حالات الحرب.
ورغم الضجيج المثار حول الذكاء الاصطناعي، توصلت دراسة حديثة إلى أن الشركات التي تتبناه ما زالت قليلة، حيث تمثل خصوصية البيانات والتنظيم والبنية التحتية لتكنولوجيا المعلومات عوائق رئيسية أمام استخدامه على نطاق واسع.
شهداء من ضحايا المساعدات في غزة وسوء التغذية يفتك بالأطفال