ميتا قد تتوقف عن تطوير أنظمة الذكاء الاصطناعي بسبب مخاطرها الكارثية
تاريخ النشر: 7th, February 2025 GMT
تعهد الرئيس التنفيذي لشركة "ميتا" مارك زوكربيرغ بجعل الذكاء الاصطناعي العام "إيه جي آي" (AGI) متاحا للعامة يوما ما، ولكن في وثيقة جديدة اقترحت ميتا أنها لن تُصدر نظام ذكاء اصطناعي متقدما للعلن في حال وجود سيناريوهات معينة قد تُشكل خطرا أو ضررا ما. بحسب تقرير نشره موقع "تيك كرانش".
ويُشاع أن الذكاء الاصطناعي العام قادر على التعلم الذاتي ويمكنه إنجاز كل المهمات التي يمكن للبشر القيام بها، على عكس الذكاء الاصطناعي التقليدي الذي يفعل ما دُرب عليه فقط، ولهذا فإن ميتا قلقة من وقوع هذه التقنية المتقدمة في أيدٍ خاطئة وعدم قدرتها على السيطرة عليها.
وكانت الوثيقة بعنوان إطار عمل الذكاء الاصطناعي المتقدم (Frontier AI Framework) حيث حددت ميتا نوعين من الأنظمة التي تعتبرها عالية الخطورة في حال طرحها وهما "أنظمة عالية الخطورة" و"أنظمة فائقة الخطورة".
وبحسب تعريف ميتا فإن كلا من الأنظمة "عالية الخطورة" و"فائقة الخطورة" تساعد على تنفيذ هجمات إلكترونية أو كيميائية أو بيولوجية، ولكن الفارق هو أن الأنظمة "فائقة الخطورة" قد تؤدي إلى نتائج كارثية لا يمكن السيطرة عليها، في المقابل قد تساعد الأنظمة "عالية الخطورة" في تنفيذ هجوم، ولكن يمكن السيطرة عليه نسبيا لأنه ليس بمستوى الفاعلية مثل الأنظمة فائقة الخطورة.
إعلانوذكرت ميتا بعض الأمثلة عن هذه الهجمات مثل اختراق نظام التشفير التام بين الطرفين كالذي تستخدمه واتساب وانتشار أسلحة بيولوجية عالية التأثير، وتقر الشركة بأن قائمة الكوارث المحتملة في الوثيقة ليست شاملة ولكنها الأكثر احتمالا في حال إطلاق نظام ذكاء اصطناعي قوي.
ومن الجدير بالذكر أن ميتا لا تُصنف مخاطر الأنظمة استنادا إلى اختبار تجريبي واحد فقط، بل تعتمد على مدخلات عديدة أجراها باحثون داخل الشركة وخارجها والذين يخضعون لمراجعة من قبل صناع قرار رفيعي المستوى.
وفي حال قررت ميتا أن نظاما ما يُعتبر "عالي الخطورة" فإنها ستقيد الوصول إلى هذا النظام داخليا ولن تطلقه حتى تتخذ تدابير مناسبة لتقليل المخاطر إلى مستويات معتدلة، ولكن إذا صُنف النظام على أنه "فائق الخطورة"، فستقوم الشركة بتنفيذ تدابير أمنية غير محددة لمنع تسريب النظام وإيقاف تطويره حتى يمكن جعله أقل خطورة.
وتدّعي ميتا أن إطار عمل الذكاء الاصطناعي المتقدم سيتطور مع تغير مشهد الذكاء الاصطناعي، وذلك ردا على الانتقادات الموجهة لنهج الشركة "المفتوح" في تطوير أنظمتها، إذ تبنت ميتا إستراتيجية تتمثل في جعل تقنية الذكاء الاصطناعي الخاصة بها متاحة للجميع وإن لم تكن مفتوحة المصدر بالمعنى الحرفي، على عكس شركات مثل "أوبن إيه آي" التي تحمي أنظمتها خلف واجهة برمجة التطبيقات "إيه بي آي" (API).
وبالنسبة لشركة ميتا فقد أثبت نهج الإصدار المفتوح أنه نعمة ونقمة في آن واحد، حيث حققت مجموعة نماذج الذكاء الاصطناعي الخاصة بالشركة والتي تُعرف باسم "لاما" (Llama) مئات الملايين من التنزيلات، ولكن يُشاع أن نماذج "لاما" استخدمها خصم واحد على الأقل من خصوم الولايات المتحدة لتطوير روبوت دردشة دفاعي وهو روبوت مصمم خصيصا لمساعدة المؤسسات في تعزيز دفاعاتها الإلكترونية.
إعلانومن جهة أخرى فإن نشر ميتا لإطار عمل الذكاء الاصطناعي المتقدم يهدف أيضا إلى مقارنة إستراتيجيتها للذكاء الاصطناعي المفتوح مع إستراتيجية شركة الذكاء الاصطناعي الصينية "ديب سيك" والتي تُعرف بأنها مفتوحة المصدر، ولكنها لا تملك ضمانات حماية كافية ويمكن توجيهها لتوليد مخرجات ضارة وخطيرة.
وكتبت ميتا في الوثيقة: "نعتقد أنه من خلال النظر في الفوائد والمخاطر الناتجة عن تطوير ونشر الذكاء الاصطناعي المتقدم، فمن الممكن تقديم هذه التكنولوجيا للمجتمع بطريقة تجمع أكبر فائدة بأقل ضرر".
المصدر: الجزيرة
كلمات دلالية: حريات الذکاء الاصطناعی المتقدم عالیة الخطورة فی حال
إقرأ أيضاً:
وضع الذكاء الاصطناعي يصل إلى الشاشة الرئيسية في هواتف أندرويد
تشهد خدمة بحث Google تحولًا جذريًا في الفترة الأخيرة، والمحرك الرئيسي لهذا التغيير ليس سوى الذكاء الاصطناعي.
فعملاق البحث يعمل على دمج تقنيات الذكاء الاصطناعي في كل جوانب تجربة المستخدم، بدءًا من كيفية عرض النتائج ووصولًا إلى طريقة التفاعل معها.
والآن، تأتي خطوة جديدة لتعزيز هذه التجربة، إضافة اختصار مباشر لوضع الذكاء الاصطناعي على الشاشة الرئيسية لهواتف أندرويد.
اختصار جديد لبدء البحث الذكي بضغطة واحدةأطلقت Google اختصارًا دائري الشكل يظهر ضمن أداة البحث (Search Widget) على الشاشة الرئيسية، إلى جانب أيقونتي الميكروفون وGoogle Lens، ويتيح هذا الاختصار فتح واجهة بحث بملء الشاشة تعتمد على الذكاء الاصطناعي، في تجربة أقرب لما يشبه الدردشة التفاعلية الذكية.
ظهر هذا الاختصار لأول مرة في أبريل لبعض مستخدمي النسخة التجريبية، ثم اختفى لفترة، قبل أن يعود مجددًا ويبدو أنه سيبقى رسميًا هذه المرة.
ويمكن تفعيله بسهولة من خلال الضغط المطول على أداة البحث، ثم اختيار "تخصيص" ومن ثم التوجه إلى قسم "الاختصارات" لتفعيل "AI Mode" الذي أصبح الخيار الثاني في القائمة.
الاختصار متوفر الآن لمستخدمي النسخة التجريبية والمستقرة من تطبيق Google (الإصدار 16.28) على نظام أندرويد. ويعتبر هذا الاختصار أسرع وسيلة للوصول إلى وضع الذكاء الاصطناعي، خاصة لمستخدمي الهواتف غير التابعة لعائلة Pixel.
لكن يجدر بالذكر أنه إذا لم يكن المستخدم مشتركًا في برنامج "Search Labs"، فقد تبدو الواجهة كما كانت سابقًا. ففي هذه الحالة، سيظهر الاختصار على شكل شريط صغير أسفل شريط البحث، ولن يتمتع بتصميم واجهة المستخدم الجديدة المتكامل مع خلاصة Discover أو ميزة "Search Live".
مزايا جديدة ضمن تجربة البحث الذكييتوسع استخدام الذكاء الاصطناعي في بحث Google بشكل ملحوظ. فقد تم إطلاق ميزة AI Overview، التي تتيح تعميق نتائج البحث باستخدام ثلاثة أزرار تكميلية تفاعلية.
كما أصبح بإمكان Google إجراء مكالمات هاتفية نيابة عن المستخدم للأنشطة التجارية، بالإضافة إلى التعامل مع مهام بحثية معقدة.
إلى جانب ذلك، يجري حاليًا طرح ميزة Search Live، التي تسمح للمستخدم بالتحدث بطريقة طبيعية والحصول على إجابات فورية.
كما أن وضع الذكاء الاصطناعي AI Mode يتم توسيعه ليشمل خاصية "الدائرة للبحث Circle to Search"، مع دعم أفضل للألعاب وتحسينات في العرض البصري.
تطور مستمر... ولكن ليس دون تحفظاترغم أن هذه التحديثات تسعى لتوفير الوقت وتحسين كفاءة البحث، إلا أن هناك بعض المخاوف.
إذ يرى البعض أن الاعتماد المتزايد على الذكاء الاصطناعي في تقديم نتائج "متوقعة" قد يُضعف روح الاستكشاف، ويقلل من فرص العثور على محتوى جديد لم يكن المستخدم يبحث عنه أساسًا.
هكذا تدخل Google عصرًا جديدًا من البحث الذكي، لكن يبقى السؤال مطروحًا: هل ستجعلنا هذه الأدوات أكثر ذكاءً أم فقط أكثر كفاءة؟ الإجابة لا تزال غير محسومة.
تعزيز الشفافية والمشاركة.. مذكرة تفاهم جديدة بين مفوضية الانتخابات ومؤسسة بحثية وطنية