تحذيرات من قدرة الذكاء الاصطناعي على التسبب بظهور جائحة أو وباء.. كيف سيحدث ذلك؟
تاريخ النشر: 31st, August 2024 GMT
الولايات المتحدة – حذر خبراء من أن نماذج الذكاء الاصطناعي يمكنها إنشاء مسببات أمراض (جراثيم أو فيروسات وغيرها من الكائنات الحية الدقيقة) قادرة على “التسبب بظهور جائحة أو وباء”.
شهدت نماذج الذكاء الاصطناعي المتخصصة المدربة على البيانات البيولوجية تقدما ملحوظا، بشكل يساعد على تسريع تطوير اللقاحات وعلاج الأمراض وغيرها.
ولهذا السبب يدعو الخبراء الحكومات إلى إدخال الرقابة الإلزامية والحواجز الواقية للنماذج البيولوجية المتقدمة في ورقة بحثية جديدة نُشرت في 22 أغسطس في مجلة Science التي تمت مراجعتها من قبل الأقران.
وفي حين أن نماذج الذكاء الاصطناعي اليوم ربما لا “تساهم بشكل كبير” في المخاطر البيولوجية، فإن الأنظمة المستقبلية يمكن أن تساعد في هندسة مسببات الأمراض الجديدة القادرة على إحداث الأوبئة.
وصدر هذا التحذير في الورقة البحثية من قبل مؤلفين مشاركين من جامعة جونز هوبكنز وجامعة ستانفورد وجامعة فوردهام، الذين يقولون إن نماذج الذكاء الاصطناعي “يتم تدريبها، أو هي قادرة على التلاعب بشكل هادف بكميات كبيرة من البيانات البيولوجية، من تسريع تصميم الأدوية واللقاحات إلى تحسين غلة المحاصيل”.
ولكن كما هو الحال مع أي تقنية جديدة قوية، فإن مثل هذه النماذج البيولوجية ستشكل أيضا مخاطر كبيرة.
وبسبب طبيعتها العامة، يمكن استخدام نفس النموذج البيولوجي القادر على تصميم ناقل فيروسي حميد لتقديم العلاج الجيني لتصميم فيروس أكثر إمراضية قادرا على التهرب من المناعة الناجمة عن اللقاح”.
واستمرت الورقة البحثية في القول: “إن الالتزامات الطوعية بين المطورين لتقييم القدرات الخطيرة المحتملة للنماذج البيولوجية ذات مغزى وأهمية، ولكنها لا يمكن أن تقف بمفردها. نقترح أن تقوم الحكومات الوطنية، بما في ذلك الولايات المتحدة، بتمرير التشريعات وتحديد القواعد الإلزامية التي من شأنها منع النماذج البيولوجية المتقدمة من المساهمة بشكل كبير في المخاطر واسعة النطاق، مثل إنشاء مسببات الأمراض الجديدة أو المحسنة القادرة على التسبب في أوبئة كبرى أو حتى جوائح”.
وعلى الرغم من أن نماذج الذكاء الاصطناعي اليوم من غير المرجح أن “تساهم بشكل كبير” في المخاطر البيولوجية، فإن “المكونات الأساسية لإنشاء نماذج بيولوجية متقدمة مثيرة للقلق قد تكون موجودة بالفعل أو ستوجد قريبا”.
وبحسب ما ورد، أوصى الخبراء الحكومات بإنشاء “مجموعة من الاختبارات” التي يجب أن تقوم بها نماذج الذكاء الاصطناعي البيولوجية قبل إصدارها للجمهور، ومن ثم يمكن للمسؤولين تحديد مدى تقييد الوصول إلى النماذج.
وقالت أنيتا شيشرون، نائب المدير في مركز جونز هوبكنز للأمن الصحي وأحد مؤلفي الورقة البحثية، وفقا لمجلة “تايم”: “نحن بحاجة إلى التخطيط الآن. ستكون بعض الرقابة الحكومية المنظمة والمتطلبات ضرورية من أجل تقليل مخاطر الأدوات القوية بشكل خاص في المستقبل”.
وبسبب التقدم المتوقع في قدرات الذكاء الاصطناعي والسهولة النسبية في الحصول على المواد البيولوجية وتوظيف أطراف ثالثة لإجراء التجارب عن بعد، تعتقد شيشرون أن المخاطر البيولوجية الناجمة عن الذكاء الاصطناعي قد تتجلى “في غضون العشرين عاما القادمة، وربما حتى أقل من ذلك بكثير”، ما لم يكن هناك إشراف مناسب.
وتضيف: “نحن بحاجة إلى التفكير ليس فقط في الإصدار الحالي من جميع الأدوات المتاحة، بل والإصدارات التالية، بسبب النمو الهائل الذي نراه. ستصبح هذه الأدوات أكثر قوة”.
المصدر: فوكس نيوز
المصدر: صحيفة المرصد الليبية
كلمات دلالية: نماذج الذکاء الاصطناعی
إقرأ أيضاً:
كيف ننتج ملخصات الأخبار باستخدام الذكاء الاصطناعي؟
يبدو أن النقاش بشأن استخدام أدوات الذكاء الاصطناعي في إنتاج محتوى إعلامي سيظل مستمرا، وسنسمع كل يوم أشياء جديدة بشأنه.
فقد أعلنت 3 مؤسسات إعلامية أميركية بارزة مؤخرا أنها تستخدم أدوات الذكاء الاصطناعي في إنتاج ملخصات لكثير من المواد التي تنشرها، والمؤسسات المشار إليها هي: وول ستريت جورنال، وبلومبيرغ، وياهو نيوز.
اقرأ أيضا list of 2 itemslist 1 of 2كيف تكتب عن فلسطين؟ دليل "ساخر" للسلوك الإعلامي "المريح"list 2 of 2كيف يغير الذكاء الاصطناعي بيئة العمل الصحفي؟end of listومما تجدر الإشارة إليه أن ملخصات الأخبار، التي يسميها البعض النقاط الرئيسية أو الموجزة، والتي تلخص أهم ما في الأخبار والموضوعات الصحفية آخذة في مزيد من الظهور على المواقع الإخبارية.
وقد نشرت سارة ساير نائبة رئيس تحرير مختبر نيمان مؤخرا مقالا في موقع مختبر نيمان للصحافة تناول هذه التجربة بالشرح والتوضيح، ويبدو أن المقال حصيلة لنقاش مع 3 من مسؤولي هذه المؤسسات، وتحقيقا للفائدة نحاول أن نتعرف في النقاط التالية على أهم ما جاء فيه.
ومع تطور التكنولوجيا -خاصة الذكاء الاصطناعي- التي تساعد في إنتاج هذه الملخصات اضطرت العديد من غرف الأخبار إلى تبنيها والتكيف معها، ولم تكن النتائج دائما مثالية أو مضمونة. ولكن بالرغم من ذلك لجأت وول ستريت جورنال، وبلومبيرغ، وياهو نيوز، وهي مؤسسات إخبارية رائدة، إلى استخدام تكنولوجيا الذكاء الاصطناعي في إنتاج ملخصات سهلة القراءة.
إعلانوتقول سارة ساير أنها سمعت بعض الشائعات التي تُفيد بأن هذا النوع من "النقاط الرئيسية" يمكن أن يساعد في إبراز الأخبار والموضوعات الصحفية على غوغل ومحركات البحث الأخرى. ويرد إد هايات، مدير تحسين محركات البحث في غرفة الأخبار في وول ستريت جورنال، بأن هذا الكلام ربما يكون صحيحا.
ويضيف: "ليس لدينا دليل قوي يُشير إلى أن الملخصات أو النقاط الرئيسية تُساعد في البحث، ولكنها بالتأكيد تُساعد بطريقة ما.. فعادة ما يكون النص مُحسنا في بداية الخبر، وهو أمر رائع لكل من الزوار و"غوغل بوت" لفهم محتوى الخبر بسرعة".
وتنظر المؤسسات الإخبارية، التي أطلقت ملخصات منتجة بواسطة الذكاء الاصطناعي، إلى هذه الميزة كخدمة مخصصة للقراء المُنشغلين، وتقول إنها تلاحظ نتائج إيجابية تحفزها على مواصلة التجارب في هذا الشأن.
طوّرت منصة ياهو نيوز، وهي منصة لتجميع الأخبار، ميزة "الخلاصات الرئيسية" لبعض المقالات على موقعها. وتهدف هذه الخلاصات إلى تلخيص المقال، بالإضافة إلى حثّ القراء على قراءته كاملا. وعلى عكس الملخصات الأخرى، فإن الخلاصات الرئيسية على ياهو نيوز متاحة للمشتركين.
وقد أطلقت ياهو نيوز ميزة "أهم النقاط" في عام 2024، حيث أعادت إطلاق تطبيقها بالكامل ليضم مجموعة كاملة من الميزات المدعومة بالذكاء الاصطناعي.
وتقول كات داونز مولدر، المديرة العامة لياهو نيوز إن الاستحواذ على تطبيق "آرتفاكت" "Artifact" سهّل وبشكل كبير عملية تطوير أدوات الذكاء الاصطناعي في غرفة الأخبار.
وأضافت أن ميزة أهم النقاط لدى ياهو نيوز تهدف إلى تسهيل تجربة القراءة لمستخدمي المنصة، وليست بديلا عن قراءة المقال بالكامل.
وأشارت إلى أن "الملخصات صُممت بهدف استخراج المعلومات من المقال نفسه، بدلا من جلب معلومات من الإنترنت، لأن هذا يُقلل بشكل كبير من احتمالية ظهور الأخطاء أو عدم دقة الملخصات".
إعلانوأكدت أن تطبيق "أهم النقاط" خضع لعدة جولات من الاختبارات المكثفة قبل إطلاقه، مع الطلب من الزوار الإبلاغ عن الملخصات التي يجدونها غير مفيدة.
وأوضحت أن المنصة تجري عمليات ضبط الجودة بطرق متعددة، بما في ذلك المراجعة البشرية، وأن الزوار عادة ما يُقيّمون الملخصات على أنها دقيقة. ويبدو أنهم يستجيبون جيدا للتطبيق المُعاد إطلاقه وميزاته المُدعمة بالذكاء الاصطناعي. وأشارت إلى أن تفاعل المستخدمين زاد بنسبة 50%، وارتفع الوقت الذي يقضيه المستخدم بنسبة 165% منذ إعادة الإطلاق.
واختتمت بأنهم في ياهو نيوز "حريصون دائما على ضمان أن يحسن الذكاء الاصطناعي تجربة المستخدم، وحريصون كذلك على دمج المراجعة البشرية مع الذكاء الاصطناعي".
The new Yahoo News app is here. Finally, news curation that feels like magic with spot-on personalization and free access to premium news sources. Plus new features:
????Key takeaways on articles
????Flag to rewrite clickbait headlines
????Reading streaks and badges
Download now ????… pic.twitter.com/SztGykQJYy
— Yahoo News (@YahooNews) June 13, 2024
وول ستريت جورنال: التدخل البشري مهمتشدد صحيفة وول ستريت جورنال على ضرورة وجود مُشاركة بشرية في إنتاج ملخصات الأخبار عبر الذكاء الاصطناعي وتنظر إليه باعتباره أمرا بالغ الأهمية.
ففي وول ستريت جورنال، تُقدم الملخصات المُولّدة بالذكاء الاصطناعي على شكل 3 نقاط تُسمى "النقاط الرئيسية". وتقول تيس جيفرز، مديرة بيانات غرفة الأخبار والذكاء الاصطناعي في الصحيفة الأميركية البارزة، إن جوهر رسالتنا لجمهورنا مبني على الثقة والشفافية، بحيث يجري شرح بسيط لكل ملخص مُولّد بواسطة الذكاء الاصطناعي للزوار.
ويتبع ذلك الإشارة بالعبارات التالية: أنشأت أداة ذكاء اصطناعي هذا الملخص، الذي استند إلى نص المقال، وراجعه محرر.
إعلانوقد بدأت وول ستريت جورنال العمل على إنتاج الملخصات عن طريق الذكاء الاصطناعي في أوائل عام 2024.
وبحسب جيفرز، فقد كان هذا العمل في البداية مصمما لمنتج يستهدف عملاء الشركات الذين يرغبون في الحصول على معلومات رئيسية دون الحاجة إلى قراءة نص المقال كاملا. "ولكن بمجرد دمج سير عمل الذكاء الاصطناعي في نظام إدارة المحتوى، أصبح بإمكاننا الاستفادة من الملخصات في أماكن أخرى".
وقبل البدء بنشر الملخصات على الموقع، عملت غرفة الأخبار في الصحيفة مع فرق التقنية والمنتجات لصياغة محفز يُنتج ملخصات عالية الجودة، وقيّمت دقة الملخصات.
بعد ذلك، عُرضت النقاط الرئيسية -المُنتجة بواسطة غوغل جيميني- على مجموعة عشوائية من المستخدمين، وركزت الصحيفة بدقة على سؤالين: هل أثرت النقاط الرئيسية على تفاعل المشتركين مع خدماتها الصحفية (عدد المقالات المقروءة لكل جلسة، أو مدة الجلسة، أو المدة المُستغرقة في قراءة مقال يحتوي على نقاط رئيسية)؟ وبعد الاختبارات، بدأت الصحيفة بتضمين الملخصات في جميع المقالات الإخبارية الأساسية.
وتقول إدارة الصحيفة إن أداة التلخيص مدمجة مباشرة في نظام إدارة المحتوى الخاص بها، وبمجرد إنشاء الملخصات، فإنها تخضع لنفس نظام سير عمل القصة نفسها، حيث تقوم غرفة الأخبار بمراجعتها للتأكد من دقتها ووضوحها وأسلوبها.
ووفقا لما ذكرته مديرة بيانات غرفة الأخبار والذكاء الاصطناعي في وول ستريت: فإن دمج أو إزالة النقاط الرئيسية المنتجة بواسطة أدوات الذكاء الاصطناعي في مقالة ما يعود في نهاية المطاف لتقدير محرر تلك المقالة.
وتضيف جيفرز أن "دمج النقاط الرئيسية يعطي أفضل النتائج في قصصنا الإخبارية الأساسية حيث تكون الحقائق واضحة".
إعلانوأشارت إلى أن تقنية الذكاء الاصطناعي الأساسية في تطور مستمر، مما يتطلب تحديثات منتظمة لنموذج الذكاء الاصطناعي المستخدم.
وأضافت أن "أحد الدروس المستفادة هو أن هذه التقنية تتطلب عناية ومراجعة دورية.. تقنية الذكاء الاصطناعي التوليدي في تغير مستمر، مما يعني أنه يجب علينا أيضا أن نكون مستعدين للتطوير المستمر.
ووضحت أن "من الدروس المستفادة أيضا أنه في ظل الوضع الراهن للتكنولوجيا، يُعدّ وجود فريق بشري مُدرب أمرا بالغ الأهمية. ورغم سعادتنا بانخفاض معدلات الأخطاء، فإنها ليست معدومة. وكما لاحظ ناشرون آخرون، حتى هذا المعدل المنخفض من الأخطاء قد يؤدي إلى عدد من الأخطاء القابلة للتصحيح".
ووصفت جيفرز الذكاء الاصطناعي التوليدي بأنه "يُحدث نقلة نوعية في المساعدة على توسيع نطاق أعمالنا في مجال الأخبار وتأثيرها"، على وجه الخصوص.
تسمي بلومبيرغ الملخصات المنتجة بأدوات الذكاء الاصطناعي على موقعها "الخلاصات" وهي تكون مع الموضوعات الطويلة نوعا ما.
وقد بدأت بلومبيرغ باختبار الملخصات المنتجة بأدوات الذكاء الاصطناعي في نهاية عام 2024، ثم عممت استخدامها على نطاق أوسع في بداية هذا العام. وتُستخدم هذه الملخصات في عدد محدود ولكنه متزايد من التقارير، كما تُقدمها بلومبيرغ في المقالات المطولة، وتخطط لإدراجها في مقالات الرأي مستقبلا.
ووصف كريس كولينز، كبير مسؤولي المنتجات في قسم الأخبار في بلومبيرغ، هذه الملخصات بأنها "نظرة سريعة وواضحة". وأشار إلى أن بلومبيرغ "تنشر آلاف القصص يوميا.. وخاصة في هذا الوقت المزدحم بالأخبار، ويُخبرنا الزوار برغبتهم في مواكبة الأحداث والاطلاع بسرعة على المعلومات المهمة".
إعلانوأضاف: أن هذه الملخصات صُممت لتعزيز تجربة القراءة، وهي ليست بديلا عن العمق والسياق والتحليل الذي يقدمه مراسلو بلومبيرغ.
وأكد كولينز أن تعليقات الزوار -سواء في التعليقات الموجهة لبلومبيرغ أو ما اطلعت عليه غرفة الأخبار من بيانات الجمهور- كانت إيجابية للغاية.
ويشدد كولينز بشكل خاص على الملخصات المتعلقة بالأخبار سريعة التطور، فمن خلال هذا النوع من الملخصات، تحاول بلومبيرغ مساعدة الزوار على مواكبة آخر الأخبار، وضرب مثلا بتغطيتهم لموضوع الرسوم الجمركية التي أعلنها الرئيس الأميركي دونالد ترامب، موضحا أنها حظيت بتغطية إعلامية واسعة مؤخرا، حيث ساعدت الملخصات الزوار على البقاء على اطلاع دائم.
واختتم كولينز حديثه بفقرة عن الدروس المستفادة من التجربة. حيث قال: "من المهم أن تبدأ بفهم عميق لجمهورك، واحتياجاته من المحتوى والتجربة بشكل عام.. وليكن استخدام الذكاء الاصطناعي لتحسين تجربة المستخدم، وليس فقط لإدخال تقنية جديدة.. وتأكد من أن الملخصات ليست بديلا عن الصحافة، ولا يمكن أن توجد بدونها".
———————————————————————————————————————–
مشرف غرفة الأخبار بالجزيرة نت، ومدرب الصحافة الرقمية في معهد الجزيرة للإعلام.