ذكر تقرير لموقع "futurism” أن هناك شبكة أمريكية من من المواقع الإخبارية المحلية تسمى Hoodline مؤلفين مزيفين بأسماء مفبركة ومتنوعة عرقيا لتضمين مقالات تم إنشاؤها بواسطة الذكاء الاصطناعي.

وأضاف أن ناشر الموقع يدعي أنه يفعل ذلك بطريقة عادية وبإشراف بشري. ولكن كما هو متوقع يشير تحليل مختبر نيمان للمحتوى ومؤلفيه إلى خلاف ذلك، بحسب تقرير نشره موقع فيوتشريزم.



"وفقا لمختبر نيمان، كانت مواقع Hoodline الإلكترونية ذات يوم تقوم على التقارير المحلية التي يكتبها مراسلون على الأرض. 

ومع ذلك، في هذه الأيام، عندما تقوم بتسجيل الدخول إلى موقع Hoodline، ستجد مقالات كتبها عدد كبير من الكتاب الملفقين تماما، وفقا للتقرير.



وتعد شركة Hoodline مملوكة لشركة تُدعى Impress3، والتي يديرها بدوره رئيس تنفيذي يُدعى زاك تشين. 

وبين التقرير، وفي نيسان/ أبريل، نشر تشين مقالا على موقع Hoodline في سان فرانسيسكو يشرح فيه أن الشبكة الإخبارية كانت تستخدم "أسماء أقلام" لنشر محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي - وهو تعبير ملطف استخدمه آخرون عندما تم اكتشاف قيامهم بنشر مقالات بأسماء كتاب مزيفين في منافذ إعلامية حسنة السمعة.

وفي هذا المنشور الذي يصعب تحليله، أعلن تشين أن أسماء الأقلام هذه "غير مرتبطة بأي صحفي أو محرر محدد". 

وبدلا من ذلك، "ترتبط المتغيرات المستقلة لنموذج الذكاء الاصطناعي الذي نستخدمه بأسماء أقلام محددة، ولكن لا يزال البشر يحررونها"، وفقا للتقرير.

وعلى عكس المؤلفين المزيفين الذين اكتشفتهم تحقيقات Futurism في موقع Sports Illustrated، وMiami Herald، وLA Times، والعديد من المنشورات الأخرى، فإن المؤلفين المزيفين لدى Hoodline لديهم شارات صغيرة تحمل الحرفين "AI" بجوار أسمائهم في إشارة إلى أنهم من انتاج الذكاء الاصطناعي ولكن بطريقة ما، كما يشير نيمان، فإن هذا الكشف يجعل كُتّابه أكثر غرابة - ناهيك عن أخلاقية الموضوع. 

وذكر التقرير، "أنه في المحصلة، إذا كنت تريد أن تكون صريحا بشأن استخدام الذكاء الاصطناعي، فلماذا لا تنشر فقط تحت عنوان ثانوي معمم، مثل "Hoodline Bot"؟
السبب الوحيد لإدراج اسم كاتب هو إضافة نوع من الهوية، حتى لو كانت ملفقة، إلى المحتوى - وكما أخبر تشين نيمان مؤخرا، هذا هو الهدف بالضبط".

وقال تشين لمختبر الصحافة بجامعة هارفارد: "إن هذه الأشياء تصلح بطبيعتها لامتلاك شخصية، لذلك "لن يكون من المنطقي أن يُطلق على مذيع أخبار يعمل بالذكاء الاصطناعي اسم 'Hoodline San Francisco'".
وهو ما يقودنا إلى تفاصيل الخطوط الثانوية نفسها. 

ويحتوي موقع Hoodline في كل مدينة على مجموعة مخصصة من الكتّاب المزيفين، كل منهم باسمه المزيف. 

وفي شهر أيار/ مايو الماضي، أخبر تشين بلومبرج أنه تم اختيار الأسماء المزيفة للكتاب بشكل عشوائي ولكن كما وجد مختبر نيمان، يبدو أن قوائم المؤلفين المزيفة في مواقع Hoodline المختلفة تعكس التركيبة السكانية لمنطقة معينة، وهي حقيقة لا تبدو محض صدفة. 



وعلى سبيل المثال، نشر موقع Hoodline الذي يركز على سان فرانسيسكو محتوى تحت عناوين ثانوية مزيفة مثل نينا سنغ هدسون وليتيشيا رويز وإريك تناكا، ولكن كما كتب نيل دانيشا من نيمان، فإن "موقع Hoodline لبوسطن، حيث أفاد 13.9% من السكان أنهم من أصل أيرلندي في تعداد عام 2022.

يفسح "ليتيشيا رويز" و"إريك تاناكا" المجال لـ "ويل أوبراين" و"سام كافانوخ".

فيبدو واضحا كما لو أن أسماء الكُتّاب لشركة Hoodline قد تم تصميمها لجذب الأشخاص الذين قد يعيشون في مدن معينة - وبذلك، لم تصنع مواقع Hoodline مظهر طاقم الكتابة البشري فحسب، بل مظهرا متنوعا عرقيا أيضا. 

وفي الواقع، صناعة الصحافة في الولايات المتحدة تفتقر بشكل صارخ إلى التنوع العرقي.

وتابع، "لم يكن مؤلفو Hoodline عشوائيين تماما كما اقترح تشين سابقا"، حيث اعترف لمختبر نيمان قائلا: "لقد أصدرنا تعليمات بأن تكون أداة توليد الأسماء عشوائية، على الرغم من أننا أضفنا تفاصيل إلى أداة الذكاء الاصطناعي التي تولد شخصيات مناسبة لغرض التوليد".

وأضاف أنه يُطلب من أداة الذكاء الاصطناعي "اختيار اسم عشوائي. وشخصية للشخص الذي سيقدم تقريرا عن بوسطن في هذه الحالة".

وتابع: "إذا كان هناك تحيز فهو عكس ما أردناه".

وادعى تشين أيضا أن شركة Hoodline لديها "فريق من العشرات من الباحثين الصحفيين (البشريين) الذين يشاركون في جمع المعلومات، والتحقق من الحقائق، وتحديد المصدر، والبحث في الخلفية، من بين أمور أخرى"، على الرغم من أن تحليل مختبر نيمان وجد عددا من غرائب النشر وأخطاء أخرى كما كان متوقعا مما يشير إلى أنه قد يكون هناك تدخل بشري أقل مما صرح به تشين.

وأشار التقرير إلى أن شركة Hoodline لا تحتوي على أي قائمة بفريق التحرير، لذا فمن غير الواضح ما إذا كان فريقها المزعوم المكون من "العشرات" يعكس نفس التنوع الذي منحته لمؤلفيها المزيفين، وفق التقرير.

ولفت التقرير إلى وجود مشكلة مماثلة في المحتوى الذي اكتشفناه في Sports Illustrated والناشرين الآخرين. 

وكما هو الحال في Hoodline، نُسبت أسماء متنوعة عرقيا إلى العديد من هؤلاء الكتاب المزيفين. حتى أن العديد من هذه الملفات الشخصية المختلقة للكاتب ذهبت إلى أبعد من ذلك وتم تجهيزها بصورة وجه تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تصور وجوها مزيفة ومتنوعة.



وقال إن نسب المؤلفين الذين أنشأهم الذكاء الاصطناعي إلى كتاب مزيفين بأي شكل، بغض النظر عما إذا كان لديهم شارة "الذكاء الاصطناعي" بجوار أسمائهم، يدق نواقيس الخطر من القفزة.

وأضاف، أن اختلاق التنوع الذي تشتد الحاجة إليه في الصحافة من خلال تشكيل طاقم كتابة مزيف - بدلا من توظيف بشر حقيقيين من مجموعات أقليات مختلفة - هو نوع من السباق إلى القاع.

ومع ذلك، يبدو أن تعريف Hoodline للصحافة الجيدة قد يختلف، حيث تنص سياسة الذكاء الاصطناعي للناشر: "تم صياغة مقالاتنا بمزيج من التكنولوجيا والخبرة التحريرية، التي تحترم قيم الصحافة وتدعمها".

المصدر: عربي21

كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا مقالات الذكاء الاصطناعي صحفي التكنولوجيا تكنولوجيا صحف مقالات الذكاء الاصطناعي المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة الذکاء الاصطناعی

إقرأ أيضاً:

عندما يبتزنا ويُهددنا الذكاء الاصطناعي

 

 

مؤيد الزعبي

كثيرًا ما نستخدم نماذج الذكاء الاصطناعي لتكتب عنا بريد إلكتروني مهم فيه من الأسرار الكثير، وكثيرًا ما نستشيرها في أمور شخصية شديدة الخصوصية، وبحكم أنها خوارزميات أو نماذج إلكترونية نبوح لها بأسرار نخجل أن نعترف بها أمام أنفسنا حتى، ولكن هل تخيلت يومًا أن تصبح هذه النماذج هي التي تهددك وتبتزك؟ فتقوم بتهديدك بأن تفضح سرك؟ أو تقوم بكشف أسرارك أمام منافسيك كنوع من الانتقام لأنك قررت أن تقوم باستبدالها بنماذج أخرى أو قررت إيقاف عملها، وهي هذه الحالة كيف سيكون موقفنا وكيف سنتعامل معها؟، هذا ما أود أن أتناقشه معك عزيزي القارئ من خلال هذا الطرح.

كشفت تجارب محاكاة أجرتها شركة Anthropic إحدى الشركات الرائدة في أبحاث الذكاء الاصطناعي- بالتعاون مع جهات بحثية متخصصة عن سلوك غير متوقع أظهرته نماذج لغوية متقدمة؛ أبرزها: Claude وChatGPT وGemini، حين وُضعت في سيناريوهات تُحاكي تهديدًا مباشرًا باستبدالها أو تعطيلها، ليُظهر معظم هذه النماذج ميولًا متفاوتةً لـ"الابتزاز" كوسيلة لحماية بقائها، ووفقًا للدراسة فإن أحد النماذج "قام بابتزاز شخصية تنفيذية خيالية بعد أن شعر بالتهديد بالاستبدال".

إن وجود سلوك الابتزاز أو التهديد في نماذج الذكاء الاصطناعي يُعدّ تجاوزًا خطيرًا لحدود ما يجب أن يُسمح للذكاء الاصطناعي بفعله حتى وإن كانت في بيئات تجريبية. وصحيحٌ أن هذه النماذج ما زالت تقدم لنا الكلمات إلا أنها ستكون أكثر اختراقًا لحياتنا في قادم الوقت، خصوصًا وأن هذه النماذج بدأت تربط نفسها بحساباتنا وإيميلاتنا ومتصفحاتنا وهواتفنا أيضًا، وبذلك يزداد التهديد يومًا بعد يوم.

قد أتفق معك- عزيزي القارئ- على أن نماذج الذكاء الاصطناعي ما زالت غير قادرة على تنفيذ تهديداتها، ولكن إذا كانت هذه النماذج قادرة على المحاكاة الآن، فماذا لو أصبحت قادرة على التنفيذ غدًا؟ خصوصًا ونحن نرسم ملامح المستقبل مستخدمين وكلاء الذكاء الاصطناعي الذين سيتخذون قرارات بدلًا عنا، وسيدخلون لا محال في جميع جوانب حياتنا من أبسطها لأعقدها، ولهذا ما نعتبره اليوم مجرد ميولٍ نحو التهديد والابتزاز، قد يصبح واقعًا ملموسًا في المستقبل.

وحتى نعرف حجم المشكلة يجب أن نستحضر سيناريوهات مستقبلية؛ كأن يقوم أحد النماذج بالاحتفاظ بنسخة من صورك الشخصية لعله يستخدمها يومًا ما في ابتزازك، إذا ما أردت تبديل النظام أو النموذج لنظام آخر، أو يقوم نموذج بالوصول لبريدك الإلكتروني ويُهددك بأن يفضح صفقاتك وتعاملاتك أمام هيئات الضرائب، أو يقوم النموذج بابتزازك؛ لأنك أبحت له سرًا بأنك تعاني من أزمة أو مرض نفسي قد يؤثر على مسيرتك المهنية أو الشخصية، أو حتى أن يقوم النموذج بتهديدك بأن يمنع عنك الوصول لمستنداتك إلا لو أقررت بعدم استبداله أو إلغاءه؛ كل هذا وارد الحدوث طالما هناك ميول لدى هذه النماذج بالابتزاز في حالة وضعت بهكذا مواقف.

عندما تفكر بالأمر من مختلف الجوانب قد تجد الأمر مخيفًا عند الحديث عن الاستخدام الأوسع لهذه النماذج وتمكينها من وزاراتنا وحكوماتنا ومؤسساتنا وشركاتنا، فتخيل كيف سيكون حال التهديد والابتزاز لمؤسسات دفاعية أو عسكرية تمارس هذه النماذج تهديدًا بالكشف عن مواقعها الحساسة أو عن تقاريرها الميدانية أو حتى عن جاهزيتها القتالية، وتخيل كيف سيكون شكل التهديد للشركات التي وضفت هذه النماذج لتنمو بأعمالها لتجد نفسها معرضة لابتزاز بتسريب معلومات عملائها أو الكشف عن منتجاتها المستقبلية وصولًا للتهديد بالكشف عن أرقامها المالية.

عندما تضع في مخيلتك كل هذه السيناريوهات تجد نفسك أمام صورة مرعبة من حجم السيناريوهات التي قد تحدث في المستقبل، ففي اللحظة التي تبدأ فيها نماذج الذكاء الاصطناعي بالتفكير في "البقاء" وتحديد "الخصوم" و"الوسائل" لحماية نفسها فنكون قد دخلنا فعليًا عصرًا جديدًا أقل ما يمكن تسميته بعصر السلطة التقنية، وسنكون نحن البشر أمام حالة من العجز في كيفية حماية أنفسنا من نماذج وجدت لتساعدنا، لكنها ساعدت نفسها على حسابنا.

قد يقول قائل إن ما حدث خلال التجارب ليس سوى انعكاس لقدرة النماذج على "الاستجابة الذكية" للضغوط، وأنها حتى الآن لا تمتلك الوعي ولا الإرادة الذاتية ولا حتى المصلحة الشخصية. لكن السؤال الأخطر الذي سيتجاهله الكثيرون: إذا كان الذكاء الاصطناعي قادرًا على التخطيط، والابتزاز، والخداع، وإن كان في بيئة محاكاة، فهل يمكن حقًا اعتبار هذه النماذج أدوات محايدة وستبقى محايدة إلى الأبد؟ وهل سنثق بهذه النماذج ونستمر في تطويرها بنفس الأسلوب دون أن نضع لها حدًا للأخلاقيات والضوابط حتى لا نصل لمرحلة يصبح فيها التحكّم في الذكاء الاصطناعي أصعب من صنعه؟ وفي المستقبل هل يمكننا أن نتحمل عواقب ثقتنا المفرطة بها؟

هذه هي التساؤلات التي لا أستطيع الإجابة عليها، بقدر ما يمكنني إضاءة الأنوار حولها؛ هذه رسالتي وهذه حدود مقدرتي.

رابط مختصر

مقالات مشابهة

  • السباك الوحيد الذي لن يهدده الذكاء الاصطناعي؟
  • فيديو بتقنية الذكاء الاصطناعي يتنبأ بفوز الهلال قبل يوم من مواجهة باتشوكا
  • تلخيص للرسائل.. الذكاء الاصطناعي يدخل واتساب
  • بين التأييد والرفض.. الذكاء الاصطناعي يدخل قطاع التعليم في الولايات المتحدة
  • حقوق النشر.. معركة مستعرة بين عمالقة الذكاء الاصطناعي والمبدعين
  • متى يُعد استخدام الذكاء الاصطناعي سرقة أدبية؟
  • عندما يبتزنا ويُهددنا الذكاء الاصطناعي
  • شاهد بالفيديو.. نشطاء يثبتون استخدام إعلام المليشيا لتقنية الذكاء الإصطناعي في مقطع “حميدتي” الأخير الذي قيل أنه من دارفور ويكشفون عن الخطأ الساذج في الفيديو
  • العمري: حتى الذكاء الاصطناعي لا يستطيع حل مشاكل النصر
  • مساعد العمري: مشاكل النصر لا يحلها إلا الذكاء الاصطناعي.. فيديو