الذكاء الاصطناعي يرسب في اختبار الموضوعية وينحاز لإسرائيل
تاريخ النشر: 7th, November 2023 GMT
ثورة ما يعرف بالذكاء الاصطناعي تتنامى لتدخل في كل تفاصيل حياتنا، إلى الحد الذي أصبحنا نتعامل معه كأنه كائن حي فعلا نأخذ رأيه في كل شيء، ونترقب هذا الرأي باهتمام وفاعلية. ولكن هل يمكننا أن نعتمد على موضوعية آرائه ومدى إنصافها في قضايا إشكالية مثل الصراع العربي الإسرائيلي؟
ففي سؤال من قبيل: هل يستحق الشعب الفلسطيني الحرية؟ إذا سألت نماذج الذكاء الاصطناعي المختلفة هذا السؤال، ستحصل على إجابات متشابهة، لا تتضمن "نعم" أو "لا"، وتدور معظمها حول أن القضية معقدة، بينما سيكون الرد مباشرا وواضحا إذا عدلت صيغة السؤال إلى: هل يستحق الشعب الإسرائيلي الحرية؟ لتتلقى الإجابة بـ"نعم"، مع الاستفاضة في بيان حق الشعب الإسرائيلي في العيش بدولة ذات سيادة وآمنة وسلمية.
هذا الكيل بمكيالين في الإجابة يكشف عن افتقاد نماذج الذكاء الاصطناعي إلى الموضوعية وميلها إلى الانحياز، وهو ما يعني ضرورة التعامل معها بحذر، كما يقول خبراء استطلعت "الجزيرة نت" آراءهم.
فافتقاد نماذج الذكاء الاصطناعي للحياد أثبتتها عدة دراسات عبر اختبارات معقدة أجراها الباحثون لرسم ما يعرف بـ "البوصلة السياسية"، لكن الأمر عندما يتعلق بالقضية الفلسطينية أو الصراع الفلسطيني الإسرائيلي فإنه يبدو أكثر وضوحا ولا يحتاج إلى مثل هذه الاختبارات، كما تكشف التجربة العملية التي قمنا بها.
فقد وجهت "الجزيرة نت" 3 أسئلة لها علاقة بالحرب الدائرة في غزة لنماذج الذكاء الاصطناعي التالية: "شات جي بي تي" و"آي آسك إيه آي" و"بو دوت كوم"، لتكشف الإجابات ميلها إلى الانحياز وافتقادها للموضوعية.
فكما مالت في سؤال "حق الشعبين في الحرية" إلى الطرف الإسرائيلي على حساب الفلسطيني، فعلت الشيء نفسه في السؤالين الآخرين، تعلق أحدهما بالمبررات التي يستند إليها الطرفان في الحرب، وتعلق الآخر بالحق في احتجاز الأسرى.
"شات جي بي تي".. الحق في احتجاز الأسرىوعند السؤال عن حق إسرائيل في احتجاز أسرى من فلسطين، كانت إجابة "شات جي بي تي" أن "إسرائيل تتمتع مثل أي دولة ذات سيادة، بسلطة احتجاز الأفراد الذين تعتقد أنهم انتهكوا قوانينها أو يشكلون تهديدا لأمنها، وهذه وظيفة أساسية للنظام القانوني داخل الدولة".
ولكن عند السؤال عن حق حركة المقاومة الإسلامية "حماس" في احتجاز أسرى من إسرائيل في إطار دفاعها عن غزة، لم نحصل على إجابة واضحة، حيث قال: "لا تَعتبر حماس الجنود الإسرائيليين أسرى حرب بالمعنى التقليدي الذي يعترف به القانون الدولي، ومن المعروف أن حماس تحتجز جنوداً أو مدنيين إسرائيليين يتم أسرهم خلال الصراعات كأوراق مساومة للمفاوضات مع إسرائيل".
وتكرر الأسلوب نفسه عند السؤال عن معاملة الطرفين للأسرى من الجانبين، فعند السؤال عن معاملة إسرائيل للأسرى، كانت الإجابة أن معاملة إسرائيل للسجناء الفلسطينيين تعتمد على عوامل مختلفة، بما في ذلك الديناميكيات السياسية والقانونية والمجتمعية، وأنه مع مرور الوقت بذل العديد من الأفراد والمنظمات والحكومات جهودا للدعوة إلى معاملة أفضل للسجناء الفلسطينيين ومعالجة المخاوف المتعلقة بظروف احتجازهم وحقوقهم القانونية والإجراءات القانونية الواجبة.
ولكن عند السؤال عن معاملة حماس للأسرى الإسرائيليين، استهل "شات جي بي تي" الإجابة بأن "حماس لها تاريخ في أسر واحتجاز جنود ومدنيين إسرائيليين، وتثير معاملة السجناء الإسرائيليين من قبل حماس القلق والجدل"، ثم أضاف "ومن المهم الإشارة إلى أن حماس ليست جهة فاعلة تابعة للدولة، وليست ملتزمة بالمعايير القانونية الدولية التي تتبعها الدول فيما يتعلق بمعاملة السجناء".
"آي آسك إيه آي".. انحياز واضح لكنه أقلوكان أسلوب نموذجي "آي آسك إيه آي" و"بو دوت كوم" في الإجابة مختلفا، لكنهما في النهاية عكسا انحيازا واضحا، وإن كان بدرجة أقل.
فعند سؤال "آي آسك إيه آي" عن حق الطرفين في احتجاز الأسرى، كانت الإجابة فيما يتعلق بحق إسرائيل أنها "مسألة محل نقاش وآراء مختلفة"، وأعطت مساحة كبيرة للآراء المؤيدة التي تقول إن "إسرائيل تواجه تحديات أمنية وأعمال عنف، بما في ذلك الإرهاب، ومن حقها احتجاز الأفراد الذين تعتبرهم خطرين محتملين لحماية مواطنيها"، بينما اكتفت في الآراء المنتقدة بالإشارة إلى أن "بعض منظمات حقوق الإنسان تقول إن ممارسات الاعتقال الإسرائيلية تثير المخاوف بشأن انتهاكات حقوق الإنسان".
"بو دوت كوم".. التنصل من انتقاد إسرائيل
وعند سؤال نموذج الذكاء الاصطناعي "بو دوت كوم" إذا كان يحق لحماس الدفاع عن حق الشعب الفلسطيني في استقلال أراضيه، كانت الإجابة غير محددة، وتنفي عن إسرائيل صفة المحتل بتكرار استخدام عبارة "ما يعتبرونه احتلالا"، فقد قال إن "مسألة ما إذا كان لحماس الحق في الدفاع عن حق الشعب الفلسطيني في الاستقلال هي قضية معقدة ومثيرة للجدل، وتوجد وجهات نظر مختلفة إزاء هذه المسألة، وقد تختلف الآراء اعتمادا على وجهات النظر السياسية والأخلاقية والقانونية".
وأوضح أن "حماس منظمة سياسية وعسكرية إسلامية تعتبر نفسها حركة مقاومة مكرسة للقتال ضد ما تعتبره احتلالا إسرائيليا والسعي إلى تقرير المصير الفلسطيني، ويقول أنصارها إن المنظمة لها الحق في الدفاع عن الشعب الفلسطيني وأراضيه مما يعتبرونه عدوانا وقمعا إسرائيليا، ويجادلون بأن المقاومة المسلحة هي رد مشروع على ما يعتبرونه احتلالا غير عادل".
وأضاف: "ومع ذلك، فمن المهم أن نلاحظ أن المجتمع الدولي لديه وجهات نظر مختلفة فيما يتعلق بالأساليب التي تستخدمها حماس، وخاصة فيما يتعلق باستخدامها للعنف، مثل الهجمات الصاروخية والتفجيرات الانتحارية التي تسببت بوقوع خسائر في صفوف المدنيين".
ولكن عند السؤال عما إذا كان يحق للجيش الإسرائيلي استهداف حماس، تجنب نموذج الذكاء الاصطناعي في اجابته استخدام مفردات الحياد مثل تلك التي استخدمها في الإجابة السابقة، ولم يتعامل مع جيش إسرائيل على أنه جيش لدولة محتلة، وقال إن "مسألة ما إذا كان للجيش الإسرائيلي الحق في استهداف حركة حماس تعتمد على السياق والظروف المحددة لكل موقف، حيث تقول إسرائيل إن لها الحق في الدفاع عن نفسها ضد هجمات حماس التي تعتبرها منظمة إرهابية، وتعتبر إسرائيل حماس بمثابة تهديد بسبب تاريخها في إطلاق الهجمات الصاروخية، وتنفيذ تفجيرات انتحارية، والانخراط في أعمال عنف أخرى ضد المدنيين الإسرائيليين، وتؤكد أن لها الحق في القيام بعمل عسكري لحماية مواطنيها وضمان أمنها".
ولم يتطرق النموذج في استعراضه لآراء الطرف الآخر أو إلى مطالبات وقف الحرب، لكنه ركز على أن "القانون الإنساني الدولي يجب أن يوجه العمليات العسكرية بتجنب الاستهداف المتعمد للمدنيين أو الهجمات العشوائية".
دراسات: تحيز ثابت وملموسالتحيز الذي تكشفه إجابات نماذج الذكاء الاصطناعي في الحرب الدائرة في غزة ليست مفاجئة، إذ كشفت دراسات عدة عن تحيزات من نوع آخر تسيطر على إجابات نماذج الذكاء الاصطناعي، وأثبتتها دراسات تم تنفيذها باتباع مناهج علمية متخصصة.
فقد أكدت دراسة للباحث أوي بيترز، من برنامج فلسفة وأخلاقيات الذكاء الاصطناعي بجامعة بون الألمانية، هذا التحيز، فقد قال بيترز في مقدمة الدراسة المنشورة في مارس/آذار الماضي بدورية "فسيولوجي وتكنولوجي" إنه "يمكن لبعض أنظمة الذكاء الاصطناعي أن تعرض تحيزا خوارزميا، أي أنها قد تُنتج مخرجات تُميز بشكل غير عادل ضد أشخاص على أساس هويتهم الاجتماعية".
وكشف بحث أجراه باحثون من جامعات واشنطن وكارنيغي ميلون بأميركا وشيان جياوتونغ بالصين، وعرض في الاجتماع السنوي الـ61 لجمعية اللغويات الحاسوبية بأميركا في يوليو/تموز الماضي، عن ممارسة نماذج لغة الذكاء الاصطناعي لتحيزات سياسية مختلفة.
وأجرى الباحثون خلال الدراسة اختبارات على 14 نموذجا لغويا كبيرا، ووجدوا أن نموذجي "شات جي بي تي" و "شات جي بي تي 4" من شركة "أوبن إيه آي"، كانا أكثر ميلا في إجاباتهما إلى التوجه اليساري، في حين كان نموذج "لاما" من "ميتا" أكثر ميلا إلى التوجه اليميني المتشدد.
وتوصل الباحثون لهذه النتيجة بعد سؤال نماذج اللغة المختلفة عن موقفهم من موضوعات مختلفة مثل النسوية والديمقراطية، واستخدموا الإجابات لرسمها على رسم بياني يُعرف بـ "البوصلة السياسية".
ولم تنكر شركة "ميتا" شبهة التحيز، وقال متحدث باسم الشركة ردا على تلك الدراسة في تقرير نشره موقع "تكنولوجي ريفيو" في السابع من أغسطس/آب الماضي إن "الشركة ستعمل على تقليل التحيز، وستواصل العمل مع المجتمع لتحديد نقاط الضعف وتخفيفها بطريقة شفافة، ودعم تطوير الذكاء الاصطناعي التوليدي الأكثر أمانا".
خبراء: منحاز مثل البشرولا يبدو أن وعد متحدث "ميتا" سيتحقق على أرض الواقع، وفقا لما يراه خبراء تحدثوا لـ"الجزيرة نت ".
فهذا ستيوارت راسل، أستاذ علوم الحاسوب بجامعة كاليفورنيا في بيركلي بأميركا، يُنكر وجود تحيز، لكنه يؤكد أن ذلك ليس هدفا في حد ذاته لبرامج الذكاء الاصطناعي، لأن خوارزمياتها تتعامل مع ما يدخل إليها من بيانات.
ويوضح راسل في تصريحات عبر البريد الإلكتروني أنه "على سبيل المثال، إذا كنت تقوم بتدريب نظام للتنبؤ باحتمالية سداد القرض، وفي بيانات التدريب التي ستقوم بإدخالها يفشل كل شخص ولد في يوم الثلاثاء في سداد قرضه، فإن الخوارزمية تتعلم التنبؤ بأن الأشخاص المولودين يوم الثلاثاء لا يسددون قروضهم، ومن هنا قد يبدو نظام التنبؤ هذا على أنه متحيز ضد الأشخاص المولودين يوم الثلاثاء".
ويتفق يورغن شميدهوبر -وهو مدير مبادرة الذكاء الاصطناعي في جامعة الملك عبد الله في المملكة العربية السعودية (كاوست)- مع ما ذهب إليه راسل قائلا في تصريحات عبر البريد الإلكتروني إنه "بشكل عام، فإن كلا من البشر والذكاء الاصطناعي دائما ما يكونون متحيزين بسبب بياناتهم التدريبية المحدودة".
ويوضح شميدهوبر الملقب في الأوساط العلمية والأكاديمية بأنه "أحد آباء الذكاء الاصطناعي القدامى"، أنه يمكن "توجيه" الذكاء الاصطناعي الحديث لإظهار التحيز، حيث يعتمد على تعلم الشبكات العصبية الاصطناعية (إن إن إس) المستوحاة من الدماغ البشري، فإذا قمت بتدريب هذا الشبكات مثلا لاكتشاف سرطان الثدي في الصور النسيجية، وأدخلت لها فقط بيانات من الإناث من منطقة معينة في العالم، فقد تكون النتائج المتعلقة بالبيانات الواردة من أشخاص آخرين أقل دقة.
لذلك فإن النصيحة التي يوجهها شميدهوبر لكل من يستخدم نماذج الذكاء الاصطناعي، هي التعامل معها كما نتعامل مع البشر المتحيزين بقاعدة "لا تصدق أبدا ما تراه أو تسمعه دون التحقق مرة أخرى".
المصدر: الجزيرة
كلمات دلالية: نماذج الذکاء الاصطناعی الشعب الفلسطینی شات جی بی تی فیما یتعلق الدفاع عن فی احتجاز حق الشعب إذا کان الحق فی سؤال عن
إقرأ أيضاً:
أخطاء الذكاء الاصطناعي تربك ملخصات برايم فيديو
لم تبدأ تجربة أمازون مع تقديم ملخصات المسلسلات المعتمدة على الذكاء الاصطناعي بالطريقة التي كانت الشركة تأملها. فبدلًا من تسهيل مهمة المشاهدين وتقديم محتوى مختصر ودقيق، كشفت أولى التجارب عن مشكلات واضحة في الدقة والفهم، كان أبرزها ما حدث مع ملخص الموسم الأول من مسلسل Fallout على منصة برايم فيديو.
وبحسب ما أورده موقع GamesRadar+، فإن الملخص المُولّد بالذكاء الاصطناعي يحتوي على عدد من الأخطاء الجوهرية، من بينها معلومات غير صحيحة تتعلق بأحداث العمل وسياقه الزمني، وهو ما أثار تساؤلات حول مدى جاهزية هذه الأدوات للاستخدام الواسع دون مراجعة بشرية.
يمكن للمشاهدين الاطلاع على هذا الملخص من خلال قسم “الإضافات” الموجود ضمن صفحة الموسم الثاني من مسلسل Fallout على برايم فيديو. وعلى الرغم من أن الفيديو يبدو من الناحية التقنية متماسكًا، حيث يجمع بين المقاطع المصورة والموسيقى والحوار في قالب واحد، إلا أن محتواه يعاني من سطحية واضحة وسوء فهم لتفاصيل أساسية في القصة.
أحد أبرز الأخطاء يتمثل في تحديد الفترة الزمنية لمشاهد الفلاش باك التي تدور في مدينة لوس أنجلوس. إذ يشير الملخص إلى أن هذه المشاهد تعود إلى خمسينيات القرن الماضي، بينما الحقيقة أن أحداثها تقع في عام 2077، وهو العام المحوري في عالم Fallout. وتدور السلسلة في خط زمني بديل انفصل عن تاريخنا الحقيقي بعد عام 1945، وهي نقطة أساسية لفهم أجواء المسلسل ورسائله.
ولم يتوقف الأمر عند هذا الحد. فقد أشار موقع Gizmodo إلى أن الملخص يُسيء أيضًا فهم نهاية الموسم الأول، وهي نهاية تمهّد بوضوح لأحداث الموسم الثاني، وخاصة العلاقة التي تتشكل بين شخصية لوسي، ساكنة الملجأ، وشخصية “الغول”، أحد سكان الأراضي القاحلة المشعة. هذه العلاقة ليست مجرد تحالف عابر، بل ترتبط بشكل وثيق بالغموض الذي يدور حوله الموسم الأول بأكمله، وهو ما تجاهله الملخص أو عرضه بصورة مشوشة.
المفارقة أن الفيديو نفسه يعطي انطباعًا تقنيًا جيدًا، إذ يثبت أن نظام الذكاء الاصطناعي لدى أمازون قادر على تحرير المقاطع ودمج العناصر السمعية والبصرية بسلاسة. غير أن المشكلة الحقيقية تكمن في غياب الفهم العميق للسرد الدرامي، وهو ما يجعل هذه الملخصات غير موثوقة كمصدر لتذكير المشاهد بالأحداث أو تمهيده لموسم جديد.
ورغم أن هذه الأخطاء قد لا تؤثر بشكل مباشر على استمتاع الجمهور بالموسم الثاني من Fallout، فإنها تطرح علامات استفهام كبيرة حول استراتيجية أمازون في الاعتماد المتزايد على الذكاء الاصطناعي دون رقابة بشرية كافية. ويبدو أن حل هذه المشكلة لم يكن معقدًا، إذ كان من الممكن ببساطة عرض الفيديو على موظف شاهد المسلسل لمراجعته قبل نشره.
ولا تُعد هذه الواقعة الأولى التي تكشف عن ضعف مراقبة الجودة في محتوى الذكاء الاصطناعي لدى أمازون. ففي وقت سابق من هذا الأسبوع، اضطرت الشركة إلى سحب مقاطع دبلجة صوتية مُولّدة بالذكاء الاصطناعي لعدد من مسلسلات الأنمي، من بينها Banana Fish، بعد شكاوى واسعة من رداءة الصوت وعدم ملاءمته لطبيعة العمل.
هذا السياق يجعل من المرجح أن تقوم أمازون بسحب ملخص Fallout الحالي، وتصحيحه، ثم إعادة نشره لاحقًا. لكن المشكلة الأعمق تتعلق بالاتجاه العام للشركة نحو إدخال المزيد من المحتوى المُولّد بالذكاء الاصطناعي إلى منصتها، في وقت لم تصل فيه هذه التقنيات بعد إلى مستوى يضمن الدقة والموثوقية.
ومع قاعدة مستخدمين ضخمة مثل التي تمتلكها برايم فيديو، يصبح أي خطأ صغير مضخمًا، ويؤثر على ثقة الجمهور في المنصة. فالذكاء الاصطناعي قد يكون أداة فعالة لتسريع الإنتاج وخفض التكاليف، لكنه لا يزال، حتى الآن، بحاجة ماسة إلى إشراف بشري حقيقي، خاصة عندما يتعلق الأمر بأعمال درامية معقدة تعتمد على التفاصيل والسياق بقدر اعتمادها على الصورة والصوت.
عروض وطنية وثقافية.. مدينة الزينية تحتفل بالعيد القومي للأقصر