هيومن رايتس ووتش تندد باستخدام الذكاء الاصطناعي في الحرب على غزة
تاريخ النشر: 10th, September 2024 GMT
#سواليف
قالت ” #هيومن_رايتس_ووتش ” في وثيقة أسئلة وأجوبة أصدرتها اليوم إن استخدام الجيش الإسرائيلي لتقنيات المراقبة و #الذكاء_الاصطناعي وأدوات رقمية أخرى للمساعدة في تحديد أهداف هجماته في #غزة يزيد من #خطر إلحاق ضرر محتمل بالمدنيين. تثير هذه الأدوات الرقمية مخاوف أخلاقية وقانونية وإنسانية خطيرة.
وتابعت ، يستخدم الجيش الإسرائيلي في أعماله العدائية في غزة أربع أدوات رقمية بغية تقدير عدد المدنيين في منطقة ما قبل الهجوم، وإخطار الجنود بموعد الهجوم، وتحديد ما إذا كان شخص ما مدنيا أم مقاتلا، وما إذا كان مبنى ما مدنيا أم عسكريا.
قال زاك كامبل، باحث أول في مجال المراقبة في هيومن رايتس ووتش: “يستخدم الجيش الإسرائيلي بيانات غير كاملة وحسابات معيبة وأدوات غير مناسبة للمساعدة في اتخاذ قرارات مصيرية تنطوي على حياة أو موت في غزة، مما قد يزيد من الضرر اللاحق بالمدنيين. المشاكل الكامنة في تصميم واستخدام هذه الأدوات تعني أنه، وبدلا من تقليل الضرر اللاحق بالمدنيين، قد يؤدي استخدام هذه الأدوات إلى مقتل وإصابة المدنيين بشكل غير قانوني”.
مقالات ذات صلة
تتضمن هذه الأدوات مراقبة مستمرة ومنهجية للسكان الفلسطينيين في غزة، بما في ذلك بيانات جُمعت قبل الأعمال العدائية الحالية بطريقة تتعارض مع القانون الدولي لحقوق الإنسان. تستخدم هذه الأدوات البيانات الشخصية للمدنيين لتقديم معلومات تستند إليها توقعات التهديدات وتحديد الأهداف والتعلم الآلي.
لتقييم الأدوات الأربع التي استخدمها الجيش الإسرائيلي في الأعمال العدائية في غزة منذ 7 أكتوبر/تشرين الأول 2023، اعتمدت هيومن رايتس ووتش على تصريحات عامة من مسؤولين إسرائيليين، ومواد لم تتناولها التقارير سابقا نشرها الجيش الإسرائيلي، وتقارير إعلامية، ومقابلات مع خبراء وصحفيين. توفر هذه المعلومات، رغم عدم اكتمالها، تفاصيل مهمة حول كيفية عمل هذه الأدوات، وكيفية تصميمها، والبيانات التي تستخدمها، وكيف يمكنها أن تدعم صنع القرارات العسكرية.
من ضمن هذه الأدوات، هناك أداة تعتمد على تتبع الهواتف الخلوية لمراقبة إجلاء الفلسطينيين من أجزاء من شمال غزة أمر الجيش الإسرائيلي سكانها بالكامل بالمغادرة في 13 أكتوبر/تشرين الأول؛ وأداة تُعرف بـ “غوسبل” (The Gospel) تُعِدّ قوائم بالمباني أو الأهداف الهيكلية الأخرى التي سيتم مهاجمتها؛ وأداة تُعرف بـ “لافندر” (Lavender) تمنح تصنيفات للأشخاص في غزة فيما يتعلق بانتمائهم المشتبه به إلى الجماعات المسلحة الفلسطينية من أجل تصنيفهم كأهداف عسكرية؛ وأداة تعرف بـ “أين أبي؟” (Where’s Daddy?)، تزعم تحديد متى يكون الهدف في مكان معين – غالبا مكان إقامة عائلته المفترض، وفقا لتقارير إعلامية- لمهاجمته هناك.
هذه الأدوات محدودة بسبب مشاكل شائعة مشتركة مع أنواع أخرى من التكنولوجيا، لكن قد يكون لها عواقب قاتلة على المدنيين في السياقات العسكرية. يفترض أن أداتين منها، وهما أداة مراقبة الإجلاء و”أين أبي؟”، تُستخدمان لتوفير معلومات تٌستخدم في تحديد الأهداف وحركة القوات وغيرها من الأعمال العسكرية باستخدام بيانات موقع الهواتف الخلوية. رغم أن هذه الأدوات لها استخدامات عملية عديدة في الحياة اليومية، لكنها ليست دقيقة بما يكفي لتوفير معلومات من أجل القرارات العسكرية، وبخاصة بالنظر إلى الأضرار الهائلة التي لحقت بالبنية التحتية للاتصالات في غزة.
يبدو أن الأداتين الرقميتين “غوسبل” و”لافندر” تعتمدان على عمليات التعلم الآلي لمد قرارات الاستهداف بمعلومات وذلك باستخدام معايير أُعدّتها خوارزمية يُرجّح أن تكون متحيزة وغير مكتملة، ووفق عملية يستحيل تقنيا التدقيق فيها. غالبا ما تعكس مخرجات الخوارزمية تحيزات مبرمجيها ومجتمعهم. رغم أن الأدوات الرقمية يفترض أنها محايدة، فإنها تحظى بثقة مفرطة من جانب مشغليها البشر، رغم عدم تجاوز دقتها دقة البيانات المنشأة بها، وهي غالبا ما تكون غير كاملة في السياقات العسكرية ولا تمثل السياق الذي تعمل فيه الأداة بشكل كامل. يهدد الاعتماد على هذه الخوارزميات بانتهاك التزامات القانون الدولي الإنساني فيما يتصل بحماية المدنيين.
تعتمد “لافندر” و”الإنجيل” على التعلم الآلي للتمييز بين الأهداف العسكرية والمدنيين والأعيان المدنية. التعلم الآلي هو نوع من الذكاء الاصطناعي يستخدم أنظمة محوسبة يمكنها استخلاص استنتاجات من البيانات والتعرف على الأنماط دون تعليمات صريحة. استخدام التعلم الآلي لتحديد الاشتباه أو تزويد قرارات الاستهداف بمعلومات قد يزيد من احتمال إلحاق الضرر بالمدنيين.
لم يكن ممكنا توثيق متى وأين يستخدم الجيش الإسرائيلي هذه الأدوات الرقمية أو المدى الذي استخدمها فيه بالتزامن مع أساليب أخرى لجمع المعلومات والاستخبارات.
ينبغي للجيش الإسرائيلي التأكد من توافق أي استخدام للتكنولوجيا في عملياته مع القانون الدولي الإنساني. قرارات الاستهداف ينبغي ألا تُتخذ حصرا بناء على توصيات أداة التعلم الآلي. إذا كانت القوات الإسرائيلية تتصرف بناءً على أي من توصيات أو تقييمات هذه الأدوات دون تدقيق كاف أو معلومات إضافية، كما ورد، مما أدى إلى هجمات تسبب في إلحاق الضرر بالمدنيين، فإن القوات الإسرائيلية تنتهك قوانين الحرب. ارتكاب انتهاكات خطيرة لقوانين الحرب، مثل الهجمات العشوائية على المدنيين، بقصد إجرامي، يشكل جرائم حرب.
ينبغي لإسرائيل أيضا، باعتبارها قوة احتلال في غزة، التأكد من أن استخدامها للأدوات الرقمية لا ينتهك حقوق الخصوصية للفلسطينيين. في مايو/أيار 2024، اكتشفت هيومن رايتس ووتش بيانات نشرها الجيش الإسرائيلي علنا على الإنترنت، يفترض أن ذلك بالخطأ، تضمنت ما يُفترض أنه بيانات تشغيلية تتعلق بالأنظمة المستخدمة لمراقبة إجلاء الأشخاص وتنقلهم عبر غزة، وكذلك لتوقع الضرر المدني المحتمل الذي قد تسببه الهجمات في مناطق معينة. أُدرجت البيانات في كود [شفرة] المصدر لموقع معلومات الإجلاء التابع للجيش الإسرائيلي، وتضمنت معلومات شخصية وأسماء العائلات الأكبر عددا في كل منطقة.
قالت هيومن رايتس ووتش إن نشر الجيش الإسرائيلي لهذه البيانات عبر الإنترنت ينتهك حق الفلسطينيين في الخصوصية ويُظهر عدم اتخاذ الجيش للاحتياطات الأمنية الكافية بشأن ما يجمعه من بيانات.
أرسلت هيومن رايتس ووتش رسالة إلى الجيش الإسرائيلي في 13 مايو/أيار بأسئلة تفصيلية، لكن لم تتلقَّ أي رد.
على مدى الأشهر العشرة الماضية في غزة، قُتل أكثر من 40 ألف شخص وجُرح 94 ألفا آخرين، وفقا لوزارة الصحة في غزة. كما دُمر أكثر من 70% من البنية التحتية المدنية وأكثر من 60% من منازل المدنيين أو تضررت بشدة. نزح جميع سكان غزة تقريبا من منازلهم. قالت هيومن رايتس ووتش إن هناك حاجة إلى تحقيقات محايدة في استخدام هذه الأدوات الرقمية لتحديد ما إذا كانت قد ساهمت بشكل غير قانوني في خسارة أرواح وممتلكات المدنيين وإلى أي مدى، والخطوات اللازمة لتلافي الضرر مستقبلا.
قال كامبل: “قد يكون لاستخدام التكنولوجيا المعيبة في أي سياق آثار سلبية على حقوق الإنسان، لكن المخاطر في غزة تفوق أي سياق آخر. ينبغي ألا يؤدي استخدام الجيش الإسرائيلي لهذه الأدوات الرقمية بغية دعم صنع القرارات العسكرية إلى هجمات غير قانونية وأضرار مدنية جسيمة”.
المصدر: سواليف
كلمات دلالية: سواليف هيومن رايتس ووتش الذكاء الاصطناعي غزة خطر الجیش الإسرائیلی هیومن رایتس ووتش القانون الدولی التعلم الآلی یفترض أن فی غزة
إقرأ أيضاً:
الذكاء الاصطناعي.. أمل اللغات المهددة
بعد عقود من التراجع، تجد لغة الأينو اليابانية القديمة، التي كانت يومًا صوتًا نابضًا لسكان شمال البلاد الأصليين، فرصة جديدة للحياة، لكن هذه المرة عبر الخوارزميات. مشروع بحثي جديد بقيادة جامعة كيوتو يوظّف الذكاء الاصطناعي لتحليل وترميز مئات الساعات من التسجيلات الصوتية النادرة، في محاولة لإعادة بناء هذه اللغة الموشكة على الاندثار.
من الشريط إلى الشيفرة
في غرفة ضيقة داخل أحد المعامل الجامعية، يدير البروفيسور تاتسويا كاواهارا فريقًا من الباحثين وهم يستمعون إلى مقاطع صوتية مهترئة سُجلت قبل عقود على أشرطة كاسيت. تدور البكرات، ويتكرر الطنين، ثم يصدح صوت امرأة مسنة تروي حكاية من التراث الشفهي لشعب الأينو. هذه التسجيلات، التي كانت في طي النسيان، أصبحت اليوم المادة الخام لبناء نظام ذكاء اصطناعي يتعلم كيف «يفهم» لغة الأينو، وينطقها.
يقول كاواهارا: «الكثير من المواد الصوتية تعاني من رداءة واضحة، فهي مسجلة بأجهزة تناظرية قديمة وفي بيئات منزلية مليئة بالتشويش، رغم ذلك استطعنا بفضل أدوات المعالجة الحديثة رقمنة حوالي 400 ساعة من المحتوى وتحويلها إلى بيانات قابلة للتعلم»
بناء نظام لا يعرف اللغة
بخلاف أنظمة التعلم الآلي التقليدية التي تعتمد على قواعد لغوية وهيكل نحوي موثق، يواجه مشروع إحياء لغة الأينو تحديًا فريدًا يتمثل في ندرة البيانات اللغوية وتضاؤل عدد المتحدثين الأصليين.
وبسبب غياب مصادر كافية، اعتمد فريق جامعة كيوتو على نموذج «نهاية إلى نهاية» (end-to-end) يتيح للذكاء الاصطناعي تعلم اللغة مباشرة من التسجيلات الصوتية، دون الحاجة إلى معرفة مسبقة بالبنية اللغوية.
بدأ المشروع بتحليل نحو 40 ساعة من قصص «أويبيكير» النثرية، رواها ثمانية متحدثين وتم الحصول عليها من متحف الأينو الوطني ومؤسسات ثقافية في نيبوتاني. وبحسب كاواهارا، فإن الأرشيف الكامل يضم نحو 700 ساعة من المحتوى الصوتي، معظمها مخزنة على أشرطة كاسيت قديمة.
من التسجيل إلى التحدث
لم يقتصر مشروع جامعة كيوتو على التعرف الآلي على لغة الأينو، بل امتد إلى تطوير نظام لتوليد الكلام، في محاولة لإعادة إحياء النطق الشفهي للغة المهددة بالاندثار.
وباستخدام تسجيلات لأشخاص ناطقين بالأينو قرؤوا نصوصًا بلغتهم لأكثر من عشر ساعات، درّب الباحثون نموذجًا صوتيًا قادرًا على تحويل النصوص إلى كلام منطوق. والنتيجة، بحسب الفريق، كانت صوتًا اصطناعيًا يحاكي نبرة وإيقاع امرأة أينو مسنّة، يروي قصصًا شعبية بإلقاء طبيعي نسبيًا، وإن بدا أسرع من المعتاد.
أكد البروفيسور كاواهارا إن الأطفال أصبحوا قادرين على الاستماع إلى القصص التقليدية بلغة الأينو عبر مساعدين افتراضيين، مضيفًا أن الفريق يسعى لتوسيع نطاق المبادرة لتشمل لهجات مختلفة ومحتوى حديث يعبّر عن الجيل الشاب.
الدقة تحت الاختبار
على الرغم من التقدم التقني، تظل التساؤلات قائمة بشأن دقة أنظمة الذكاء الاصطناعي المستخدمة في إحياء لغة الأينو. ويقول الفريق البحثي إن نظام التعرف على الكلام يحقق دقة تصل إلى 85% في التعرف على الكلمات، وأكثر من 95% في تمييز وحدات الصوت «الفونيمات»، إلا أن هذه النسب تنخفض عند التعامل مع لهجات محلية أو متحدثين غير مدرّبين.
مايا سيكينه، شابة من أصول أينو تدير قناة على يوتيوب لتعليم اللغة، تنظر إلى المشروع بعين متحفّظة. وتقول: «التقنية مثيرة للإعجاب، لكن الذكاء الاصطناعي لا يمكنه التقاط التفاصيل الدقيقة في نطق الأينو. هناك أخطاء قد تصبح شائعة إذا لم تُراجع بدقة».
وتشير سيكينه إلى أن بعض أفراد المجتمع أعربوا عن قلقهم من المشروع، في ظل تاريخ طويل من الإهمال والتعامل غير المناسب مع الثقافة.
وتقول سيكينه: «هناك خشية من إساءة استخدام اللغة مجددًا».
وأضافت: «لكن مشاركة مراجعين من الأينو داخل المشروع ساعد على تخفيف هذا القلق جزئيًا».
السياق أهم من النطق
وفي السياق ذاته، تقول سارة هوكر، مديرة مؤسسة «Cohere for AI»: «القلق لا يتوقف عند النطق. إن الخطر الحقيقي في تقنيات اللغة النادرة هو فقدان السياق».
وأضافت هوكر: «اللغة ليست فقط أصواتًا أو نصوصًا، بل بيئة وثقافة. عندما يختفي المتحدثون، تفقد اللغة معناها الحقيقي حتى لو تم توليدها تقنيًا».
ويتفق معها فرانسيس تايرز، مستشار علم اللغة الحاسوبي في مشروع «Common Voice» التابع لمؤسسة موزيلا، مشيرًا إلى أن المستقبل الحقيقي لتقنية اللغة يكمن في أن يقودها المجتمع نفسه. في مناطق مثل إسبانيا، طوّر متحدثو الباسك والكاتالان أدوات الترجمة الخاصة بهم بأنفسهم.
الملكية والشفافية
لا تزال مسألة ملكية البيانات الناتجة عن استخدام الذكاء الاصطناعي في إحياء لغة الأينو مثار جدل. ويؤكد البروفيسور تاتسويا كاواهارا أن التسجيلات الصوتية الأصلية تعود ملكيتها إلى المتحف الوطني للأينو، وقد جُمعت بموافقة عائلات المتحدثين، في حين تحتفظ جامعة كيوتو بحقوق النظام التقني المطوّر.
وقال كاواهارا: «النظام ببساطة لا يعمل بدون البيانات، وفي نهاية المطاف، لا يمكن إحياء لغة بصورة حقيقية من دون المتحدثين الأصليين»
ويرى الباحث ديفيد أديلاني، أستاذ علوم الحاسوب بجامعة ماكغيل الكندية، أن بناء الثقة مع المجتمعات المحلية يجب أن يكون أساس أي مبادرة لغوية.
وقال أديلاني: «غالبًا ما يشعر الناس أن بياناتهم تُؤخذ ثم تُستخدم لتحقيق أرباح، دون إشراكهم الحقيقي في العملية. السبيل الأمثل هو تدريبهم ليكونوا في موقع القيادة بأنفسهم».
في نهاية المطاف، يثبت مشروع جامعة كيوتو أن الذكاء الاصطناعي يمكن أن يكون أداة فعالة في حماية اللغات المهددة، شرط أن يُستخدم بحذر، وأن يرافقه تمكين حقيقي للمجتمعات الناطقة. هكذا تتحول الأصوات القديمة إلى مستقبل حي، يحافظ على الذاكرة الثقافية ويعزز التنوع اللغوي في عالم سريع التغير.
أوباسانجو يشيد بمستوى التحضيرات لمعرض التجارة البينية الإفريقية بالجزائر