تحذير ات .. حروب المستقبل ستدار بالخوارزميات قبل الرصاص
تاريخ النشر: 29th, May 2025 GMT
في عصر أصبحت فيه الحروب تتجاوز الأسلحة التقليدية كالمدافع والدبابات، لتُخاض بالعقول والخوارزميات، يتصدر الذكاء الاصطناعي المشهد بوصفه أحد أخطر الأدوات في النزاعات الحديثة، مما يجعله سلاحًا حاسمًا في ترسانة الحروب الرقمية.
ولم تعد الجيوش بحاجة لاجتياح الحدود بأسلحة تقليدية، فهجوم سيبراني واحد مدعوم بالذكاء الاصطناعي قادر على شلّ شبكة كهرباء دولة، أو اختراق أنظمة دفاعها الجوي، أو حتى التأثير على الرأي العام من خلال موجات تضليل معلوماتي منظمة.
لذا بات الذكاء الاصطناعي العنصر الأهم في معادلة “الحروب الهجينة”، حيث تلتقي الحرب السيبرانية بالحرب النفسية، ويتحول الهجوم الرقمي إلى سلاح استراتيجي يعيد رسم موازين القوى دون إطلاق رصاصة واحدة.
وكشف الدكتور محمد محسن رمضان، خبير الأمن السيبراني ومكافحة الجرائم الإلكترونية، لـ”العربية.نت” و”الحدث.نت” دور الذكاء الاصطناعي في ساحة القتال، وقال إن دوره “يتم من خلال تحليل البيانات الضخمة في الزمن الحقيقي لتحديد الأهداف بدقة، وتوقّع تحركات العدو قبل أن تحدث، وشنّ هجمات سيبرانية مؤمنة تستطيع التكيف مع نظم الحماية التقليدية، والتسلل من الثغرات قبل أن تُكتشف”.
وأضاف أن “الذكاء الاصطناعي يمكن أن يستخدم في قيادة الطائرات المُسيّرة وأنظمة الأسلحة الذاتية لاتخاذ قرارات ميدانية بدون تدخل بشري، ونشر الأخبار الزائفة عبر روبوتات المحادثة والمنصات الاجتماعية لتفكيك الجبهة الداخلية للدول المستهدفة.
وأوضح مستشار الأمن السيبراني أنه في الحروب الحديثة، “اعتمدت الأطراف المتنازعة على الذكاء الاصطناعي لتوجيه الطائرات بدون طيار، وإدارة حملات التأثير المعلوماتي، واختراق البنية التحتية الرقمية، واستخدام أدوات الذكاء الاصطناعي في تحديد مواقع أهداف الضربات الجوية بدقة عالية، بل والتشويش على أنظمة الاتصال والتحكم العسكرية”، لافتا إلى أنه في الحروب القادمة، “ستكون الخوارزميات أسرع من الرصاص”، موضحا أنه ربما يكمن التهديد الأكبر في فكرة “القرار الآلي بالقتل”، حيث تتخذ الأنظمة الذكية قرارات فتاكة دون إشراف بشري مباشر.
وقال إن “هذا النوع من التطور يفتح الباب على مصراعيه لمخاطر أخلاقية وقانونية غير مسبوقة، وقد عبّر عن هذه المخاوف كبار علماء التقنية، حيث أكدوا أن الذكاء الاصطناعي قد يكون أخطر على البشرية من الأسلحة النووية”.
وتابع الخبير المصري أنه أمام هذه التحديات، بات الأمن السيبراني، “درعاً وطنياً” إذ تحتاج الدول إلى تعزيز قدراتها في الرصد المبكر للهجمات الذكية، والاستثمار في التشفير المتقدم والحوسبة الكمية، وبناء جيوش إلكترونية قادرة على الردع والردّ، وتطوير إطار قانوني دولي ينظّم استخدام الذكاء الاصطناعي في العمليات القتالية، مضيفا بالقول “إننا نعيش لحظة تاريخية يعاد فيها تعريف معنى “الحرب” و”السلام”، فالتحدي لم يعد فقط كيف نحارب؟، بل كيف نمنع آلة بلا مشاعر من إشعال فتيل حرب بلا نهاية؟”.
واختتم الخبير المصري قائلا “إنه لم يتم إحكام السيطرة على استخدام الذكاء الاصطناعي، فقد يتحول من أداة بناء إلى آلة هدم، ولذا لا خوف من الآلة الذكية، بل من الإنسان الذي يبرمجها للقتل
المصدر: مأرب برس
إقرأ أيضاً:
الأخلاقيات في الأتمتة: معالجة التحيز في الذكاء الاصطناعي
مع تزايد اعتماد الشركات على الأنظمة الآلية، أصبحت الأخلاقيات مصدر قلق رئيسي. وباتت الخوارزميات تتخذ، بشكل متزايد، القرارات التي كان يتخذها البشر سابقًا، وتؤثر هذه الأنظمة على العديد من مناحي الحياة. تتطلب هذه القوة، التي يملكها الذكاء الاصطناعي، مسؤولية. فبدون قواعد ومعايير أخلاقية واضحة، يمكن للأتمتة أن تُؤدي إلى الظلم وتُسبب الضرر.
يؤثر التحيز وتجاهل الأخلاقيات على الناس بطرق حقيقية. يمكن للأنظمة المتحيزة، على سبيل المثال، أن ترفض منح القروض أو الوظائف أو الرعاية الصحية، ويمكن للأتمتة أن تزيد من سرعة اتخاذ القرارات الخاطئة في حال عدم وجود حواجز حماية. عندما تتخذ الأنظمة قرارًا خاطئًا، غالبًا ما يكون من الصعب الاعتراض عليه أو حتى فهم السبب، ويؤدي غياب الشفافية إلى تحويل الأخطاء الصغيرة إلى مشاكل أكبر.
سبب التحيز في الذكاء الاصطناعي
غالبًا ما ينشأ التحيز في الأتمتة من البيانات. إذا تضمنت البيانات التاريخية تمييزًا، فقد تُكرر الأنظمة المُدربة عليها هذه الأنماط. على سبيل المثال، قد ترفض أداة ذكاء اصطناعي تُستخدم لفحص المتقدمين للوظائف المرشحين بناءً على الجنس أو العرق أو العمر إذا كانت بيانات التدريب الخاصة بها تعكس تلك التحيزات السابقة. ويدخل التحيز أيضًا من خلال التصميم، حيث يمكن للاختيارات المتعلقة بما يجب قياسه، والنتائج التي يجب تفضيلها، وكيفية تصنيف البيانات أن تؤدي إلى نتائج منحرفة.
هناك أنواع عديدة من التحيز. يحدث تحيز العينات عندما لا تُمثل مجموعة البيانات جميع الفئات، بينما قد ينشأ تحيز التصنيف من مدخلات بشرية ذاتية. حتى الخيارات التقنية، مثل نوع الخوارزمية، قد تُشوّه النتائج.
المشاكل ليست نظرية فحسب. فقد تخلت شركة "أمازون" للتجارة الإلكترونية عن استخدام أداة توظيف في عام 2018 بعد أن فضّلت المرشحين الذكور، ووُجد أن بعض أنظمة التعرف على الوجه تُخطئ في تحديد الأشخاص ذوي البشرة الملونة بمعدلات أعلى من غيرهم. تُزعزع هذه المشاكل الثقة في نماذج الذكاء الاصطناعي وتُثير المخاوف.
وهناك مصدر قلق حقيقي آخر. فحتى عندما لا تُستخدم سمات مثل العرق، بشكل مباشر، فإن سمات أخرى مثل الرمز البريدي أو المستوى التعليمي قد تُمثّل بدائل، مما يعني أن النظام قد يُميّز حتى لو بدت المدخلات محايدة، على سبيل المثال، بناءً على المناطق الأكثر ثراءً أو فقرًا. يصعب اكتشاف التحيز دون اختبار دقيق. ويُعدّ ارتفاع حالات تحيز الذكاء الاصطناعي علامة على الحاجة إلى مزيد من الاهتمام بتصميم النظام.
المعايير المهمة
القوانين تُواكب التطور وتحاول معالجة التحيز. يُصنّف قانون الذكاء الاصطناعي للاتحاد الأوروبي، الصادر عام 2024، أنظمة الذكاء الاصطناعي حسب درجة خطورتها. يجب أن تستوفي الأنظمة عالية الخطورة، كتلك المستخدمة في التوظيف أو تقييم الجدارة الائتمانية، متطلبات صارمة، تشمل الشفافية والرقابة البشرية والتحقق من التحيز. في الولايات المتحدة، تعمل الجهات التنظيمية بفاعلية. وتُحذّر لجنة تكافؤ فرص العمل أصحاب العمل من مخاطر أدوات التوظيف المُدارة بالذكاء الاصطناعي، كما أشارت لجنة التجارة الفيدرالية إلى أن الأنظمة المتحيزة قد تُخالف قوانين مكافحة التمييز.
أنظمة أكثر عدالة
لا تنشأ أخلاقيات الأتمتة صدفة، بل تتطلب تخطيطًا دقيقًا، وأدوات مناسبة، واهتمامًا مستمرًا. يجب دمج التحيز والإنصاف في العملية منذ البداية، لا إضافتهما لاحقًا. وهذا يستلزم تحديد الأهداف، واختيار البيانات المناسبة، وإشراك الأطراف المعنية.
يتطلب تحقيق ذلك اتباع بعض الاستراتيجيات الرئيسية:
إجراء تقييمات التحيز
الخطوة الأولى للتغلب على التحيز هي اكتشافه. يجب إجراء تقييمات التحيز مبكرًا وبشكل متكرر، من مرحلة تطوير النموذج إلى نشره، لضمان عدم تحقيق الأنظمة لنتائج غير عادلة. قد تشمل المقاييس القرارات التي يكون لها تأثير أكبر على مجموعة واحدة من غيرها.
يجب أن تُجري جهات خارجية عمليات تدقيق التحيز كلما أمكن ذلك. قد تُغفل المراجعات الداخلية قضايا رئيسية أو تفتقر إلى الاستقلالية، كما أن الشفافية في عمليات التدقيق الموضوعية تبني ثقة الجمهور.
مجموعات بيانات متنوعة
تساعد بيانات التدريب المتنوعة على تقليل التحيز من خلال تضمين عينات من جميع مجموعات المستخدمين، وخاصةً تلك التي غالبًا ما يتم استبعادها. فمساعد صوتي مُدرّب في الغالب على أصوات الرجال لن يُجدي نفعًا مع النساء، ونموذج تقييم الائتمان الذي يفتقر إلى بيانات المستخدمين ذوي الدخل المحدود قد يُسيء تقديرهم.
يساعد تنوع البيانات أيضًا النماذج على التكيف مع الاستخدام الفعلي. ينتمي المستخدمون إلى خلفيات مختلفة، وينبغي أن تعكس الأنظمة ذلك. فالتنوع الجغرافي والثقافي واللغوي جميعها عوامل مهمة. تنوع البيانات لا يكفي بمفرده. فيجب أن تكون دقيقة ومُصنّفة جيدًا.
الشمولية في التصميم
يُشرك التصميم الشامل الأشخاص المتأثرين. ينبغي على المطورين استشارة المستخدمين، وخاصةً المعرضين لخطر الضرر (أو الذين قد يُسببون ضررًا باستخدام الذكاء الاصطناعي المتحيز)، لأن ذلك يُساعد على كشف الجوانب السلبية.
يعني التصميم الشامل أيضًا فرقًا متعددة التخصصات. إن إشراك خبراء الأخلاق والقانون والعلوم الاجتماعية يُمكن أن يُحسّن عملية اتخاذ القرار، لأن هذه الفرق أكثر ميلًا لطرح أسئلة مختلفة ورصد المخاطر.
يجب أن تكون الفرق متنوعة أيضًا. فالأشخاص ذوو التجارب الحياتية المختلفة يكتشفون قضايا مختلفة، والنظام الذي تُنشئه مجموعة متجانسة قد يتغاضى عن مخاطر قد يكتشفها الآخرون.
الخلاصة أن الأتمتة باقية، لكن الثقة في أنظمة الذكاء الاصطناعي تعتمد على عدالة النتائج ووضوح القواعد. إذ قد يُسبب التحيز في أنظمة الذكاء الاصطناعي ضررًا.