البحث عن يوتوبيا إدارية

المعتصم الريامي -

في ألبانيا وفي فضيحة مدوية للرأي العام، أعلن الرئيس بعد سلسلة من التحقيقات القانونية أن هناك قضايا فساد تخص إسناد المناقصات لمحارق نفايات في عدة مدن. اتهِم في هذه القضية عدد من الوزراء والمستثمرين، وكان ذلك امتدادا لسلسلة من قضايا الفساد في ألبانيا، والتي أثارت الكثير من الاحتجاجات والمظاهرات.

وهربًا من قضايا الفساد هذه، وفي الأيام التي تتبنى وتتغنى الكثير من المؤسسات والدول والأفراد بالذكاء الاصطناعي، جاءت الفكرة لحكومة ألبانيا لتعلن عن أول وزيرة بالذكاء الاصطناعي في العالم، وجاء تنصيبها كوزيرة افتراضية للمشتريات العامة، وأطلق عليها اسم «ديالا» وهي تعني الشمس بالألبانية، في اعتراف ضمني من رئيس الوزراء الألباني وحكومته بفشل الإنسان في حماية الثقة العامة وتدوير الكرسي لمن هو أكثر ثقة ونزاهة، فقد قال رئيس الوزراء يومها بأن ألبانيا في طريقها لتكون «دولة نزيهة تمامًا وخاليةً من الفساد في المناقصات العامة». فهل هذا الهروب من الإنسان إلى الآلة -والذكاء الاصطناعي تحديدًا- يحل موضوع الفساد فعلًا؟ وهل الآلات والذكاء الاصطناعي يمكن أن تخلق حكومة مثالية فاضلة و«يوتوبيا» إدارية، خالية من خطايا وفساد البشر؟

مثل معظم الحكومات في العالم، يشتكي الناس من فسادها وإجراءاتها البيروقراطية، علاوة على البطء والكلفة، كما أن الإنسان بذاته يحمل في تكوينه ووعيه شبكة معقدة من المصالح والعلاقات والتحيزات الواعية وغير الواعية، وهذا ما قد يؤثر في اتخاذه قرارات غير منصفة، فيها مصلحة أو تحيز لمن يعرف أو يريد. وهنا يتفوق الكيان الرقمي بذكائه الاصطناعي على نظيره البيولوجي، كما أن الذكاء الاصطناعي -نظريًا- لن ينحرف قيد أنملة بسبب إغراءٍ مالي أو ابتزازٍ عاطفي، ولن يطمع في رشوة أو يخاف من تهديد، وهنا قد تبدو أنها العدالة التامة، وأن نظامًا كهذا بالتأكيد سيدير المشتريات العامة بجدارة، وأن المناقصات سترسو على من هو أكفأ وأجدر فقط.

وهذا ما فكرت فيه الحكومة الألبانية فعلا، فقد تم تعيين «ديالا» في يناير 2025 لتكون أول من يستقبلك في موقع الحكومة الإلكترونية الألبانية، وأصدرت أكثر من 36 ألف وثيقة خلال هذا العام، وسجلَت أكثر من 972 ألف تفاعلٍ معها، وذلك حين بدأت كموظفة مساعدة في الخدمات الإلكترونية الألبانية، قبل أن يتم ترقيتها -في سبتمبر من هذا العام- إلى وزيرة الدولة للمشتريات العامة. ولا يوجد حتى الآن معلومات رسمية عن الشركة المطورة والتقنيات المستخدمة، وترجح بعض المصادر إلى شراكة وثيقة مع مايكروسوفت وأوبن أيه آي OpenAI وأنها مستضافة على سيرفرات أزور Azure التابعة لمايكروسوفت، وهي قائمة على التعلم بالنماذج اللغوية الكبيرة المطورة بلغة بايثون. ومن أبرز مهامها الحالية التحليل والتدقيق المسبق للمعاملات الإلكترونية المتعلقة بالمتشريات، ومعالجة جميع الوثائق والعروض والمستندات القانونية المتعلقة بأي مناقصة عامة، وتحديد تضارب المصالح عبر فحص ملكية الشركات وعلاقاتها التاريخية بالمسؤولين، وكشف التلاعب بالأسعار وتوفير نظام إنذار مبكر ضد الفساد الذي يصعب اكتشافه بشرياً. كما أنها تقوم بتقييم جميع العروض المقدمة للمناقصات وتقوم بقرار إرساء المناقصات كذلك.

فالوزيرة «ديالا» يمكنها معالجة وتحليل عشرات الآلاف من الوثائق والعروض والمعلومات والقوانين في دقائق بسيطة، وهي مهمة تستغرق أسابيع أو أشهر من فريق عمل بشري. وهذه السرعة لا تؤثر على جودة العمل، على العكس، فهي تساهم في مكافحة الفساد بحيث ترصد بسرعة أي شكوك في المعاملات وأي أنماط تبدو احتيالية وكلما زادت المعاملات زادت البيانات وتباعا يزيد تطورها، فقدرتها على تطبيق خوارزميات التعلم الآلي يمكّنها من الكشف عن أنماط الفساد المُعقدة والمُتخفية التي لا يمكن للعين أو الوعي البشري إدراكه بسرعة. كما أن الوزيرة ديالا شفافة في إجراءاتها، لا تعلن النتائج بدون أن تذكر المبررات وراء اختيارها مزودي الخدمة ومن رست عليهم المناقصات، وهذا ما كان يحتاجه الناس في ألبانيا لإعادة كسب الثقة التي فقدتها هذه الوزارة.

على الرغم من كل مميزات الوزيرة ديالا، وما قد يأتي من أخواتها، فهل هي فعلا معصومة من الخطأ؟ وهل مدينة يوتوبيا الفاضلة حكومتها من الذكاء الاصطناعي؟ أم أنها فرضية تقنية وفلسفية لم تحظ بعد بنصيبها من الاختبار في الواقع الإداري المعقَد؟ هذه الأسئلة التي ينبغي علينا مناقشتها. فهل النظام الذي يصنعه قاصرون، وربما فاسدون، وربما متحيزون -بعلمهم أم بدون علمهم-، هل يمكن له أن يكون نزيهًا تمامًا؟ فعصمة ديالا ونزاهتها لابد أن تكون مشروطة بسلامة بيتها وبيئتها التي نشأت فيها. فهذه الوزيرة حين تم تطويرها وتدريبها وإدخال البيانات لها، قد تعلمت من تاريخ يشوبه الفساد ربما، وهذه الوزيرة حين برمجها مهندسوها، ألا يمكن أنهم وقعوا في أخطاء محسوبة أو غير محسوبة، أوليس هؤلاء المهندسون بشرًا قد يتم إفسادهم كذلك؟ وهذا ما يدعى بالتحيَز الخوارزمي للآلات. ولا يقتصر التحيز على الأخطاء الصريحة، بل يمتد إلى الانحيازات الاجتماعية والثقافية الضمنية التي تنعكس لاحقا في كيفية تصنيف البيانات أو تحديد «النتائج الصحيحة» تاريخيًا. هذا يجعل ديالا مُعرَّضة لأن تفضّل، لا إراديًا، أنواعًا معينة من مقدمي العروض والمناقصات أو أنماطًا معينة منها.

كما أن الذكاء الاصطناعي في حالات كثيرة، حينما يصبح الأمر معقدًا، ويصبح التعلم عميقا جدا، فإنه يتخذ قرارات لا يمكنه حتى هو تفسيرها، وهذا ما يطلق عليه بتحدي الصندوق الأسود، التي تتم فيه العمليات دون وعي تام من مطوريها بكيفية حدوثها أصلا، فإذا اتخذت ديالا قرارًا بإرساء مناقصة بعشرات الملايين على جهة معينة، ولم تتمكن من تقديم تفسير بشري منطقي ومفهوم يتجاوز مجرد الإشارة إلى «درجة مطابقتها للخوارزمية المتفق عليها»، هنا نكون قد دخلنا في مرحلة «العدالة غير المفسَّرة». هذا الفقدان للشرح والتفسير البشري البسيط قد يخلق فراغًا قانونيًا وفلسفيًا في مفهوم عدالة الإجراءات، ويعيدنا لنفس الدائرة التي بدأنا منها.

من جهة أخرى، فإن القرار السياسي والإداري ليس دائمًا مسألة كفاءة رقمية صماء. فالأمر يتطلب غالبًا حسًا أخلاقيًا عاليًا ومرونةً في التعامل مع الظروف القاهرة أو غير المتوقعة للإنسان أو المؤسسات، وهذا ما لا يمكن لديالا وأخواتها أن تتفهمه، كما أنها لا يمكنها فهم أو قياس الحالة والآثار الاجتماعية الحقيقية المتوقعة من قرارتها.

ثم ماذا لو ارتكبت ديالا خطأً برمجيًا؟ من يُحاسب هنا؟ من المسؤول؟ الآلة لا يمكنها أن تعتذر أو تُعاقَب أو تُسجن، وأن عوقبت فهي لا تحس بذلك. هذا النقص في المسؤولية الذاتية للآلة يُعيد العبء دائمًا إلى الإنسان. وهنا نجد موقف المعارضة الألبانية مبررًا، حين هاجمت المعارضة هذه الوزيرة الافتراضية المستجدة واعتبرتها مهزلة دعائية ومخالفة دستورية صريحة، واصفةً القرار بأنه كفيل بأن يحوّل المواطنين إلى «عبيد لعقلية تقنية» لا يمكن الطعن فيها أو تحميلها المسؤولية. وهذا ما تحاول معالجته الكثير من الأوراق العلمية المعنية بحوكمة الذكاء الاصطناعي مؤخرا -وبشكل متزايد-، وهي معضلة المسؤولية في خوارزميات الذكاء الاصطناعي، فهي تحاول الإجابة على السؤال البسيط: «من المسؤول؟»، وتقترح الكثير من هذه الأوراق العلمية أن في مثل هذه الأنظمة يجب أن يتم تسجيل كل خطوة في دورة حياة الأنظمة الذكية هذه، بداية من الفكرة، وجمع البيانات وتطوير الشفرات البرمجية، وصولًا إلى القرارات التنفيذية التي تصدرها، فهذا يعطي مجالا أكبر للمراجعة والتدقيق من قبل طرف ثالث يتتبع مسار القرار لتحديد مصادر الأخطاء، إن وقعت، ويعرف من يتحمل المسؤولية. وفي الحالة الألبانية التي نتناولها، اعتبر رئيس الوزراء الألباني نفسه مسؤولا بنفسه عن كل قرارات الوزيرة المقربة ديالا.

إن تجربة هذا الوزيرة الافتراضية تمثل اختبارًا حاسمًا لنظرية الحكومة الخوارزمية باستخدام الذكاء الاصطناعي، فهي تضعنا أمام خيارين صعبين، إما التسليم بأن الكفاءة والنزاهة في الذكاء الاصطناعي يمكن أن تخلّص الأنظمة الإدارية الحالية من فسادها أو قصورها وعيوبها، وأن الذكاء الاصطناعي هو وسيلتنا الوحيدة للهروب من طبيعة البشر الفاسدة أحيانا والمخطئة أحيانا أخرى، وهنا نسلم بأخطاء الآلات وغموضها وغياب أحاسيسها بالمعاني البشرية كما هي، وهكذا نكون قد أخضعنا أنفسنا بكامل وعينا لاستبداد من نوع جديد. والخيار الثاني هو الإقرار بأن ديالا هي مجرد أداة قوية. يمكنها أن تكتشف وتمنع أنواعًا معينة من الفساد (مثل الرشوة والتهديد)، لكنها لا يمكن أن تُحصِّن نفسها ضد الفساد كله، المقصود منه وغير المقصود، وهنا يمكن أن نعيد تحجيمها وتقليل صلاحياتها، وتنظيم أمورها ومن يطورها قانونيًا وأخلاقيًا. كما ينبغي أن تخضع بشكل مستمر لكثير من الجهود التقنية والهندسية والأخلاقية لتقييم عدالتها بانتظام، واختبار تحيزاتها. وهنا تتحول النزاهة من هدف إداري إلى متطلب تقني وقيود رياضية وخوارزمية ملزمة.

جدير بالذكر أن هناك تجربة مقاربة في أستونيا، فهي تستخدم الذكاء الاصطناعي في خدمات الحكومة الإلكترونية، وذلك في نظام تبادل البيانات الحكومية المفتوحة بأمان وشفافية بين المؤسسات، وفلسفتها هي أن الآلة كـ«ضامن للنزاهة» وليس كـ «صانع للقرار» كما أن كوريا الجنوبية وسنغافورة -مثلا- تستخدم الذكاء الاصطناعي والبيانات الضخمة لتحليل تدفقات الأموال والعقود الحكومية للكشف عن التلاعب (مثل التلاعب بضرائب العقارات أو الاحتيال المالي)، ولكنها تُبقي دائماً على رقابة بشرية قوية لاتخاذ الإجراء النهائي، وقد تكون هذه التجارب الأكثر اعتدالا وتقبلا من الجمهور.

المعتصم الريامي مطور ومهتم بالتقنية

المصدر: لجريدة عمان