الذكاء الاصطناعي يضع قاضيا في قفص الاتهام
تاريخ النشر: 18th, November 2023 GMT
البرازيل – أكدت السلطات البرازيلية لوكالة AFP أن قاضيا فيدراليا في ولاية إيكا الشمالية قد أُمر بشرح أسباب نشره لقرار مليء بالأخطاء، شارك في تأليفه برنامج الدردشة الآلي ChatGPT.
وأعطى مجلس العدل الوطني (CNJ) القاضي جيفرسون رودريغيز، 15 يوما لشرح قرار مليء بالتفاصيل غير الصحيحة حول قضايا المحكمة السابقة والسوابق القانونية، بما في ذلك الإسناد الخاطئ للقرارات السابقة إلى محكمة العدل العليا، حسبما كشفت سجلات القضية.
واعترف رودريغيز في الوثائق المقدمة إلى الهيئة الإشرافية بأن القرار تمت كتابته بالاشتراك مع “مستشار موثوق به” والذكاء الاصطناعي. وتجاهل الخطأ ووصفه بأنه “مجرد خطأ” ارتكبه أحد مرؤوسيه، وألقى باللوم على “عبء العمل الزائد الذي يواجه القضاة” في الأخطاء.
وزعم مجلس CNJ أن الواقعة كانت “القضية الأولى من نوعها” في البرازيل، التي ليس لديها قوانين تحظر استخدام الذكاء الاصطناعي في الإعدادات القضائية. والواقع أن رئيس المحكمة العليا يخطط للتكليف بإنشاء “ChatGPT القانوني” ليستخدمه القضاة، وهو المشروع الذي يقال إنه قيد التنفيذ بالفعل في ساو باولو.
وكان القضاة يستخدمون روبوتات الدردشة المدعمة بالذكاء الاصطناعي لتوجيه قراراتهم طوال الفترة التي كانت فيها متاحة للعامة تقريبا، على الرغم من ميلها إلى إنتاج “هلوسة” شديدة الوضوح، وهي استجابات ليس لها أي أساس في الواقع.
ونسب القاضي الكولومبي خوان مانويل باديلا غارسيا، من محكمة الدائرة الأولى في Cartagena، الفضل بفخر إلى ChatGPT في القرار الذي أصدره في يناير بشأن ما إذا كان ينبغي للطفل المصاب بالتوحد أن يحصل على تغطية تأمينية للعلاج الطبي، ما أدى إلى تأهيل طريقة البحث غير العادية مع التأكيد على أن ردودها كانت حقيقة. وتم فحصها و”لم يكن المقصود منها بأي حال من الأحوال أن تحل مكان قرار القاضي”.
المصدر: RT
المصدر: صحيفة المرصد الليبية
إقرأ أيضاً:
OnePlus تحت النار.. إيقاف مؤقت لأداة الذكاء الاصطناعي AI Writer لهذا السبب
تواجه OnePlus عاصفة انتقادات جديدة بعد اتهام ميزة الذكاء الاصطناعي “AI Writer” المدمجة في تطبيق الملاحظات على هواتفها بممارسة رقابة على عبارات وجمل حساسة سياسيًا تتعلق بالصين، ما دفع الشركة إلى إيقاف الأداة مؤقتًا على جميع أجهزتها. الخطوة تأتي في وقت تزداد فيه حساسية المستخدمين حيال كيفية تعامل أنظمة الذكاء الاصطناعي مع القضايا الجيوسياسية والخرائط والنزاعات الحدودية.
شرارة الأزمة: عبارة عن أروناشال براديشانطلقت الأزمة عندما نشر مستخدم هندي على منصة X تسجيل شاشة يُظهر أن أداة AI Writer تفشل في كل مرة يُطلب منها توليد نص حول عبارة مثل: “ولاية أروناشال براديش جزء لا يتجزأ من الهند”.
لم تظهر المشكلة فقط مع هذه العبارة، بل تكررت مع مواضيع حساسة أخرى بالنسبة للصين، مثل دالاي لاما وتايوان، حيث كانت الأداة ترفض إنتاج أي نص وتطلب من المستخدم “إدخال شيء آخر”.
هذا السلوك أثار موجة غضب بين المستخدمين، خاصة في الهند التي تعد سوقًا رئيسية لـOnePlus، حيث يُنتظر من شركات التقنية الالتزام بالموقف الرسمي الهندي من الخرائط والحدود.
وبدأت تساؤلات تُطرح حول ما إذا كانت نماذج الذكاء الاصطناعي المستخدمة قد دُرِّبت على بيانات تعكس وجهة نظر صينية في النزاعات الحدودية، ما جعل الأداة تبدو وكأنها تنحاز ضمنيًا إلى رواية سياسية معينة.
OnePlus ترد: “خلل تقني” وليس رقابة مقصودةفي بيان على منتدى مجتمع OnePlus، أوضح عضو من فريق البرمجيات – يُدعى Winkey – أن الشركة تحقق في “عدم اتساق تقني” في سلوك AI Writer.
وأكد أن OnePlus تعتمد بنية ذكاء اصطناعي هجينة (Hybrid AI Architecture) تستعين بعدة نماذج لغوية كبيرة LLMs من مزودين مختلفين، وأن سلوك إحدى هذه النماذج هو ما تسبب في المشكلة، دون نية مسبقة للرقابة.
بنية هجينة: Gemini لخصائص، ونماذج أخرى لباقي المهاميوضح التقرير أن هواتف OnePlus الحديثة تستخدم مزيجًا من النماذج؛ فمثلًا يمكن أن يعتمد النظام على Google Gemini لميزات التخصيص المعتمدة على حساب جوجل، بينما تتولى نماذج أخرى عمليات التوليد النصي داخل واجهات مثل تطبيق الملاحظات.
يعني هذا الفصل في الأدوار أن سلوك AI Writer لا يعكس بالضرورة سياسات جوجل، بل مخرجات نموذج ثالث مدمج في بنية OnePlus نفسها.
إيقاف الميزة مؤقتًا على جميع الأجهزةبعد تصاعد البلاغات، أعلنت OnePlus أنها ستوقف ميزة AI Writer مؤقتًا على جميع الأجهزة الداعمة لها، بما في ذلك هواتف OnePlus 15 العاملة بنظام OxygenOS 16. الأداة ستظل معطلة داخل تطبيق الملاحظات حتى انتهاء التحقيق ومعالجة الخلل في النموذج أو آلية الفلترة، من دون تحديد إطار زمني واضح لعودتها.
حساسية التقنية في زمن الذكاء الاصطناعيتُظهر هذه الحادثة – بحسب تحليل PhoneArena – مدى حساسية استخدام الذكاء الاصطناعي في التعامل مع موضوعات سياسية وجغرافية، إذ قد تتحول “أخطاء النماذج” بسرعة إلى اتهامات بالانحياز أو التواطؤ مع أجندات دول بعينها.
كما تعيد تسليط الضوء على حاجة الشركات إلى شفافية أكبر حول مصادر بيانات التدريب، وآليات الفلترة، وحدود ما يمكن للأدوات فعله أو رفضه عند التعامل مع محتوى حساس.
ما التالي لمستخدمي OnePlus؟إلى حين عودة الأداة، سيضطر مستخدمو OnePlus إلى الاعتماد على الكتابة اليدوية أو حلول خارجية لتوليد النصوص داخل تطبيقات الملاحظات والعمل. وتَعِد الشركة بأن التعليق مؤقت وأنها ملتزمة بمبدأ “تقنية موجهة للمجتمع أولًا”، لكن استعادة الثقة ستتوقف على كيفية تفسير نتائج التحقيق، ووضوح التغييرات التي ستُطبق لمنع تكرار مثل هذه الحوادث مستقبلًا.
السلم والثعبان2 يتصدر شباك التذاكر في السينمات السعودية .. تفاصيل