خبير روسي يوضح مدى خطورة الشبكات العصبية على سمعة الإنسان
تاريخ النشر: 14th, August 2024 GMT
روسيا – أوضح خبير تكنولوجيا المعلومات الروسي روديون قديروف إن الشبكات العصبية يمكن أن تنتج بيانات خاطئة.
أدرجت الشبكة العصبية ChatGPT الأسبوع الماضي أستاذ القانون جوناثان تورلي على قائمة المحامين المزعوم تورطهم في قصة غير قانونية، لكن هذه الاتهامات باطلة، والمعلومات مأخوذة من مقال غير موجود في صحيفة “واشنطن بوست”.
وأشار المتخصص إلى أن مشكلة المحامي “ليست مجرد حادثة معزولة”، بل هي “مثال على قدرة النماذج اللغوية الحديثة، مثل ChatGPT من OpenAI، توليد معلومات كاذبة تعرض سمعة الناس وحتى حياتهم للخطر”. ولاحظ قديروف أن الأمر المثير للقلق بشكل خاص هو أن “الهلوسة” المتعلقة بالشبكات العصبية أصبحت طبيعية وتنشأ بسبب خصوصيات عملها.
وأوضح الخبير أن مثل هذه الإخفاقات تحدث عندما تبدأ نماذج الذكاء الاصطناعي في محاولة للإجابة على أي طلب، بـ”اصطناع” المعلومات. ويحدث هذا عندما يتطلب الأمر حجما معينا من المعلومات، بينما لا تحتوي الشبكة العصبية على بيانات كافية لإكماله.
وأوضح المتخصص: “على سبيل المثال، إذا طلبت من شبكة عصبية ذكر 10 أسماء مرتبطة بحدث ما، فيمكنها أن تأتي بسبعة خبراء، حتى لو كانت على علم في الواقع بثلاثة أسماء فقط”.
ولا تقتصر المشكلة المتعلقة بهذا النوع من المعلومات الخاطئة على النص فقط. وفي مارس الماضي، نشرت تصور يُزعم أنها تُظهر اعتقال الرئيس الأمريكي السابق دونالد ترامب. وتم إنشاء هذه الصور المزيفة باستخدام الذكاء الاصطناعي، وبعد ذلك انتشرت على شبكات التواصل الاجتماعي.
لقد سلط الخبير الضوء أيضا على عدم وجود ضوابط فعالة من جانب منصات التواصل الاجتماعي، فضلا عن الحاجة إلى معايير ولوائح أكثر صرامة لاستخدام الذكاء الاصطناعي في مثل هذه المجالات الحساسة”. ودعا الناس إلى الاهتمام بجودة المحتوى والانتباه إلى التفاصيل لأن جودة النسخة المزيفة غالبا ما تكون أقل من جودة المحتوى الأصلي.
المصدر: كومسومولسكايا برافدا
المصدر: صحيفة المرصد الليبية
إقرأ أيضاً:
الذكاء الاصطناعي يدخل فحص القيادة في الأردن وتحويل الرخص إلى إلكترونية قريباً
صراحة نيوز- كشف العميد عمر القرعان، مدير إدارة ترخيص السواقين والمركبات، عن توجه جديد لاعتماد تقنيات الذكاء الاصطناعي بشكل موسع في فحص القيادة العملي، بالإضافة إلى التحول الكامل نحو الرخص الإلكترونية للمركبات والسائقين بدلاً من القسائم البلاستيكية التقليدية.
ووصف القرعان المشروع بأنه “ضخم”، موضحاً أنه سيُنفذ باستخدام مركبات خاصة مزوّدة بكاميرات ومستشعرات وتقنيات ذكاء اصطناعي لمراقبة وتقييم المتقدمين لفحص القيادة، وذلك ضمن المسارات المعتمدة حاليًا في الشوارع العامة. وأكد أن التقييم سيتم وفق 32 معيارًا محددًا، بحيث تعتمد نسبة 80% من التقييم على الأنظمة الإلكترونية، مقابل 20% يتم عبر التقييم البشري، دون تحديد موعد رسمي لبدء تنفيذ المشروع.
وفي جانب آخر، أشار القرعان إلى مشروع رقابي جديد يستهدف مركبات تدريب السواقين، عبر تركيب أجهزة تحقق حيوية في مراكز التدريب لتوثيق بيانات المتدربين، بالإضافة إلى تجهيز المركبات بأنظمة إلكترونية لمتابعة الحصص التدريبية وضمان الشفافية في العملية التعليمية.
وفيما يخص الرخص، أكد القرعان أن العمل جارٍ لتحويل رخص المركبات والسائقين إلى إلكترونية “في وقت قريب جداً”، حيث يجري التخلي التدريجي عن القسائم الورقية، ضمن مشروع يتم تنفيذه على مرحلتين:
المرحلة الأولى تتضمن إطلاق القسائم الإلكترونية بالتوازي مع استمرار إصدار القسائم التقليدية، بينما تشمل المرحلة الثانية إلغاء القسائم الورقية نهائيًا والاعتماد الكامل على الصيغة الرقمية.
وسيتم إرسال القسيمة الإلكترونية للمستفيدين عبر رسالة نصية تتضمن رابطاً يحتوي على نسخة بصيغة PDF، مزودة برمز QR وعلامات مائية رقمية لضمان أمان الوثيقة وسهولة التحقق منها، حيث يمكن عرضها بشكل مباشر وآمن عند الضغط على الرابط.
كما أعلن القرعان عن مشروع لأتمتة عمليات الدفع الإلكتروني لكافة الخدمات المقدمة من الإدارة، بحيث يتم الدفع إلكترونياً من خلال منصات مثل “مدفوعاتكم” و”إي فواتيركم”، على أن يُرسل إيصال الدفع إلى المستفيد عبر رابط إلكتروني.
وسيتم تطبيق منظومة الدفع الإلكتروني على مرحلتين، تبدأ الأولى بإتاحة الدفع الإلكتروني إلى جانب الدفع النقدي، ثم تُستكمل لاحقًا بالتحول الكامل إلى الدفع الإلكتروني فقط.
تعزيز الشفافية والمشاركة.. مذكرة تفاهم جديدة بين مفوضية الانتخابات ومؤسسة بحثية وطنية