متخصص بالتكنولوجيا الرقمية: من مخاطر الذكاء الصناعى بث معلومات خاطئة وفبركة الفيديوهات
تاريخ النشر: 19th, July 2023 GMT
قال الدكتور أحمد سامر، المتخصص في التكنولوجيا الرقمية، إن مجلس الأمن مهتم بشكل كبير بمناقشة مخاطر الذكاء الاصطناعى، خاصة أنه يشمل مخاطر عديدة.
وأضاف المتخصص في التكنولوجيا الرقمية، في تصريحات لبرنامج مساء «دي إم سى» أنه من أبرز مخاطر الذكاء الاصطناعى بث معلومات خاطئة وفبركة الفيديوهات، وتهديد حياة الناس من خلال أسلحة تستخدم عبر الذكاء الاصطناعى.
وأوضح المتخصص في التكنولوجيا الرقمية أن من مخاطر الذكاء الاصطناعى أيضا التدخل في خصوصيات المواطنين والتحيز، لافتا إلى أن هناك ضرورة لأن يكون هناك دور تشريعى للحد من تلك المخاطر.
أخبار متعلقة
«قد يعرضهم للاعتداء الجنسي».. تحذيرات جديدة من خطورة الذكاء الاصطناعي على الأطفال
وزير الاتصالات: بناء قدرات 500 طالب في خمس جامعات بمجال الذكاء الاصطناعي
«المحامين»: «الفكر القانوني» تعقد ندوة «المسؤولية الجنائية والذكاء الاصطناعي» (تفاصيل)
الدكتور أحمد سامر المتخصص في التكنولوجيا الرقمية الذكاء الاصطناعىالمصدر: المصري اليوم
كلمات دلالية: شكاوى المواطنين الذكاء الاصطناعى الذکاء الاصطناعى مخاطر الذکاء
إقرأ أيضاً:
جوجل تختبر عناوين ومُلخصات الذكاء الاصطناعي في Discover
في خطوة جديدة تظهر مدى تغلغل الذكاء الاصطناعي في خدمات جوجل اليومية، بدأت الشركة باختبار معالجة المقالات باستخدام الذكاء الاصطناعي داخل منصة Discover، مما أثار جدلًا بين الناشرين والخبراء حول دقة المعلومات ودور جوجل كوسيط إعلامي.
لاحظ موقع The Verge أن بعض المقالات المعروضة لمستخدمي Discover تحمل عناوين رئيسية مولدة بالذكاء الاصطناعي تختلف عن العناوين الأصلية المنشورة، وأحيانًا تكون مضللة أو خاطئة تمامًا.
على سبيل المثال، تم عرض عنوان جديد لمقال منشور على Ars Technica باسم "الكشف عن سعر جهاز Steam Machine"، بينما كان العنوان الأصلي يقول: "جهاز Steam Machine من Valve يبدو كجهاز تحكم، لكن لا تتوقع أن يكون سعره كذلك". لا توجد أي معلومات رسمية عن الأسعار، سواء في المقال الأصلي أو في أي منشور آخر من Valve.
هذه الفجوة بين العنوان المولّد بالذكاء الاصطناعي والمحتوى الأصلي توضح المخاطر التي قد تنجم عن اعتماد الذكاء الاصطناعي في صياغة العناوين، خصوصًا أن المستخدم قد يتلقف معلومات غير دقيقة دون وعي.
لم يقتصر الأمر على العناوين، بل شمل المُلخصات أيضًا. لاحظ فريق Engadget أن Discover قد يعرض العناوين الأصلية مع ملخصات مولدة بالذكاء الاصطناعي، تحمل علامة تشير إلى أنها مولدة بالذكاء الاصطناعي، ما يُنبّه المستخدم لاحتمالية وجود أخطاء، لكنه لا يمنع هذه الأخطاء من الوصول إلى القراء. بعض الخبراء يرون أن الحذر الأفضل كان يتمثل في الامتناع عن استخدام الذكاء الاصطناعي في هذه الحالات حتى تتحقق دقة المعلومات بشكل كامل.
من جانبها، أوضحت مالوري ديليون، ممثلة جوجل، أن هذه الحالات كانت جزءًا من "تجربة صغيرة في واجهة المستخدم لمجموعة فرعية من مستخدمي Discover". وأضافت: "نختبر تصميمًا جديدًا يُغير موضع العناوين الحالية لتسهيل استيعاب تفاصيل الموضوع قبل استكشاف الروابط من جميع أنحاء الويب".
وعلى الرغم من أن التجربة تبدو غير ضارة من الناحية النظرية، إلا أن جوجل لديها تاريخ طويل من التوتر مع الناشرين الإلكترونيين، حيث سعت الشركات الإعلامية مرارًا للحصول على تعويضات مقابل استخدام محتواها، وفي بعض الحالات قامت جوجل بحذف تلك المصادر من نتائج البحث، ثم بررت ذلك بأنها لا تضيف الكثير إلى أرباحها الإعلانية.
في الوقت نفسه، توسّع جوجل تجربة الذكاء الاصطناعي عبر وضع AI Mode، وهو روبوت دردشة وصفه تحالف وسائل الإعلام الإخبارية بأنه "سرقة" صريحة للمحتوى. نشر روبي ستاين، نائب رئيس المنتجات في بحث جوجل، على منصة X أن الشركة تختبر دمج وضع الذكاء الاصطناعي بشكل أكثر تكاملاً مع البحث على الأجهزة المحمولة، بحيث يظهر على نفس شاشة "نظرة عامة على الذكاء الاصطناعي" بدلاً من وجود خدمتين منفصلتين في علامات تبويب مختلفة.
هذه الخطوة قد تجعل تجربة البحث أكثر تكاملاً، لكنها أيضًا ترفع التساؤلات حول دقة وموثوقية المعلومات المعروضة للمستخدمين، خصوصًا إذا اعتمدت على الذكاء الاصطناعي في إعادة صياغة الأخبار والمُلخصات.
تظهر هذه التحركات أن جوجل تسعى إلى دمج الذكاء الاصطناعي بشكل أعمق في تجربة المستخدم، لكن التحدي الأكبر يتمثل في ضمان دقة المعلومات والحفاظ على مصداقية المصادر. وبينما يرحب بعض المستخدمين بميزات الذكاء الاصطناعي التي توفر ملخصات سريعة وتسهّل الوصول إلى المعلومات، يحذر خبراء الإعلام من المخاطر المحتملة لتضليل القراء ونشر معلومات غير دقيقة قد تؤثر على الفهم العام للأخبار.
مع استمرار التجارب، يظل السؤال قائمًا: هل سيصبح الذكاء الاصطناعي في Discover أداة لتعزيز المعلومات، أم أنه سيزيد من ضبابية المحتوى ويضع جوجل في مواجهة جديدة مع الناشرين ومستخدمي الأخبار حول العالم؟
عاجل | الجيش الإسرائيلي: نطالب سكان مبان محددة في قريتي جباع ومحرونة في جنوب لبنان بإخلائها فورا