وثيقة جديدة للتصدي لعمليات الاحتيال والتضليل في "الذكاء الاصطناعي"
تاريخ النشر: 19th, September 2024 GMT
طرحت الهيئة السعودية للبيانات والذكاء الاصطناعي، وثيقة مبادئ التزييف العميق، عبر منصة ”استطلاع“ بهدف وضع أدلة استرشادية واضحة للمطورين وصناع المحتوى والمستخدمين لتفادي أو معالجة الآثار المترتبة من استخدام تقنيات التزييف العميق والتخفيف من مخاطرها.
كما تتضمن توصيات ومبادئ أخلاقيات الذكاء الاصطناعي وممارسات حماية البيانات الشخصية.
أخبار متعلقة "سدايا" تطلق أول إطار مختص بمعايير الذكاء الاصطناعي في العالمانطلاق القمة العالمية للذكاء الاصطناعي بمشاركة 450 متحدثًا من 100 دولةاليوم الأول.. تفاصيل مذكرات التفاهم الموقعة في قمة الذكاء الاصطناعيصنّفت الوثيقة المخاطر الأساسية المرتبطة بتقنيات التزييف العميق الخبيثة إلى 3 فئات، تشمل العمليات الاحتيالية، التي تتمثل في تقنيات التزييف العميق لتقليد الأفراد الموثوق بهم بشكلٍ مقنع من أجل الحصول على معلومات حساسة أو خداع الضحايا، ومن خلال تكرار الأصوات وتعبيرات الوجه والسلوكيات.
وتتضمن أيضًا الاحتيال على الشركات المتعددة الجنسيات، أو التلاعب غير المصرح به استخدام تقنية التزييف العميق لإنشاء محتوى صريح أو مساومة للأفراد دون إذنهم، وغالباً ما يكون ذلك لأغراض متنوعة، مثل: المضايقة، أو الابتزاز، أو الإضرار بالسمعة، أو انتهاك الخصوصية، كفضيحة التزييف العميق للمشاهير.التضليل والدعاية
تشمل المخاطر الأساسية أيضًا التضليل والدعاية عن طريق نشر تقنيات التزييف العميق معلومات كاذبة، وتتلاعب بالتصور العام، وتؤثر على النتائج السياسية من خلال تصوير شخصيات سياسية تدلي ببيانات كاذبة أو تنخرط في سلوك غير أخلاقي، ويمكن استخدام هذا التكتيك لتقويض انتشار المعارضين، والتأثير على الرأي العام، وزعزعة استقرار المجتمعات، مما يؤدي إلى انتشار المعلومات الخاطئة، مثل حادثة التزييف العميق لزعيم سياسي.
أكدت الوثيقة أنه للتخفيف من المخاطر المرتبطة بالتزييف العميق، يجب على الأفراد والمؤسسات تنفيذ أفضل الممارسات والتي منها الحد من التعرض للبيانات الشخصية عبر الإنترنت، وتعزيز الثقافة حول مخاطر التزييف العميق، والتعرف على خصائص التزييف العميق، وتنفيذ عمليات تحقق قوية بالنسبة للمؤسسات لا سيما العاملة في مجال الإعلام والاتصالات.أخلاقيات الذكاء الاصطناعي
ألزمت الوثيقة، المطورين بأخلاقيات الذكاء الاصطناعي ويتم تشجيعهم على ضمان توافق تقنيات التزييف العميق مع المعايير الأخلاقية الموضوعة، حماية البيانات الشخصية، ومنع سوء الاستخدام.
وأكدت على امتثالهم للقوانين واحترام الأخلاق الاجتماعية والالتزام بالقيم الأساسية أمر ضروري لا يمكن التفريط فيه، ويجب أن تسهم التقنية في تسهيل التحقق من صحة المحتوى، ومنع إساءة استخدام الوسائط الاصطناعية، وتعزيز الممارسات المسؤولة والجديرة بالثقة.
وأوجبت الالتزام بالبروتوكولات الصارمة لجمع البيانات، واستخدام الحد الأدنى من البيانات الضرورية، وتطبيق إخفاء الهوية والأسماء المستعارة لتقليل مخاطر إعادة تحديد الهوية.الحفاظ على الخصوصية
اشترطت دمج تقنيات الحفاظ على الخصوصية في معالجة البيانات، وتقليل الاحتفاظ بالبيانات، وإنشاء دورات مراجعة آلية للتقييم المنتظم وحذف البيانات غير الضرورية، وتحقيق مبدأ الشفافية والوضوح، وتوثيق كل مكون من مكونات نموذج الذكاء الاصطناعي بما في ذلك مصادر البيانات وخطوات المعالجة المسبقة والبنية الخوارزمية وعملية اتخاذ القرار، وضمان أن هذه الوثائق قابلة للقراءة آلياً.
وأكدت الوثيقة على المطورين، تطوير وتطبيق تقنيات العلامات المائية الرقمية غير المتطفلة وضمان مقاومتها للهجمات الشائعة مثل إعادة الضغط، والقص، وتغيير المظهر، والحفاظ على الشفافية من خلال نشر تقارير منتظمة حول استخدام تقنيات التزييف العميق وتأثيرها، بما في ذلك التدابير المتخذة لمنع سوء الاستخدام.تطبيقات مفيدة
وشددت على توجيه تقنيات التزييف العميق نحو التطبيقات المفيدة اجتماعياً وبيئياً مثل التعليم، والترفيه، والرعاية الصحية، مع تجنب إساءة استخدام هذه التقنيات أو تطبيقها بشكل غير أخلاقي.
واشترطت على صناع المحتوى استخدام تقنية التزييف العميق بشكل مسؤول من خلال الالتزام بالمعايير الأخلاقية وحماية البيانات الشخصية ومنع سوء الاستخدام.
ونصت الوثيقة على أهمية الامتثال للقوانين واحترام الأخلاق الاجتماعية والمواءمة مع القيم الأساسية أمراً ضرورياً، نظرًا للتأثير المجتمعي الكبير للتزييف العميق، من الضروري توجيه صناعة المحتوى نحو الاستخدامات الإيجابية والبنَّاءة، بهدف الحفاظ على ثقة الجمهور، ومنع سوء الاستخدام، ومعالجة المخاطر، مثل العمليات الاحتيالية، والتلاعب غير المصرح به، والتضليل، والدعاية.فحص صحة المحتوى
وأوضحت الوثيقة أن يمكن تحديد التزييف العميق بشكلٍ فعَّال من خلال نهج يتكون من ثلاث خطوات لفحص صحة المحتوى، من خلال تقييم الرسالة من حيث المصدر والسياق، والهدف من المحتوى، وتحليل العناصر السمعية والبصرية كتناقضات الإضاءات وتغير لون الجلد، أو الأنماط الوامضة، ومصادقة المحتوى باستخدام أدوات الكشف من الذكاء الاصطناعي لتحليل المحتوى وإعطاء مؤشرات حول التلاعب.
وحثت الوثيقة أفراد المجتمع على الإبلاغ عن الحادث فعندما يتأثر شخص ما بالتزييف العميق، يمكن اتخاذ خطوات محددة لمعالجة الموقف وحماية سمعته، منها التعرف على أنواع الاستخدام الخبيث، وإبلاغ المنصة عن الحادث، ووإبلاغ السلطات المختصة، وطلب مشورة النظام، وإشراك الطب الشرعي الرقمي، وتوثيق الأدلة.
المصدر: صحيفة اليوم
كلمات دلالية: اليوم الوطني 94 اليوم الوطني 94 اليوم الوطني 94 الدمام الهيئة السعودية للبيانات والذكاء الاصطناعي سدايا منصة استطلاع تقنیات التزییف العمیق الذکاء الاصطناعی من خلال
إقرأ أيضاً:
كيف غيّر الذكاء الاصطناعي حياة المكفوفين في جامعة باريس؟
في حرم لوي براي الجامعي في باريس، تعمل نحو خمس عشرة شركة ناشئة بمساعدة الذكاء الاصطناعي، على تحسين الحياة اليومية لمليوني شخص يعانون إعاقات بصرية، كأن يعثروا بسهولة على مقعد شاغر في الحافلة أو أن يقرأوا اللافتات في الشارع.يقول المشارك في تأسيس شركة «إيزيموب» روبن لو غال في حديث إلى وكالة فرانس برس في المعهد الوطني للشباب المكفوفين (INJA) الذي يضم قسماً من الحرم الجامعي الذي افتُتح مطلع ديسمبر 2024، إنّ «هدفنا هو جعل مدينة الغد في المتناول».
ويوفّر التطبيق الذي ابتكرته «إيزيموب» ويغطي أربع مناطق فرنسية (من ليون إلى جزيرة ريونيون في المحيط الهندي) ويستخدمه حالياً 12 ألف شخص، ميزات كثيرة بينها تحديد موقع أبواب المركبات، ومواقف السيارات الشاغرة، وحتى عدّ التوقفات عن طريق تنبيه المستخدمين عند نزولهم.
ويقول روبن لو غال «في الواقع، إذا صعد شخص ما إلى الحافلة، يُدرك بالضبط أين عليه الجلوس أو ما إذا كان هناك مقعد شاغر، ويُصدر التطبيق صوت تنبيه وإشارة اهتزازية في حال وجود مقعد شاغر».
ويضيف «لقد دمجنا خوارزمية ذكاء اصطناعي تُحلل الصورة وتُحدد مواقع البنية التحتية الرئيسية للنقل، مثل بوابات دوارة وأبواب ومقاعد. يسمع المستخدم مثلاً أن الباب مفتوح على بُعد خمسة أمتار اتجاه معيّن».
ويستضيف مجمع لوي براي 17 شركة ناشئة تسعى إلى هدف واحد هو «تطوير حلول ملموسة»، على ما يؤكد مديره تيبو دو مارتيمبري، وهو أيضا من ذوي الإعاقة البصرية.
ويضيف «لسنا مستشفى، بل تركز الأبحاث هنا على تحسين الحياة اليومية للأشخاص ذوي الإعاقة البصرية والمكفوفين: كيف سنُسهّل عليهم التنقل، وكيف يُمكنهم شراء الخبز بأنفسهم، أو الذهاب إلى السينما، أو مشاهدة مباراة كرة قدم. الأمر كله يتعلق بعدم الإقصاء وبسهولة الوصول».
- قراءة لافتات الشوارع -
بدأ عدد من هذه الشركات الناشئة يحقق شهرة على غرار «آرثا فرانس». يشكل جهازها الذي فاز بمسابقة «ليبين» للابتكار عام 2024، نظارة مزوّدة بكاميرا صغيرة تنقل البيانات البصرية إلى أحاسيس لمسية عبر حزام قطني.
تُترجم الصور التي تلتقطها الكاميرا، بفضل حزام قطني في ظهر المستخدم، إلى نبضات تُمكّن الشخص ضعيف البصر أو المكفوف من إدراك بيئته بدقة أكبر، على ما يوضح المشارك في تأسيس الشركة لوي دو فيرون لوكالة فرانس برس.
ويضيف أن «الذكاء الاصطناعي يتيح إعادة إنتاج كل عمليات معالجة الصور التي يُجريها الدماغ». وبالمثل، «نستخدم الذكاء الاصطناعي أيضاً لتمكين الشخص من قراءة لافتات الشوارع. وهذه ميزة مطلوبة بشدة من المكفوفين».
وبالإضافة إلى تحسين الحياة اليومية، تسعى الشركات الناشئة إلى تسهيل إتاحة الأنشطة الثقافية والترفيهية. تبتكر شركة «غيف فيجن» البريطانية الناشئة خوذ رأس قائمة على الواقع المعزز تُتيح لمَن يعانون ضعاف بصر «تجربة حدث رياضي من قُرب».
في حديث إلى وكالة فرانس برس، تقول مديرة تطوير الأعمال الفرنسية في الشركة الناشئة سيسيه دوكوريه التي تعاني من إعاقة بصرية، «هناك أجهزة كثيرة في فرنسا مصممة للمكفوفين، مزودة بأجهزة لوحية تعمل باللمس وميزات صوتية، ولكن حتى اليوم لا يوجد أي جهاز مخصص لمَن يعانون ضعفا في البصر».
وتضيف «إذا لم تكن لدينا معدات، فسنرى أشخاصا يركضون، لكننا لن نتمكن من تحديد هوية الفريق، سواء كانوا رجالاً أم نساء. من المهم أن نكون جميعاً على قدم المساواة».
وبحسب التقديرات الرسمية، يعاني نحو 1.7 مليون شخص في فرنسا من إعاقة بصرية، من بينهم أكثر من 200 ألف كفيف.
نورهان شعيب توجه رسالة لـ حنان ترك و بناتها القمرات