دراسة مقلقة تكشف تدريب ذكاء اصطناعي على صور الاعتداء الجنسي على الأطفال!
تاريخ النشر: 25th, December 2023 GMT
كشفت دراسة جديدة أن آلاف صور الاعتداء الجنسي على الأطفال مخبأة داخل مؤسسة شهيرة لمولدات صور الذكاء الاصطناعي.
وعثر مرصد ستانفورد للإنترنت على أكثر من 3200 صورة للاعتداء الجنسي على الأطفال في قاعدة بيانات الذكاء الاصطناعي العملاقة LAION، وهو فهرس للصور والتسميات التوضيحية عبر الإنترنت استُخدم لتدريب صنّاع صور الذكاء الاصطناعي مثل Stable Diffusion.
وعملت مجموعة المراقبة مع المركز الكندي لحماية الطفل وغيره من الجمعيات الخيرية المناهضة للإساءة، لتحديد المواد غير القانونية والإبلاغ عن روابط الصور الأصلية إلى جهات إنفاذ القانون. وتم التأكد من أن أكثر من 1000 صورة من الصور المشتبه بها تشمل مواد اعتداء جنسي على الأطفال.
وكتب الباحثون: "وجدنا أن امتلاك مجموعة بيانات LAION-5B المأهولة حتى أواخر عام 2023، يعني حيازة آلاف الصور غير القانونية".
وعشية إصدار تقرير مرصد ستانفورد للإنترنت يوم الأربعاء، قالت LAION إنها أزالت مجموعات البيانات الخاصة بها مؤقتا.
وقالت LAION، التي تمثل الشبكة المفتوحة للذكاء الاصطناعي واسعة النطاق غير الربحية، في بيان لها: "إن لديها سياسة عدم التسامح مطلقا مع المحتوى غير القانوني، وفي ظل الحذر الشديد، قمنا بإزالة مجموعات بيانات LAION للتأكد من أنها آمنة قبل إعادة نشرها".
إقرأ المزيد
وفي حين أن الصور لا تمثل سوى جزء صغير من مؤشر LAION الذي يبلغ حوالي 5.8 مليار صورة، تقول مجموعة ستانفورد إنها ربما تؤثر على قدرة أدوات الذكاء الاصطناعي على توليد مخرجات ضارة وتعزيز الإساءة السابقة للضحايا الحقيقيين.
ويقول الباحثون إن هذه الصور نفسها جعلت من السهل على أنظمة الذكاء الاصطناعي إنتاج صور واقعية وصريحة لأطفال مزيفين، بالإضافة إلى تحويل صور وسائل التواصل الاجتماعي لمراهقين حقيقيين يرتدون ملابس كاملة، إلى عراة، الأمر الذي أثار قلق المدارس وجهات إنفاذ القانون في جميع أنحاء العالم.
وحتى وقت قريب، اعتقد الباحثون في مجال مكافحة إساءة الاستخدام، أن الطريقة الوحيدة التي تنتج بها بعض أدوات الذكاء الاصطناعي غير الخاضعة للرقابة صورا مسيئة للأطفال، هي من خلال الجمع بين ما تعلمته من فئتين منفصلتين من الصور عبر الإنترنت: المواد الإباحية للبالغين والصور الحميدة للأطفال.
وقال ديفيد ثيل، كبير خبراء التكنولوجيا في مرصد ستانفورد للإنترنت، والذي كتب التقرير، إن هذه مشكلة ليست سهلة الإصلاح، وتعود جذورها إلى العديد من مشاريع الذكاء الاصطناعي التوليدية التي "تم طرحها بشكل فعال في السوق" وإتاحتها على نطاق واسع، لأن هذا المجال تنافسي للغاية.
يذكر أن LAION من بنات أفكار الباحث والمعلم الألماني، كريستوف شومان، الذي قال في وقت سابق من هذا العام إن جزءا من السبب وراء جعل قاعدة البيانات المرئية الضخمة هذه متاحة للجمهور، هو ضمان عدم التحكم في مستقبل تطوير الذكاء الاصطناعي من قبل شركات قوية.
المصدر: الغارديان
المصدر: RT Arabic
كلمات دلالية: اختراعات بحوث ذكاء اصطناعي الذکاء الاصطناعی على الأطفال
إقرأ أيضاً:
اختبار ذكاء اصطناعي جديد يتنبأ بالأشخاص الذين سيستفيدون من دواء سرطان البروستاتا
طور أطباء أداة ذكاء اصطناعي يمكنها التنبؤ بالرجال المصابين بسرطان البروستاتا الذين سيستفيدون من دواء يقلل من خطر الوفاة إلى النصف.
وُصف "أبيراتيرون" بأنه علاج "مُغير لقواعد اللعبة" لهذا المرض، وهو أكثر أنواع السرطان شيوعا لدى الرجال في أكثر من 100 دولة. وقد ساعد بالفعل مئات الآلاف من المصابين بسرطان البروستاتا المتقدم على العيش لفترة أطول.
لكن بعض الدول، بما في ذلك إنجلترا، توقفت عن توفير هذا الدواء "المذهل" على نطاق أوسع للرجال الذين لم ينتشر مرضهم.
والآن، قام فريق من الولايات المتحدة والمملكة المتحدة وسويسرا بتطوير اختبار ذكاء اصطناعي يُظهر الرجال الذين يُرجح أن يستفيدوا من "أبيراتيرون". سيُمكّن هذا الاختراق "المثير" أنظمة الرعاية الصحية من توفير الدواء لمزيد من الرجال، وتجنيب الآخرين العلاج غير الضروري، بحسب تقرير لصحيفة "الغارديان" البريطانية.
سيتم الكشف عن اختبار الذكاء الاصطناعي في شيكاغو خلال الاجتماع السنوي للجمعية الأمريكية لعلم الأورام السريري، وهو أكبر مؤتمر عالمي للسرطان.
شارك نك جيمس، أستاذ أبحاث سرطان البروستاتا والمثانة في معهد أبحاث السرطان بلندن، واستشاري الأورام السريرية في مؤسسة رويال مارزدن التابعة لهيئة الخدمات الصحية الوطنية البريطانية، في قيادة الفريق الذي طوره.
وقال جيمس: "لقد حسّن "أبيراتيرون" بشكل كبير التوقعات لمئات الآلاف من الرجال المصابين بسرطان البروستاتا المتقدم. نعلم أنه بالنسبة للعديد من الرجال المصابين بالسرطان الذي لم ينتشر بعد، يمكن أن يحقق نتائج مذهلة أيضا".
"لكنه يأتي مع آثار جانبية ويتطلب مراقبة إضافية لمشاكل محتملة مثل ارتفاع ضغط الدم أو تشوهات الكبد. كما يمكن أن يزيد بشكل طفيف من خطر الإصابة بمرض السكري والنوبات القلبية، لذا فإن معرفة من هو الأكثر احتمالا للاستفادة أمر بالغ الأهمية".
" يُظهر هذا البحث إمكانية تحديد الأشخاص الذين سيستجيبون بشكل أفضل لأبيراتيرون، وأولئك الذين سيتحسنون من العلاج القياسي وحده - العلاج الهرموني والعلاج الإشعاعي".
يستخدم الاختبار الذكاء الاصطناعي لدراسة صور الأورام وتحديد السمات غير المرئية للعين البشرية. وقد أجرى الفريق، الممول من مؤسسة سرطان البروستاتا في المملكة المتحدة ومجلس البحوث الطبية وشركة أرتيرا، تجربة على صور خزعات لأكثر من 1000 رجل مصاب بسرطان البروستاتا عالي الخطورة الذي لم ينتشر.
حدد اختبار الذكاء الاصطناعي 25% من الرجال في المجموعة الأكثر احتمالا للاستفادة من أبيراتيرون - بالنسبة لهؤلاء الرجال، يقلل الدواء من خطر الوفاة إلى النصف.
في التجربة، حصل المرضى على درجة - إيجابية أو سلبية للمؤشرات الحيوية - والتي تمت مقارنتها بنتائجهم. بالنسبة لأولئك الذين يعانون من أورام إيجابية للمؤشرات الحيوية، واحد من كل أربعة رجال، خفض "أبيراتيرون" خطر الوفاة بعد خمس سنوات من 17% إلى 9%.
بالنسبة للمصابين بأورام سلبية المؤشرات الحيوية، خفض "أبيراتيرون" خطر الوفاة من 7% إلى 4%، وهو فرق لم يكن ذا دلالة إحصائية أو سريرية، وفقا للفريق البحثي. سيستفيد هؤلاء الرجال من العلاج القياسي وحده، وسيتجنبون العلاج غير الضروري.
وقال البروفيسور جيرت أتارد، المشارك في قيادة الدراسة، من معهد السرطان بجامعة "يونيفيرسيتي كوليدج لندن": "تُظهر هذه الدراسة، في مجموعة كبيرة جدا من المرضى، أنه يمكن استخدام خوارزميات جديدة لاستخراج المعلومات من شرائح علم الأمراض المتاحة بشكل روتيني لتخصيص هذه العلاجات لمرضى محددين وتقليل العلاج الزائد مع تعظيم فرصة الشفاء".
وأضاف جيمس أنه نظرا لأن عدد الرجال الذين سيحتاجون إلى الدواء أقل مما كان يُعتقد سابقا، ينبغي على أنظمة الرعاية الصحية النظر في إعطائه للرجال الذين لم ينتشر سرطانهم.
وقد تمت الموافقة على استخدامه من قبل هيئة الخدمات الصحية الوطنية في إنجلترا لعلاج سرطان البروستاتا المتقدم، ولكن ليس لعلاج الأمراض عالية الخطورة التي تم تشخيصها حديثا والتي لم تنتشر. ومع ذلك، فقد كان متاحا للرجال الذين يعانون من هذا المرض في اسكتلندا وويلز لمدة عامين.
قال جيمس: "يبلغ سعر عبوة أبيراتيرون 77 جنيها إسترلينيا فقط، مقارنة بآلاف الجنيهات التي تكلفها الأدوية الجديدة". وأضاف: "آمل حقا أن يؤدي هذا البحث الجديد - الذي يُظهر بدقة من يحتاج إلى هذا الدواء ليعيش حياة جيدة لفترة أطول - إلى مراجعة هيئة الخدمات الصحية الوطنية في إنجلترا لقرارها بعدم تمويل أبيراتيرون لعلاج سرطان البروستاتا عالي الخطورة الذي لم ينتشر".
ووصف الدكتور ماثيو هوبز، مدير الأبحاث في مركز سرطان البروستاتا في المملكة المتحدة، اختبار الذكاء الاصطناعي بأنه "مثير للاهتمام". وأضاف: "لذلك، نؤيد دعوة الباحثين المُلحة لتوفير أبيراتيرون للرجال الذين يُمكن أن يُنقذ حياتهم - الرجال الذين، بفضل هذا البحث، يُمكننا الآن تحديد حالاتهم بدقة أكبر من أي وقت مضى".
صرح متحدث باسم هيئة الخدمات الصحية الوطنية (NHS): "بعد تقييم شامل قائم على الأدلة، تم تحديد توسيع نطاق الوصول إلى هذا الدواء لعلاج سرطان البروستاتا غير النقيلي كإحدى أهم أولويات الاستثمار بمجرد توفر التمويل الدوري اللازم لدعم استخدامه".
"تواصل NHS في إنجلترا تمويل دواء أبيراتيرون بشكل روتيني لعلاج العديد من أشكال سرطان البروستاتا المتقدم، بما يتماشى مع الإرشادات السريرية، ونُبقي هذا الموقف قيد المراجعة الدقيقة في ضوء الأدلة الناشئة، بما في ذلك الأبحاث الحديثة التي قد تُساعد في تحسين توجيه العلاج إلى المرضى الأكثر احتمالا للاستفادة منه".
برلماني يطالب بإجراء تعديل تشريعي شامل في قانون الضريبة على العقارات المبنية