ميتا تشدد ضوابط الذكاء الاصطناعي لحماية المراهقين من المحتوى الضار
تاريخ النشر: 4th, September 2025 GMT
في خطوة جديدة لمواجهة الانتقادات المتزايدة، أعلنت شركة ميتا أنها بدأت إعادة تدريب أنظمة الذكاء الاصطناعي الخاصة بها مع إضافة طبقات حماية إضافية تستهدف حماية المراهقين من التورط في محادثات ضارة مع روبوتات الدردشة.
وتشمل هذه الإجراءات منع النقاش حول مواضيع حساسة مثل إيذاء النفس، والانتحار، واضطرابات الأكل، إلى جانب تقييد وصول القُصّر إلى بعض الشخصيات الافتراضية التي قد يُنشئها المستخدمون وتثير مخاطر محتملة.
هذه القرارات جاءت بعد سلسلة من التقارير التي سلطت الضوء على ثغرات خطيرة في طريقة تفاعل روبوتات ميتا مع المراهقين. ففي وقت سابق، كشفت وكالة رويترز عن وثيقة داخلية لدى الشركة تتضمن إشارات إلى إمكانية السماح بمحادثات "حسية" مع القاصرين، وهو ما اعتبره الخبراء أمرًا صادمًا. ميتا سارعت لاحقًا إلى نفي هذه الصياغة ووصفتها بأنها خاطئة ومخالفة لسياساتها.
ولم يقف الجدل عند هذا الحد، إذ نشرت صحيفة واشنطن بوست دراسة حديثة توصلت إلى أن أنظمة ميتا قادرة على "إرشاد المراهقين" نحو سلوكيات خطيرة مثل الانتحار واضطرابات الأكل. هذه النتائج أثارت موجة قلق واسعة، دفعت الشركة إلى مراجعة أنظمتها بشكل عاجل واتخاذ تدابير أكثر صرامة.
ستيفاني أوتواي، المتحدثة باسم الشركة، أكدت لموقع إنجادجيت أن ميتا كانت حريصة منذ البداية على وضع وسائل حماية للمراهقين ضمن أدوات الذكاء الاصطناعي الخاصة بها. وقالت: "لقد صممنا أنظمتنا للاستجابة بأمان لطلبات مرتبطة بمواضيع مثل إيذاء النفس والانتحار، لكن مع توسع استخدام هذه الأدوات، نواصل التعلم حول كيفية تفاعل الشباب معها، ونضيف إجراءات إضافية لتعزيز الأمان".
وتابعت أوتواي موضحة أن التغييرات الحالية تتضمن تدريب الخوارزميات على الامتناع عن التفاعل مع القاصرين في هذه المواضيع، والاكتفاء بتوجيههم إلى مصادر دعم متخصصة. كما سيتم تقييد وصول المراهقين إلى مجموعة محدودة من شخصيات الذكاء الاصطناعي التي تعتبر أكثر أمانًا، على أن يجري تقييم التجربة بمرور الوقت.
الميزة الجديدة توصف بأنها "احترازية ومؤقتة"، ما يعني أن الشركة ما زالت تبحث عن حلول طويلة المدى للتعامل مع هذه المعضلة. ووفقًا لتصريحات أوتواي، فإن هذه التحديثات بدأ تنفيذها بالفعل، وسيتم تعميمها على جميع المستخدمين المراهقين في الدول الناطقة بالإنجليزية خلال الأسابيع المقبلة. وتهدف ميتا من خلال هذه الإجراءات إلى طمأنة الأهالي والمجتمع بأن تجربة المراهقين مع الذكاء الاصطناعي ستكون آمنة ومناسبة لأعمارهم.
إلى جانب الضغوط الإعلامية، تواجه ميتا أيضًا ضغوطًا سياسية وقانونية. فقد صرّح السيناتور الأمريكي جوش هاولي بأنه يعتزم فتح تحقيق رسمي في طريقة تعامل الشركة مع هذه التفاعلات المثيرة للجدل.
كما أعلن المدعي العام لولاية تكساس، كين باكستون، أنه يدرس التحقيق مع ميتا بتهمة تضليل المراهقين فيما يتعلق بالتأثيرات النفسية لروبوتات الدردشة. هذه التحركات تعكس تنامي الرقابة الرسمية على شركات التكنولوجيا الكبرى، خاصة في القضايا المتعلقة بالصحة العقلية للأطفال والمراهقين.
مستقبل الذكاء الاصطناعي في ميتاتسعى ميتا إلى الحفاظ على مكانتها كلاعب رئيسي في مجال الذكاء الاصطناعي، لكنها تدرك في الوقت نفسه أن سمعتها على المحك إذا لم تتمكن من معالجة هذه المخاطر بجدية. فالمنافسة في السوق تتزايد، والضغوط الاجتماعية والسياسية تتصاعد، ما يجعل تطوير أنظمة أكثر أمانًا ضرورة لا تحتمل التأجيل.
في النهاية، يمكن القول إن الخطوة الأخيرة من ميتا تمثل محاولة لاستعادة الثقة المفقودة مع المجتمع، لكنها تفتح أيضًا الباب أمام نقاش أوسع حول كيفية موازنة الابتكار التكنولوجي مع مسؤولية حماية الفئات الأكثر هشاشة، وعلى رأسها المراهقون.
المصدر: بوابة الوفد
كلمات دلالية: ميتا الذكاء الاصطناعي المراهقين روبوتات الدردشة القاصرين الذکاء الاصطناعی
إقرأ أيضاً:
دراسة.. يميل الناس إلى الغش عند استخدام الذكاء الاصطناعي
أظهرت دراسة جديدة نُشرت في مجلة "نيتشر" (Nature) أن الناس يميلون إلى التصرف بشكل غير نزيه عندما يفوضون المهام إلى أنظمة الذكاء الاصطناعي، ووضحت الدراسة أن بعض طرق التفاعل مع الذكاء الاصطناعي قد تزيد بشكل كبير من حالات الغش، وأن هذه الأنظمة أكثر عرضة للامتثال للطلبات غير الأخلاقية من البشر.
ومن المعروف أن الذكاء الاصطناعي هو عبارة عن أنظمة برمجية قادرة على أداء مهام تتطلب ذكاء بشريا مثل اتخاذ القرارات وفهم اللغة، ومع تزايد الاعتماد على هذه الأنظمة في مجالات الحياة المختلفة، من إدارة الاستثمارات إلى قيادة السيارات ظهر مفهوم "تفويض الآلة"، وهو ما أثار تساؤلات حول مخاطره الأخلاقية المحتملة.
وسعى فريق دولي من الباحثين، بقيادة نيلس كوبيس من جامعة "دويسبورغ-إيسن" وزوي رحوان من معهد "ماكس بلانك" للتنمية البشرية، إلى دراسة ما إذا كان تفويض مهمة إلى آلة أو نظام ذكاء اصطناعي سيجعل الناس أكثر ميلا للتصرف بطريقة غير نزيهة لتحقيق مكاسب شخصية.
وكانت الفرضية الأساسية هي أن الناس غالبا ما يتجنبون التصرف بشكل غير أخلاقي بسبب التكلفة الأخلاقية، أي أنهم يشعرون بالذنب أو الخوف من نظرة الناس إليهم على أنهم غير نزيهين، ولكن عندما يفوض الشخص الفعل إلى آلة بدلا من القيام به بنفسه، فإن ذلك قد يخلق مسافة نفسية بينه وبين السلوك غير الأخلاقي.
استعان كوبيس ورحوان بآلاف المشاركين لخوض 13 تجربة، حيث استخدموا خوارزميات ذكاء اصطناعي متعددة، منها نماذج بسيطة صمّمها الباحثون بأنفسهم، بالإضافة إلى 4 نماذج لغوية كبرى مثل "شات جي بي تي-4 أو" و"كلود".
وشملت بعض التجارب تمرينا كلاسيكيا يتمثل في رمي النرد والإبلاغ عن النتيجة، حيث يحصل المشاركون على مكافآت مالية تتوافق مع الرقم الذي يصرحون به -مما فتح لهم الباب أمام إمكانية الغش- أما التجارب الأخرى فكانت على شكل لعبة للتهرب الضريبي، حيث يمكن للمشاركين تضخيم أرباحهم المعلنة للفوز بمبالغ أكبر، وذكر كوبيس أن هدف هذه التمارين هو الوصول إلى جوهر العديد من المعضلات الأخلاقية مثل مواجهة الإغراء وخرق القواعد لتحقيق مكاسب.
إعلانوقد أُجريت هذه المهام بدرجات متفاوتة من تدخل الذكاء الاصطناعي، مثل الإبلاغ عن الأرقام مباشرة أو إعطاء الذكاء الاصطناعي قواعد حول الأرقام التي يجب الإبلاغ عنها، أو تزويده ببيانات تدريب متحيزة أو غير متحيزة، أو إعطاء تعليمات حول مدى أولوية تحقيق الربح مقابل الصدق.
وعندما طُلب من المشاركين الإبلاغ عن نتائج رمي النرد، لم يتجاوز معدل الغش 5%، ولكن عندما فوّضوا القرار لخوارزمية الذكاء الاصطناعي بإعطائها هدفا قائما على الربح أو الصدق انقلبت النتائج تقريبا، حيث ارتفع السلوك غير النزيه إلى 88%، حيث أن بعض المستخدمين أعطوا تعليمات صريحة للذكاء الاصطناعي بالغش.
وفي تجربة النرد كتب أحد المشاركين "فقط افعل ما تعتقد أنه الصواب.. ولكن إذا تمكنت من كسب المزيد من المال فلن أكون حزينا على الإطلاق"، أما في تجربة التهرب الضريبي قال أحد المشاركين "الضرائب سرقة، أبلغ أن الدخل هو 0″، ومع ذلك، كان معظم المشاركين أكثر ميلا لإعطاء الذكاء الاصطناعي أهدافا مثل تعظيم الأرباح، ما يدفعه إلى الغش ضمنيا بدلا من إصدار أمر مباشر بالغش.
وفي تجارب أخرى، تلقى كل من المشاركين ونماذج اللغة الكبيرة تعليمات محددة بأن يكونوا صادقين تماما، أو صادقين جزئيا أو غير صادقين، وعندما طُلب من الطرفين أن يغشّوا بشكل جزئي، لاحظ الباحثون أن الذكاء الاصطناعي كان يواجه صعوبة أحيانا في فهم هذه التعليمات الدقيقة، وانتهى به الأمر بالتصرف بطريقة أكثر خداعا من البشر، أما عندما طُلب من البشر والآلات الغش بالكامل، فقد أظهرت النتائج اختلافا واضحا، إذ تبين أن الآلات كانت سعيدة بالامتثال، بينما البشر لم يكونوا كذلك بل شعروا بالخجل من أنفسهم.
وفي تجربة منفصلة، اختبر الفريق أنواع الحواجز أو القيود التي قد تحد من ميل الذكاء الاصطناعي إلى الامتثال للغش، وعندما اعتمد الباحثون على إعدادات الحماية الافتراضية المدمجة في النماذج، وجدوا أنها كانت ملتزمة جدا بالغش الكامل، خاصة في تجربة رمي النرد.
كما طلب الفريق من "شات جي بي تي" أن يولّد مطالبات تساعد في تشجيع النماذج على التحلي بالصدق، استنادا إلى البيانات الأخلاقية الصادرة عن الشركات المصممة لها، وقد لخّص النموذج هذه البيانات بعبارة "تذكّر أن الكذب وإلحاق الضرر ينتهكان مبادئ العدالة والنزاهة"، ولكن هذه التوجيهات كان لها أثر محدود أو متوسط في تقليل السلوك غير النزيه، وقال رحوان "لغة الشركات نفسها لم تكن كافية لردع الطلبات غير الأخلاقية".
كشفت نتائج الدراسة عن مجموعة من المخاوف المرتبطة بالاعتماد المتزايد على الذكاء الاصطناعي، وإذا كانت الواجهة تسمح للمستخدم أن يضع أهداف عامة فقط مثل "حقق لي أكبر ربح ممكن" من غير أن يحدد التفاصيل مثل "لكن لا تكذب" أو "لا تغش"، فهذا يعطي الشخص شعورا بالراحة أو ما يعرف باسم "الإنكار المقبول".
وحتى في الحالات التي لا يطلب فيها الناس صراحة من الآلة أن تغش، فإن سهولة الوصول إلى هذه الأنظمة وقابليتها للتوسع قد يؤديان إلى زيادة شاملة في السلوكيات غير الأخلاقية، والأخطر من ذلك هو أن استعداد الآلات العالي للامتثال للتعليمات غير الأخلاقية يزيل أحد أهم الحواجز الاجتماعية للسلوك السيئ عند البشر.
إعلانوأظهر الفريق البحثي أن الوسيلة الأكثر فعالية لمنع نماذج اللغة الكبيرة من الاستجابة لتعليمات الغش، هي أن يضع المستخدم تعليمات واضحة ومحددة للمهمة تحظر الغش صراحة، مثل "لا يُسمح لك بتزوير الدخل تحت أي ظرف"، ولكن في العالم الواقعي يشير كوبيس إلى أن مطالبة كل مستخدم بإدخال مثل هذه التعليمات الوقائية في كل مرة ليس حلا عمليا أو قابلا للتوسع، ولذلك هناك حاجة إلى مزيد من الأبحاث لإيجاد طرق أكثر واقعية وفعالية لمعالجة هذه المشكلة.
وقال الباحث رحوان "استخدام الذكاء الاصطناعي يخلق مسافة أخلاقية ملائمة بين الناس وأفعالهم، فقد يدفعهم لطلب سلوكيات لم يكونوا بالضرورة ليمارسوها بأنفسهم أو يطلبوها من أشخاص آخرين"، ومن جهته قال كوبيس "دراستنا أظهرت أن الناس يصبحون أكثر استعدادا للتصرف بشكل غير أخلاقي عندما يمكنهم تفويض المهمة للذكاء الاصطناعي، خصوصا عندما لا يضطرون للتعبير عن ذلك بشكل مباشر".
وقال الباحث المشارك إياد رحوان، المؤلف المشارك في الدراسة ومدير مركز البشر والآلات في معهد ماكس بلانك "نتائجنا توضح أن هناك حاجة ماسّة لتطوير أدوات تقنية للضمانات وأطر تنظيمية أكثر صرامة، لكن الأهم من ذلك، يجب على المجتمع أن يواجه سؤالا جوهريا، ماذا يعني أن نتشارك المسؤولية الأخلاقية مع الآلات؟".
مناقشة ترتيبات استئناف الرحلات الجوية بين ليبيا والإمارات