أدوات ذكاء اصطناعي مجانية لحماية الأطفال من التحرش الجنسي
تاريخ النشر: 11th, February 2025 GMT
المناطق_متابعات
أعلن فاعلون في المجال التكنولوجي الاثنين أنهم يطلقون مؤسسة لتوفير أدوات ذكاء اصطناعي آمنة، على هامش القمة الدولية للذكاء الاصطناعي المقامة في باريس.
وقال رئيس “غوغل” السابق إريك شميت في بيان إنّ مبادرة “ذي روبست أوبن اونلاين سايفتي تولز” (ROOST) ستنشئ “بنية تحتية آمنة وقابلة للتطوير وقابلة للتشغيل المتبادل ومناسبة لعصر الذكاء الاصطناعي”، وهو مجهود مدعوم من شركة “اوبن ايه آي” البارزة في القطاع.
وأضاف أن “روست” ROOST “ستعالج فجوة كبيرة في السلامة الرقمية، خصوصا سلامة الأطفال عبر الإنترنت، من خلال توفير أدوات آمنة مجانية ومفتوحة المصدر للمؤسسات العامة والخاصة من مختلف الأحجام في كل أنحاء العالم”.
وفقا للعربية : افتتحت الاثنين في باريس قمة دولية حول الذكاء الاصطناعي تجمع قادة سياسيين ومسؤولين في القطاع التكنولوجي، لمناقشة أفضل السبل لتنظيم هذه التكنولوجيا التي أحدثت ثورة سريعة في مجالات كثيرة، وتستمر حتى الثلاثاء.
وأوضح البيان أنّ المساعدة التي ستوفرها “روست” تتضمن “أدوات مجانية ومفتوحة المصدر وسهلة الاستخدام لرصد المواد التي تنطوي على تحرش جنسي بالأطفال والإبلاغ عنها”.
وأشار إلى أنّ المؤسسة التي تتخذ من جامعة كولومبيا في نيويورك مقرا، ستستخدم أيضا نماذج لغوية كبيرة مدعومة بالذكاء الاصطناعي “لتشغيل البنية التحتية الآمنة”.
وأكدت “روست” أنها جمعت 27 مليون دولار من التمويل الذي سيغطي “السنوات الأربع الأولى من عملها”، من جهات مانحة بينها “مجموعة من المؤسسات الخيرية وشركات التكنولوجيا الكبرى”.
المصدر: صحيفة المناطق السعودية
كلمات دلالية: باريس ذكاء اصطناعي غوغل
إقرأ أيضاً:
مساعد الذكاء الاصطناعي بواتساب يسرب رقم هاتف أحد المستخدمين
في حادثة غريبة من نوعها، قام مساعد الذكاء الاصطناعي الموجود في منصة "واتساب" بتوليد رقم الهاتف الخاص بأحد المستخدمين على أنه رقم خدمة العملاء الخاص بشركة " ترانس بينين إكسبريس" (TransPennine Express) بالمملكة المتحدة، وذلك بحسب تقرير "ذا غارديان".
كان باري سميثورست ينتظر القطار السريع المتجه إلى مدينة مانشستر بيكاديللي، وعندما تأخر القطار طلب من مساعد الذكاء الاصطناعي الموجود في "واتساب" الذي يعتمد على نماذج "لاما" (LLMA) من "ميتا" تزويده برقم الهاتف الخاص بخدمة عملاء الشركة للتواصل معهم، جاء الرد مع رقم هاتف مستخدم آخر وهو جيمس غراي دون وجود ما يربط بينه وبين خدمة عملاء الشركة أو سميثورست، سواءً كان في الموقع الجغرافي أو البيانات أو حتى تقاطع الدوائر الاجتماعية والوظائف بينهما.
وعندما واجه سميثورست مساعد الذكاء الاصطناعي في "واتساب" بأن الرقم خطأ ويعود لمستخدم آخر، ما كان منه إلا الاعتذار والتأكيد أن هذا الرقم مولد بشكل عشوائي ولا يعود إلى أي قاعدة بيانات، رغم إشارته إلى استخدام قاعدة بيانات عشوائية.
وعن هذا الأمر قال مايك ستانوب، المدير الإداري لشركة "كاروثرز وجاكسون للاستشارات الإستراتيجية في مجال البيانات" (Carruthers and Jackson) أثناء حديثه مع "ذا غارديان": "هذا مثال رائع على فشل الذكاء الاصطناعي. إذا كان مهندسو ميتا يصممون أساليب "الكذب الأبيض" في أنظمة الذكاء الاصطناعي الخاصة بهم، فإنهم يجب أن يعلموا الجمهور".
ومن جانبها قالت "ميتا" على لسان المتحدث الرسمي إن رقم الهاتف المذكور متاح بشكل عام عبر الإنترنت ويتشارك بعض الأرقام مع رقم هاتف خدمة العملاء الخاص بشركة "ترانس بينين إكسبريس"، مؤكدا أن النموذج تدرب على قواعد البيانات الخاصة بالشركة وهي لا تضم أرقام هواتف المستخدمين، بحسب ما جاء في تقرير "ذا غارديان".
إعلانويمثل هذا الموقف الأحدث في سلسلة من هلوسات الذكاء الاصطناعي من عدة شركات ونماذج مختلفة، بما فيها "شات جي بي تي" الذي أكد أن رجلا قتل أبناءه ومازال يقضي عقوبته في السجن رغم أن الحقيقة عكس ذلك.
الأمم المتحدة.. ثمانون عامًا : السقف الأخير للعالم المفتوح على المجهول