أخطاء كبيرة ومحتوى ضار.. شركة أمريكية تكشف عن آلاف العيوب في الذكاء الاصطناعي
تاريخ النشر: 13th, June 2024 GMT
ذكرت صحيفة "واشنطن بوست" الأمريكية، أن شركة تنشط في مجال التكنولوجيا اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة، وأشارت إلى أن تلك الأدوات تنتج محتوى عنيفا أو جنسيا.
وبينت شركة "هييز لابس"، إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".
وقالت إن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.
وأضافت الصحيفة الأمريكية أن الذكاء الاصطناعي أضحى مصدر قلق، مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها وفي إرشاد المستهلكين على منتجاتها.
وواجهت شركة غوغل، الشهر الماضي، موجة من الانتقادات، بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة على أسئلة المستخدمين، حيث أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناول صخرة صغيرة يوميا، كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر.
وأواخر أيار/ مايو الماضي قالت صحيفة "وول ستريت جورنال"، "إن معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورا في الأصل، حتى بالنسبة لأكثرها قدرة".
وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.
ووفقا لـ "واشنطن بوست" فقد تعرضت شركة طيران كندا في شباط/ فبراير الماصي لسلسلة من الانتقادات، عندما وعد برنامج الدردشة الآلي الخاص بها، والمزود بتقنية الذكاء الاصطناعي، أحد المسافرين، بخصم مالي وهمي.
ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله، إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، سنحتاج إلى مجموعة أكبر من المؤسسات، لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".
كما نقلت عن بعض الخبراء قولهم، "إنه على الرغم من الجهود التي تبذلها شركات الذكاء الاصطناعي الكبرى، إلا أنه لا يزال من السهل للغاية، إقناع هذه الأدوات بالقيام بأشياء، ليس من المفترض أن تفعلها".
ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي. إذ وجدت دراسة أجرتها مايكروسوفت و"لينكد إن"، أن 3 من كل 4 من المديرين والمتخصصين، يستخدمون الذكاء الاصطناعي في العمل.
وقال غراهام نيوبيغ، الأستاذ المشارك في علوم الكمبيوتر بجامعة كارنيغي ميلون، إن أدوات الرقابة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مهمة، لأنها محايدة".
وأشارت الصحيفة إلى أن أدوات الرقابة والأمان التابعة لجهة خارجية تتمتع بأداء أعلى، فيما يتعلق بالتدقيق، لأنه تم إنشاؤها بواسطة مؤسسة متخصصة، على عكس قيام كل شركة ببناء أدواتها المعنية بالرقابة والتدقيق.
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا التكنولوجيا الذكاء الاصطناعي غوغل غوغل تكنولوجيا اخطاء الذكاء الاصطناعي كوكل المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة الذکاء الاصطناعی إلى أن
إقرأ أيضاً:
دراسة تكشف: أسلاف البشر يصنعون أدوات عظمية قبل مليون ونصف!
انضم إلى قناتنا على واتساب
شمسان بوست / متابعات:
توصلت دراسة نُشرت الأربعاء في مجلة «نيتشر» إلى أنّ أشباه البشر، وهم الممثلون الأوائل للسلالة البشرية، كانوا يصنّعون أدوات عظمية قبل 1.5 مليون سنة؛ أي في مرحلة أبكر بكثير مما كان يُعتقد.
ومن المعلوم أنّ بعض هؤلاء الأسلاف البعيدين، على سبيل المثال شبيه الإنسان الأسترالي (القرد الجنوبي)، استخدموا بقايا العظام لحفر تلال النمل الأبيض أو حفر الدرنات. واليوم مثلاً، لا تزال قردة الشمبانزي، وهي من سلالة قريبة من البشر، تستخدم عيدان تناول الطعام للوصول إلى النمل الأبيض في موائلها.
قبل أكثر من مليونَي سنة، أنتج أشباه البشر من شرق أفريقيا في مضيق أولدوفاي في تنزانيا، وهو أحد أهم مواقع ما قبل التاريخ في العالم، أدوات حجرية. لكن حتى اليوم، ما كان يُعرَف أي مثال على الإنتاج المنهجي لأدوات عظمية يعود تاريخها إلى ما قبل 500 ألف سنة قبل الميلاد، باستثناء بضعة أمثلة متفرقة في أفريقيا.
وكان لاكتشاف أجرته مجموعة تضم علماء من مختلف أنحاء العالم، دور في تغيير هذا السيناريو من خلال إعادة عقارب الساعة مليون سنة إلى الوراء.
وحددت الدراسة التي وقعها إغناسيو دي لا توري من المعهد الإسباني للتاريخ في مدريد، 27 أداة مصنوعة من عظام الفخذ والساق وعظم العضد لحيوانات كبيرة، خصوصاً لفيلة وأفراس نهر.
وفي حديث لـ«وكالة الصحافة الفرنسية»، يقول عالم الآثار فرنشيسكو ديريكو من جامعة بوردو، والذي أشرف على الدراسة مع أنجيليكي تيودوروبولو من المعهد الإسباني للتاريخ: «هذه المرة الأولى التي نكتشف فيها مجموعة من هذه الأدوات تعود إلى الأرض نفسها في أولدوفاي».
ولن ترى عيون غير الخبراء سوى قطع كبيرة من العظام. لكن بالنسبة إلى عالم الأنثروبولوجيا، تشكل هذه العظام شاهداً على قدرات معرفية مميزة، وتؤشر إلى إتقان «أنماط ذهنية» للغرض الذي رغبوا في الحصول عليه، واختيار المادة المناسبة، والاستراتيجية المستخدمة لإنجازه.
ويُظهر تحليل الأدوات أن مبتكريها فضّلوا استخدام عظام الفخذ المأخوذة مباشرة من الجيفة في حالة فرس النهر مثلاً، ولكن أيضاً من الأفيال، رغم ندرتها في هذا المكان، مما يؤشر إلى أنه تم الحصول عليها في مكان آخر.
وكانت هذه العظام تُشذّب بالحجارة التي كانت تُستَخدم كمطارق، للحصول على أداة يتراوح طولها بين 20 و40 سنتيمتراً، ويصل وزنها إلى أكثر من كيلوغرام.
يقول ديريكو: «لاحظنا وجود رغبة في تغيير شكل العظم، وإنتاج أدوات ثقيلة جداً وطويلة. وحتى في بعض الحالات، إنشاء نوع من الشق في وسط العظم، ربما للتمكّن من حمله بشكل أفضل في اليد».
ويُفترض أن هذه العظام الضخمة وذات الرؤوس المدببة قد استُخدمت لذبح ثدييات كبيرة، في وقت كانت لا تزال فيه الأدوات الحجرية، في الثقافة المسماة أولدوفاية تيمّناً بموقع أولدوفاي، مشذبة بطريقة بدائية.
وبحسب عالم الآثار، فإنه «ثمة عدد قليل جداً من الأدوات الكبيرة» المصنوعة من الحجر في موقع أولدوفاي، وهو نوع من الكوارتز لا يناسب العمليات الوحشية لذبح الفرائس الكبيرة.
وكانت الثقافة الأشولية التي ظهرت في المرحلة نفسها هي التي اخترعت قطع الحجارة ثنائية السطح التي أتاحت قطع لحم الطرائد وكشط جلودها.
ويقول فرنشيسكو ديريكو إن «فرضية الدراسة هي أن هذا الحجم من العظام في أولدوفاي هو اختراع أصلي، في لحظة تحوّل نحو السطوح الثنائية».
ويتابع أنّ «الاحتمال الآخر هو أنّ هذا التقليد استمر، لكن لم يتم تحديد هذه العظام فعلياً في مواقع أثرية أخرى».
وبالتالي، فإن التقنية التي بدأ اعتمادها في أولدوفاي «اختفت» لمليون عام، قبل أن تعاود الظهور لاحقاً، كما الحال في منطقة روما الحالية التي كانت تفتقر إلى الصوان ذي الحجم المناسب، فقام السكان بقطع عظام الفيل على شكل قطع ثنائية.
ويتبع استخدام العظام تطوّر السلالة البشرية؛ إذ انتقل ممثلوها من نحت عظام الفخذ قبل 1.5 مليون سنة إلى نحت قطع أكثر تعقيداً، مثل إبر الخياطة التي «تم اختراعها في الصين وسيبيريا ولم تصل إلى أوروبا إلا اعتباراً من 26 ألف سنة قبل الميلاد»، بحسب عالم الآثار.
الأجواء الشتوية تفرض نفسها..الأرصاد تعلن تفاصيل حالة الطقس