عالم روسي يحذر من ثغرات في الذكاء الاصطناعي
تاريخ النشر: 28th, November 2023 GMT
شفق نيوز/ يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.
ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.
وأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات.
وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.
وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.
وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".
وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.
بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.
المصدر: شفق نيوز
كلمات دلالية: العراق هاكان فيدان تركيا محمد شياع السوداني انتخابات مجالس المحافظات بغداد ديالى نينوى ذي قار ميسان اقليم كوردستان السليمانية اربيل نيجيرفان بارزاني إقليم كوردستان العراق بغداد اربيل تركيا اسعار الدولار روسيا ايران يفغيني بريغوجين اوكرانيا امريكا كرة اليد كرة القدم المنتخب الاولمبي العراقي المنتخب العراقي بطولة الجمهورية الكورد الفيليون الكورد الفيليون خانقين البطاقة الوطنية مطالبات العراق بغداد ذي قار ديالى حادث سير الكورد الفيليون مجلة فيلي عاشوراء شهر تموز مندلي الذكاء الاصطناعي تحذير الذکاء الاصطناعی
إقرأ أيضاً:
فيديو.. مباراة تنس بلا نهاية بين روبوتات غوغل لتدريب الذكاء الاصطناعي
في صيف 2010، خاض لاعبا التنس جون إيسنر ونيكولا ماهو واحدة من أكثر المواجهات استنزافًا في تاريخ ويمبلدون، فقد استمرت المباراة 11 ساعة على مدار 3 أيام. وبعد أكثر من عقد، يخوض خصمان من نوع آخر مباراة لا تقل عنادًا، لكن هذه المرة داخل مختبرات ديب مايند التابعة لغوغل، وبلا جمهور.
فبحسب تقرير لموقع بوبيلار سينس (Popular Science)، تتحرك ذراعان روبوتيتان في مباراة تنس طاولة بلا نهاية في مركز الأبحاث جنوب لندن، ضمن مشروع أطلقته ديب مايند عام 2022 لتطوير قدرات الذكاء الاصطناعي عبر التنافس الذاتي المستمر. الهدف لا يقتصر على تحسين مهارات اللعب، بل يتعداه إلى تدريب خوارزميات قادرة على التكيف مع بيئات معقدة، مثل تلك التي تواجهها الروبوتات في المصانع أو المنازل.
من مناوشة بلا فائز إلى تدريب بلا توقففي بدايات المشروع، اقتصر التمرين على ضربات تبادلية بسيطة بين الروبوتين، من دون سعي لتحقيق نقاط. ومع الوقت، وباستخدام تقنيات التعلم المعزز، أصبح كل روبوت يتعلم من خصمه ويطوّر إستراتيجياته.
وعندما أُضيف هدف الفوز بالنقطة، واجه النظام صعوبة في التكيف، إذ كانت الذراعان تفقدان بعض الحركات التي أتقنتاها سابقًا. لكن عند مواجهة لاعبين بشريين، بدأت تظهر بوادر تقدم لافت، بفضل تنوع أساليب اللعب التي وفّرت فرص تعلم أوسع.
ووفق الباحثين، فازت الروبوتات بنسبة 45% من أصل 29 مباراة ضد بشر، وتفوقت على لاعبين متوسطين بنسبة بلغت 55%. فالأداء الإجمالي يُصنّف في مستوى لاعب هاوٍ، لكنه يزداد تعقيدًا مع الوقت، خصوصًا مع إدخال تقنيات جديدة لمراقبة الأداء وتحسينه.
عندما يعلّم الفيديو الذكاء الاصطناعيالتحسينات لم تتوقف على التمرين الفعلي، إذ استخدم الباحثون نموذج جيمناي (Gemini) للرؤية واللغة من غوغل لتوليد ملاحظات من مقاطع الفيديو الخاصة بالمباريات.
ويمكن للروبوت الآن تعديل سلوكه بناء على أوامر نصيّة، مثل "اضرب الكرة إلى أقصى اليمين" أو "قرّب الشبكة". هذه التغذية الراجعة البصرية اللغوية تعزز قدرات الروبوت على اتخاذ قرارات دقيقة خلال اللعب.
إعلان تنس الطاولة بوابة لروبوتات المستقبلتُعد لعبة تنس الطاولة بيئة مثالية لاختبار الذكاء الاصطناعي، لما فيها من توازن بين السرعة والدقة واتخاذ القرار. وهي تتيح تدريب الروبوتات على مهارات تتجاوز مجرد الحركة، لتشمل التحليل والاستجابة في الوقت الحقيقي، وهي مهارات ضرورية للروبوتات المستقبلية في البيئات الواقعية.
ورغم أن الروبوتات المتقدمة ما زالت تتعثر في مهام بسيطة بالنسبة للبشر، مثل ربط الحذاء أو الكتابة، فإن التطورات الأخيرة -كنجاح ديب مايند في تعليم روبوت ربط الحذاء، أو نموذج "أطلس" الجديد الذي قدّمته بوسطن ديناميكس- تشير إلى تقارب تدريجي بين أداء الآلة والإنسان.
نحو ذكاء عام قابل للتكيفيرى خبراء ديب مايند أن هذا النهج في التعلم، القائم على المنافسة والتحسين الذاتي، قد يكون المفتاح لتطوير ذكاء اصطناعي عام متعدد الاستخدامات. والهدف النهائي هو تمكين الروبوتات من أداء مهام متنوعة، ليس فقط في بيئات صناعية بل أيضًا في الحياة اليومية، بأسلوب طبيعي وآمن.
حتى ذلك الحين، ستبقى ذراعا ديب مايند في مباراة مفتوحة، تتبادلان الكرات والمهارات، في طريق طويل نحو مستقبل روبوتي أكثر ذكاء ومرونة.
مباريات سيراميكا كليوباترا فى الدور الأول 2025-2026