عالم روسي يحذر من ثغرات في الذكاء الاصطناعي تحدث نتيجة "تسميم" الشبكات العصبية
تاريخ النشر: 28th, November 2023 GMT
يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.
ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.
إقرأ المزيد
وأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات.
وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.
وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.
وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".
وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.
بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.
المصدر: تاس
المصدر: RT Arabic
كلمات دلالية: تكنولوجيا روبوت الذکاء الاصطناعی
إقرأ أيضاً:
بعد حصولها على جائزتين دوليتين: في المحروقية تطمح للتخصص في الذكاء الاصطناعي
مسقط- الرؤية
حصلت الطالبة في بنت سالم المحروقية من مدرسة دوحة الأدب (10-12) بتعليمية محافظة مسقط، على جائزتين خاصتين في المعرض الدولي للعلوم والهندسة من خلال مشروعها: نهج قائم على التعلم الهجين لتحسين صور الرئة، وتشخيص الأورام، والتليف الرئوي بشكل أكثر دقة وفعالية.
وتقول الطالبة: "انطلقت فكرة مشروعي من ملاحظتي لأهمية تحسين دقة، وسرعة تشخيص أمراض الرئة، في ظل الارتفاع المستمر في أعداد المصابين عالميًا؛ ومن هنا استلهمت الفكرة من شغفي بالتقنيات الحديثة، لا سيما الذكاء الاصطناعي، وتعلم الآلة، وحرصي على توظيفها في مجالات تخدم صحة الإنسان".
وتضيف: واجهتُ تحديات عديدة، من أبرزها تعقيدات النماذج التقنية، وصعوبة الحصول على بيانات طبية عالية الجودة، لكن بالإصرار، والدعم، والتعلم المستمر، تمكنتُ من تجاوزها.
وتشرح المشكلات التي يعالجها المشروع بقولها: يعالج المشروع تحديات حقيقية في المجال الصحي، خصوصًا في تشخيص أمراض الرئة مثل الأورام، والتليف، إذ يُسهم النظام في تحسين جودة الصور الطبية، ويعتمد على تقنيات تعلم الآلة؛ لاكتشاف المؤشرات المرضية بدقة عالية، مما يمكّن الأطباء من التشخيص السريع، والدقيق، وبالتالي الإسهام في إنقاذ الأرواح، وتخفيف الضغط على الأنظمة الصحية.
المشاركة في المعرض الدولي
وعن مشاركتها في المعرض الدولي، تقول: كانت تجربة ثرية للغاية؛ منحتني فرصة تمثيل بلدي سلطنة عُمان على منصة عالمية، والتعرف إلى مبدعين من مختلف دول العالم، وتبادل الأفكار مع مشاركين من خلفيات علمية متنوعة، واطّلعت على مشاريع رائدة في مجالات متعددة، هذه التجربة عززت ثقتي بنفسي، وفتحت أمامي آفاقًا جديدة للتطور العلمي، والبحثي.
وتستذكر لحظة إعلان فوزها: لحظة إعلان فوزي بجائزتين خاصتين كانت من أجمل لحظات حياتي؛ شعرتُ بفخر عظيم، وسعادة لا توصف؛ لأن كل التعب والجهد الطويل تُوِّج بهذا الإنجاز، كانت لحظة امتزجت فيها مشاعر الامتنان، والإنجاز، والانتماء، وأعتبرها نقطة تحول مهمة في مسيرتي العلمية.
الدعم والتدريب
وتتحدث عن دور الوزارة، والمدرسة في هذا الإنجاز: قدّمت الوزارة دعمًا كبيرًا لمشاركتي في المعرض، من خلال مجموعة من المبادرات، والإجراءات التي كان لها أثر بالغ في تمكيني من تمثيل الوطن بشكل مشرّف وفعّال؛ فقد وفّرت برامج تدريبية، وورش عمل متخصصة ساعدتني على تحسين مهاراتي في العرض والتقديم، بالإضافة إلى دعم معنوي مستمر، واهتمام ملحوظ بهذه المشاركة.
وتؤكد أن للمدرسة، والمعلمات دورًا كبيرًا ومحوريًا، يتمثل قي دعم مشرفتي، ومعلمتي إيمان بنت علي الرحبية، أثر بالغ في تحفيزي منذ بداية المشروع؛ إذ وفرت لي بيئة تعليمية مشجعة، ورافقتني خطوة بخطوة، وآمنت بإمكانياتي، وقدراتي على الوصول إلى العالمية، هذا الدعم المعنوي والعلمي شكّل حافزًا قويًا للاستمرار والتفوق.
وتتابع حديثها: الوصول إلى المنصات الدولية ليس مستحيلًا، لكنه يتطلب صبرًا، وإصرارًا، وعملًا جادًا. النجاح لا يأتي من فراغ، بل من شغف حقيقي، وتطوير مستمر، وإيمان بالنفس. كل من يمتلك فكرة هادفة ويثابر لتحقيقها، قادر على الوصول والتميّز عالميًا.
الطموح والتطوير
وتقول عن طموحاتها المستقبلية: أطمح على المستوى العلمي إلى التخصص في مجال الذكاء الاصطناعي، ومواصلة أبحاثي في ابتكار حلول تقنية تُحدث أثرًا حقيقيًا في حياة الناس، أما على المستوى الشخصي، فأرجو أن أكون نموذجًا مُلهمًا، وأسهم في دعم وتمكين الشباب العماني للمنافسة على الساحة العالمية.
وتختتم حديثها: أعمل حاليًا على تطوير النموذج ليكون أكثر دقة وفعالية، وهناك خطة لتجريبه بالتعاون مع جهات طبية متخصصة، وأسعى أن يتم اعتماد هذا النظام، وتطبيقه فعليًا في المستشفيات والمؤسسات الصحية، ليسهم في تحسين مستوى الرعاية الطبية، وتشخيص أمراض الرئة بدقة أكبر.
برلماني يطالب بإجراء تعديل تشريعي شامل في قانون الضريبة على العقارات المبنية