عالم روسي يحذر من ثغرات في الذكاء الاصطناعي
تاريخ النشر: 28th, November 2023 GMT
شفق نيوز/ يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.
ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.
وأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات.
وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.
وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.
وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".
وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.
بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.
المصدر: شفق نيوز
كلمات دلالية: العراق هاكان فيدان تركيا محمد شياع السوداني انتخابات مجالس المحافظات بغداد ديالى نينوى ذي قار ميسان اقليم كوردستان السليمانية اربيل نيجيرفان بارزاني إقليم كوردستان العراق بغداد اربيل تركيا اسعار الدولار روسيا ايران يفغيني بريغوجين اوكرانيا امريكا كرة اليد كرة القدم المنتخب الاولمبي العراقي المنتخب العراقي بطولة الجمهورية الكورد الفيليون الكورد الفيليون خانقين البطاقة الوطنية مطالبات العراق بغداد ذي قار ديالى حادث سير الكورد الفيليون مجلة فيلي عاشوراء شهر تموز مندلي الذكاء الاصطناعي تحذير الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يقلب موازين البحث في في غوغل
يُعد هذا التوسع امتدادًا للتحول الذي بدأتْه غوغل قبل عام، حين أطلقت ملخصات محادثة تحت اسم "ملخصات الذكاء الاصطناعي"، والتي تظهر بشكل متزايد في أعلى صفحة النتائج، وتحتل مكانةً أعلى من الروابط التقليدية في نتائج البحث.
وبحسب ما أعلنت غوغل، فإن نحو 1.5 مليار شخص يتفاعلون بانتظام مع هذه الملخصات، كما أصبح المستخدمون يدخلون استفسارات أطول وأكثر تعقيدًا.
وفي كلمة أمام حضور كبير في قاعة مؤتمرات قريبة من مقر الشركة في ماونتن فيو بكاليفورنيا، قال سوندار بيتشاي، الرئيس التنفيذي لشركة غوغل: "كل هذا التقدم يعني أننا دخلنا مرحلة جديدة في تطور منصتنا المبنية على الذكاء الاصطناعي، حيث تحولت عقود من الأبحاث إلى واقع يستفيد منه الناس في كل أنحاء العالم".
الذكاء الاصطناعي يُعيد تشكيل سلوك المستخدم
وعلى الرغم من توقعات سوندار بيتشاي وفريق الإدارة في غوغل بأن ميزة "النظرة العامة للذكاء الاصطناعي" ستزيد من عمليات البحث والنقر على الروابط، إلا أن الواقع لم يكن على هذا النحو حتى الآن، بحسب بيانات شركة BrightEdge المتخصصة في تحسين محركات البحث.
وأظهرت دراسة حديثة أجرتها الشركة انخفاضًا بنسبة 30% في معدلات النقر على نتائج بحث غوغل خلال العام الماضي، مشيرة إلى أن السبب الرئيسي هو اكتفاء المستخدمين بالمعلومات المقدمة عبر الملخصات الذكية دون الحاجة للنقر على الروابط.
ويُعد قرار إتاحة "وضع الذكاء الاصطناعي" على نطاق واسع بعد فترة اختبار قصيرة دليلًا على ثقة غوغل في دقة التكنولوجيا وعدم انتشار المعلومات المضللة عبرها، وهو ما يعكس أيضًا وعي الشركة بالمنافسة الشديدة التي تواجهها من أدوات بحث أخرى مدعومة بالذكاء الاصطناعي مثل ChatGPT وPerplexity.
الصعود السريع للذكاء الاصطناعي يُعيد رسم خريطة المنافسة
برز الصعود السريع لبدائل الذكاء الاصطناعي كمصدر اهتمام رئيسي في الإجراءات القانونية التي قد تؤدي إلى اضطرار غوغل إلى إعادة هيكلة أجزاء من إمبراطوريتها على الإنترنت، بعد أن أعلن قاضٍ فيدرالي أمريكي أن محرك بحث الشركة يمثل احتكارًا غير قانوني.
وأفاد إيدي كيو، المدير التنفيذي لشركة Apple، خلال شهادته في المحاكمة مبكرًا هذا الشهر، بأن عمليات البحث عبر غوغل من خلال متصفح Safari على iPhone انخفضت، نتيجة تحول المستخدمين إلى بدائل تعتمد على الذكاء الاصطناعي.
وأشارت غوغل إلى التغيرات الناتجة عن صعود الذكاء الاصطناعي كسبب رئيس لضرورة إجراء تعديلات طفيفة فقط على آلية عمل محرك بحثها، مشيرة إلى أن هذه التكنولوجيا تعيد تشكيل المشهد التنافسي بشكل جذري.
لكن على ما يبدو، فإن الاعتماد المتزايد لغوغل على الذكاء الاصطناعي حتى الآن ساعد محرك بحثها في الحفاظ على مكانته كبوابة رئيسية للإنترنت، وهو العامل الرئيسي الذي يجعل قيمتها السوقية ضمن شركتها الأم ألفابت تصل إلى تريليوني دولار (1.8 تريليون يورو).
وبحسب بيانات جمعها موقع onelittleweb.com، بلغ عدد زيارات غوغل الشهرية خلال العام المنتهي في مارس الماضي 136 مليار زيارة، أي ما يعادل 34 ضعف الزيارات الشهرية لموقع ChatGPT البالغة أربعة مليارات زيارة.
وعند سؤال "وضع الذكاء الاصطناعي" الخاص بغوغل من قبل صحفي في وكالة أسوشيتد برس، عما إذا كان اعتماد الذكاء الاصطناعي قد يؤثر سلبًا على محرك البحث، أكد أن ذلك غير محتمل، مشيرًا إلى أنه قد يعزز مكانة الشركة أكثر.
ورد "وضع الذكاء الاصطناعي": "نعم، من المحتمل جدًا أن يجعل هذا الوضع شركة غوغل أقوى، خاصةً في مجال الوصول إلى المعلومات والتأثير على الإنترنت". وحذّرت الميزة أيضًا من أن الناشرين على الويب قد يواجهون انخفاضًا في الزيارات القادمة من نتائج البحث.
استشاري تكنولوجيا إعلام: الحكومة أنهت تريند «شهادات الحلال»