نصائح كاسبرسكي للحد من مخاطر الذكاء الاصطناعي التوليدي في بيئة العمل
تاريخ النشر: 1st, October 2024 GMT
سرعان ما أصبحت أدوات الذكاء الاصطناعي التوليدي جزءاً أساسياً من بيئة العمل الحديثة، حيث تساعد في عدد من مهام العمل التي تتراوح من صياغة التقارير وحتى تحليل جداول البيانات وغيرها.
ووجدت دراسة عالمية أجرتها كاسبيرسكي أن 95% من المشاركين من كبار المسؤولين التنفيذيين يدركون أن أدوات الذكاء الاصطناعي التوليدي تُستخدم داخل مؤسساتهم، وكان أكثر من نصفهم (59%) قلقاً من مخاطر تسريب الموظفين لمعلومات حساسة دون قصد عند استخدام الذكاء الاصطناعي، لذا، يقدم خبراء كاسبرسكي نصائح حول كيفية تمكين المؤسسات من استخدام أدوات الذكاء الاصطناعي التوليدي بطريقة تقلل من المخاطر.
قال فلاديسلاف توشكانوف، مدير مجموعة تعلم الآلة لدى كاسبرسكي: «تمكن أدوات الذكاء الاصطناعي التوليدي الموظفين من تحقيق إنتاجية أعلى، حيث تساعد التكنولوجيا في تحليل البيانات وتنفيذ المهام الروتينية. ومع ذلك، يستخدم العديد من الأشخاص الذكاء الاصطناعي دون الحصول على الأذون المطلوبة من أصحاب العمل. مما قد يشكل مخاطراً كبيرة على المنظمة. فعلى سبيل المثال، يستمر تسريب البيانات بكونه مصدر قلق كبير في المجال. وعلاوة على ذلك، قد يحصل الموظفون على معلومات خاطئة ويتصرفون بناءً عليها نتيجة مغالطات الذكاء الاصطناعي. إذ يحدث ذلك عندما تقدم النماذج اللغوية الكبيرة معلومات خاطئة بشكل يبدو موثوقاً. ويمكن أن تكون هذه المغالطات خطيرة أكثر حتى عند استخدام الذكاء الاصطناعي التوليدي للمشورة حول كيفية إكمال مهام معينة في العمل.»
أصبحت مواجهة هذا التحدي ضرورة حتمية للأعمال حالياً. فقد كشف استطلاع آخر أجرته كاسبرسكي أن 40% من المشاركين في الشرق الأوسط و تركيا و أفريقيا يرون الذكاء الاصطناعي كأحد أفراد فريق العمل حالياً. وما يزيد من تعقيد الأمر هو مدى فعالية مصادر التهديد في تبني أدوات الذكاء الاصطناعي التوليدي لإنشاء هجمات هندسة اجتماعية أكثر إقناعاً لدى استهداف الأفراد. ويتضمن ذلك استخدامات مثل صياغة رسائل تصيد احتيالي مخصصة؛ وتوليد مقاطع تزييف عميق تحتوي أصواتاً، أو فيديو، أو نصوصاً واقعية تنتحل شخصيات الأفراد؛ ونشر حملات التضليل التي يمكن أن تؤثر على الرأي العام أو تحجب الحقيقة.
استطرد توشكانوف: «لا يعني ذلك وجوب منع المنظمات لأدوات الذكاء الاصطناعي التوليدي بشكل كامل. بل يجب على صناع القرار إجراء تقييم شامل للمخاطر لفهم أي أجزاء من روتين الأعمال اليومي يمكن أتمتتها باستخدام أدوات الذكاء الاصطناعي التوليدي دون رفع مستوى التهديدات التي تواجهها الشركات.»
بذلك، يمكن للمؤسسات اعتماد نهج مركزي عندما يتعلق الأمر بتبني الذكاء الاصطناعي التوليدي. فمن الممكن الحصول على الخدمات عبر حسابات مؤسسية من مزودي الخدمات السحابية مع ضمان وجود جميع معايير الحماية اللازمة. ويمكن أن تشمل هذه المعايير مراقبة أي معلومات تعريف شخصية محتملة في الرسائل، فضلاً عن الإشراف العام. كما ينبغي على المنظمات تثقيف موظفيها حول الاستخدام المقبول للذكاء الاصطناعي التوليدي والطرق المناسبة للوصول إليه تحت إشراف الشركة.
يمكن للمؤسسات تحسين إنتاجية الموظفين بشكل كبير وزيادة رضاهم الوظيفي من خلال فهم فوائد ومخاطر استخدام الذكاء الاصطناعي التوليدي والتأكد من وجود التدابير الأمنية الضرورية لتفادي أي مخاطر محتملة. ويجب أن تتضمن القواعد العامة للموظفين عدم الكشف عن البيانات السرية لأدوات الذكاء الاصطناعي؛ وعدم الاعتماد على نصائحها في أي الحالات الحساسة؛ والتحقق من المعلومات؛ وتذكر أن البيانات المقدمة إلى روبوت المحادثة يمكن أن تتسرب. كما يجب التحقق من كون جميع الحواسيب والخوادم التي تعمل بأنظمة قائمة على النماذج اللغوية الكبيرة محمية بأدوات أمنية حديثة.
واختتم توشكانوف قوله: «قد لا يكون حظر أدوات مثل ChatGPT وسواها هو الخيار الأفضل. إذ يمكن استخدام الذكاء الاصطناعي التوليدي بشكل إيجابي من خلال إيجاد موقف متوازن بين الحذر الأشد من اللازم والحذر الأقل من اللازم. وعلى نطاق أوسع، يمكن للشراكات بين القطاعين العام والخاص أن تجعل الذكاء الاصطناعي التوليدي عامل تمكين أساسي يساعد في تنمية الأعمال، وزيادة الإنفاق على الابتكار، والإدارة السليمة للمخاطر.»
المصدر
المصدر: بوابة الوفد
كلمات دلالية: أدوات الذکاء الاصطناعی التولیدی استخدام الذکاء الاصطناعی یمکن أن
إقرأ أيضاً:
مجموعة هائل سعيد أنعم وشركاه تطلق بالشراكة مع مايكروسوفت مرحلة جديدة لتوظيف الذكاء الاصطناعي في أعمالها
انضم إلى قناتنا على واتساب
شمسان بوست | خاص
نبيل هائل سعيد: “طموحنا ليس مجرد استخدام الذكاء الاصطناعي، بل بناء مؤسسة يكون فيها كل موظف قادرًا على ابتكار حلول مدعومة بالذكاء الاصطناعي.”
أعلنت مجموعة هائل سعيد أنعم وشركاه، بالشراكة مع شركة مايكروسوفت العالمية، إطلاق مرحلة جديدة من مسيرتها للتحول الاستراتيجي، تستهدف دمج الذكاء الاصطناعي في مختلف أعمالها وعملياتها، عبر تمكين موظفيها من تصميم وتطوير حلول مبتكرة تسهم في رفع الكفاءة وتعزيز الإنتاجية وتسريع الابتكار.
ويأتي هذا التوجه من خلال إطلاق مبادرة «وكيل الذكاء الاصطناعي» (AI Agent)، التي تمثل إحدى المبادرات الرئيسة ضمن المرحلة الثالثة من برنامج التحول الاستراتيجي للمجموعة (2026–2030)، تحت شعار «نبتكر لننمو»، في إطار رؤية تهدف إلى تحويل الذكاء الاصطناعي من أداة تقنية إلى ثقافة عمل مؤسسية تدعم النمو المستدام وتعزز القدرة التنافسية.
وشهد حفل الإطلاق، الذي أقيم عبر منصة Microsoft Teams، مشاركة أكثر من 1100 موظف من مختلف شركات المجموعة، بحضور قيادات المجموعة وممثلين عن شركة مايكروسوفت العالمية وشركة ريالينس، الشريك التنفيذي للمشروع، في تأكيد واضح على اتساع نطاق المبادرة وأهميتها في المرحلة المقبلة.
وفي كلمته خلال التدشين، أكد الأستاذ نبيل هائل سعيد أنعم، رئيس مجلس الإدارة والعضو المنتدب لمجموعة هائل سعيد أنعم وشركاه بإقليم اليمن، أن المجموعة تنظر إلى الذكاء الاصطناعي باعتباره فرصة لإعادة تطوير أساليب العمل وتمكين الإنسان، وليس مجرد تبني أدوات تقنية جديدة.
وقال:
“طموحنا ليس مجرد استخدام الذكاء الاصطناعي، بل بناء مؤسسة يكون فيها كل موظف قادرًا على ابتكار حلول مدعومة بالذكاء الاصطناعي.”
وأضاف أن الابتكار الحقيقي يبدأ من الموظفين أنفسهم، وأن أفضل الحلول تنطلق من واقع العمل اليومي، مؤكداً أن المجموعة تبحث عن أصحاب الأفكار المبتكرة أكثر من بحثها عن الخبرات التقنية، لأن الإبداع لا يرتبط بالمسمى الوظيفي، وإنما بطريقة التفكير والقدرة على تحويل التحديات إلى فرص.
وأوضح أن المبادرة تستهدف تمكين الموظفين من تطوير تطبيقات ووكلاء ذكاء اصطناعي يعالجون احتياجات أعمالهم اليومية، مع التزام المجموعة بتحويل الأفكار الواعدة إلى مشاريع عملية تسهم في تحسين الأداء وتعزيز القيمة المضافة في مختلف القطاعات.
وأشار إلى أن رؤية المجموعة تتمثل في الوصول إلى مرحلة يصبح فيها في كل شركة، وكل مصنع، وكل إدارة، وكلاء ذكاء اصطناعي يطورهم موظفو المجموعة أنفسهم، بما يرسخ ثقافة الابتكار ويعزز جاهزية المجموعة لمتطلبات المستقبل.
من جانبه، أكد كيثان باربو، ممثل شركة مايكروسوفت العالمية، أن الذكاء الاصطناعي يمثل أداة لتمكين الإنسان وتعزيز قدراته، وليس بديلاً عنه، مشيراً إلى أن المؤسسات الأكثر نجاحاً هي التي تستثمر في تطوير كوادرها وتمنحها القدرة على توظيف هذه التقنيات في ابتكار حلول تحقق قيمة حقيقية للأعمال.
وأشاد بالشراكة الاستراتيجية مع مجموعة هائل سعيد أنعم وشركاه، وبما حققته من تقدم في مسيرة التحول الرقمي، معتبراً أنها تمثل نموذجاً إقليمياً في تبني التقنيات الحديثة والاستثمار في بناء القدرات المؤسسية.
بدوره، أوضح المهندس محمد خليفة، الرئيس التنفيذي لتقنية المعلومات بإقليم اليمن، أن المبادرة تستهدف تطوير أكثر من 100 وكيل ذكاء اصطناعي لخدمة مختلف شركات المجموعة، من خلال برامج تدريبية وإشراف فني متخصص بالتعاون مع مايكروسوفت وشركة ريالينس، بما يضمن تحويل الأفكار إلى تطبيقات عملية ذات أثر مباشر على الكفاءة والإنتاجية.
وأضاف أن المشاركة الواسعة لأكثر من 1100 موظف تعكس جاهزية كوادر المجموعة لقيادة هذه المرحلة، مؤكداً أن نجاح المبادرة يعتمد على مساهمة جميع الموظفين، باعتبارهم الأقرب إلى فهم التحديات والفرص داخل بيئة العمل.
كما أكد السيد إيهاب الشافعي، مدير عام شركة ريالينس، أن ما يميز مجموعة هائل سعيد أنعم وشركاه هو امتلاكها رؤية استراتيجية تجعل الابتكار جزءاً من ثقافة المؤسسة، مشيراً إلى أن الاستثمار في الإنسان سيظل الركيزة الأساسية لنجاح أي تحول رقمي.
وتأتي هذه المبادرة امتداداً لمسيرة التحول الاستراتيجي التي تنفذها المجموعة منذ عام 2019، والتي أسهمت في بناء شراكات مع كبرى شركات التقنية العالمية، وفي مقدمتها مايكروسوفت وSAP، وتعزيز جاهزية كوادرها لقيادة التحول الرقمي. كما يأتي إطلاقها بعد حصول المجموعة مؤخراً على 14 شهادة خبير من SAP العالمية، تقديراً لتميزها في تطوير القدرات الرقمية وتبني أفضل الممارسات التقنية.
وتؤكد مجموعة هائل سعيد أنعم وشركاه، من خلال هذه المبادرة، أن الذكاء الاصطناعي لم يعد مشروعاً تقنياً مستقلاً، بل أصبح أحد المحركات الرئيسة لاستراتيجيتها المستقبلية، وأداة لتمكين الإنسان، وتعزيز الابتكار، ورفع الإنتاجية، وبناء مؤسسة أكثر قدرة على المنافسة في عالم تتسارع فيه التحولات التقنية.
نادي الأسير الفلسطيني: ارتفاع عدد الأسيرات إلى 89 داخل السجون الصهيونية