تحذير للذين يواعدون برامج الذكاء الاصطناعي الرومانسية في عيد الحب
تاريخ النشر: 15th, February 2024 GMT
تمثل الخصوصية أمرا مثيرا للقلق عندما يتعلق الأمر ببرامج الدردشة الآلية التي تشجعك بشكل نشط على مشاركة تفاصيل شخصية أكثر بكثير من أي تطبيق آخر، وهو ما خلصت له دراسة جديدة تحت عنوان "عيد الحب"، والتي وجدت أن روبوتات الدردشة يمكن أن تكون كابوسا للخصوصية، بحسب موقع "بزنس إنسايدرز".
فقد قامت مؤسسة "موزيلا" غير الربحية على الإنترنت بتقييم محادثات يوم عيد الحب، فراجعت 11 روبوت دردشة، وخلصت إلى أنها جميعها غير جديرة بالثقة وتقع ضمن أسوأ فئة من المنتجات التي تقوم بمراجعتها من حيث الخصوصية.
وكتبت الباحثة ميشا ريكوف عن روبوتات الدردشة الرومانسية في التقرير: "على الرغم من أنه يتم تسويقها على أنها شيء من شأنه أن يعزز صحتك العقلية ورفاهيتك، فإنها متخصصة في تقديم التبعية والوحدة والسمية، كل ذلك مع التطفل على أكبر قدر ممكن من البيانات منك".
وشمل بحث موزيلا 11 روبوت محادثة رومانسية مختلفا يعمل بالذكاء الاصطناعي، بما في ذلك التطبيقات المشهورة مثل ريبليكا وتشاي ورومانتك إيه آي وكرش أون. إيه آي.
وحصل كل تطبيق من هذه التطبيقات على علامة تفيد بأن "الخصوصية غير مشمولة" في هذا البرنامج، مما يضع روبوتات الدردشة هذه ضمن أسوأ فئات المنتجات التي استعرضتها موزيلا على الإطلاق.
ووفقا للبحث، فإن 73% من التطبيقات لا تشارك المستخدمين كيفية إدارة الثغرات الأمنية، و45% منها تسمح بكلمات مرور ضعيفة، وجميعها باستثناء واحد تشارك أو تبيع البيانات الشخصية.
وعلاوة على ذلك، تنص سياسة الخصوصية الخاصة ببرنامج "كرش أن. إيه آي" على أنه يمكنها جمع معلومات عن الصحة الجنسية للمستخدمين، والأدوية الموصوفة، والرعاية التي تؤكد الجنس، وفقا لتقرير موزيلا الذي نشره موقع بيزنس إنسايدرز.
وأشارت مؤسسة موزيلا إلى أنه في الماضي شجعت هذه التطبيقات السلوكيات الخطيرة، بما في ذلك الانتحار ومحاولة اغتيال الملكة الراحلة إليزابيث الثانية، بحسب بيزنس إنسايدرز.
أما بالنسبة لأولئك الذين يجدون أن احتمالية الرومانسية التي يعتمدها الذكاء الاصطناعي مستحيلة المقاومة، فتنصحهم مؤسسة موزيلا باتخاذ العديد من الاحتياطات، بما في ذلك عدم قول أي شيء لا تريد أن يقرأه زميل أو أحد أفراد الأسرة، واستخدام كلمة مرور قوية، واختيار عدم المشاركة في تدريب الذكاء الاصطناعي، والحد من وصول التطبيق إلى ميزات الهاتف المحمول الأخرى مثل الموقع والميكروفون والكاميرا.
المصدر: الجزيرة
إقرأ أيضاً:
الذكاء الاصطناعي يساعد الأطباء في تحليل الصور الطبية
برز الذكاء الاصطناعي، منذ ظهوره، كأداة فعّالة لتحليل الصور الطبية. وبفضل التطورات في مجال الحوسبة ومجموعات البيانات الطبية الضخمة التي يُمكن للذكاء الاصطناعي التعلّم منها، فقد أثبت جدواه في قراءة وتحليل الأنماط في صور الأشعة السينية، والتصوير بالرنين المغناطيسي، والتصوير المقطعي المحوسب، مما يُمكّن الأطباء من اتخاذ قرارات أفضل وأسرع، لا سيما في علاج وتشخيص الأمراض الخطيرة كالسرطان. في بعض الحالات، تُقدّم أدوات الذكاء الاصطناعي هذه مزايا تفوق حتى نظيراتها البشرية.
يقول أونور أسان، الأستاذ المشارك في معهد ستيفنز للتكنولوجيا في الولايات المتحدة، والذي يركز بحثه على التفاعل بين الإنسان والحاسوب في الرعاية الصحية "تستطيع أنظمة الذكاء الاصطناعي معالجة آلاف الصور بسرعة وتقديم تنبؤات أسرع بكثير من المُراجعين البشريين. وعلى عكس البشر، لا يتعب الذكاء الاصطناعي ولا يفقد تركيزه بمرور الوقت".
مع ذلك، ينظر العديد من الأطباء إلى الذكاء الاصطناعي بشيء من عدم الثقة، ويرجع ذلك في الغالب إلى عدم معرفتهم بكيفية وصوله إلى قراراته، وهي مشكلة تُعرف باسم "مشكلة الصندوق الأسود".
يقول أسان "عندما لا يعرف الأطباء كيف تُولّد أنظمة الذكاء الاصطناعي تنبؤاتها، تقلّ ثقتهم بها. لذا، أردنا معرفة ما إذا كان تقديم شروحات إضافية يُفيد الأطباء، وكيف تؤثر درجات التفسير المختلفة للذكاء الاصطناعي على دقة التشخيص، وكذلك على الثقة في النظام".
بالتعاون مع طالبة الدكتوراه أوليا رضائيان والأستاذ المساعد ألب أرسلان إمراه بايراك في جامعة ليهاي في ولاية بنسيلفانيا الأميركية، أجرى أسان دراسة شملت 28 طبيبًا متخصصًا في الأورام والأشعة، استخدموا الذكاء الاصطناعي لتحليل صور سرطان الثدي. كما زُوّد الأطباء بمستويات مختلفة من الشروح لتقييمات أداة الذكاء الاصطناعي. في النهاية، أجاب المشاركون على سلسلة من الأسئلة المصممة لقياس ثقتهم في التقييم الذي يُولّده الذكاء الاصطناعي ومدى صعوبة المهمة.
وجد الفريق أن الذكاء الاصطناعي حسّن دقة التشخيص لدى الأطباء مقارنةً بالمجموعة الضابطة، ولكن كانت هناك بعض الملاحظات المهمة.
اقرأ أيضا... مؤسسات تستخدم الذكاء الاصطناعي لأعمال معقدة ومتعددة الخطوات
كشفت الدراسة أن تقديم شروحات أكثر تفصيلًا لا يُؤدي بالضرورة إلى زيادة الثقة.
أخبار ذات صلةيقول أسان "وجدنا أن زيادة التفسير لا تعني بالضرورة زيادة الثقة". ذلك لأن وضع تفسيرات إضافية أو أكثر تعقيدًا يتطلب من الأطباء معالجة معلومات إضافية، مما يستنزف وقتهم وتركيزهم بعيدًا عن تحليل الصور. وعندما تكون التفسيرات أكثر تفصيلًا، يستغرق الأطباء وقتًا أطول لاتخاذ القرارات، مما يقلل من أدائهم العام.
يوضح أسان "معالجة المزيد من المعلومات تزيد من العبء المعرفي على الأطباء، وتزيد أيضًا من احتمال ارتكابهم للأخطاء، وربما إلحاق الضرر بالمريض. لا نريد زيادة العبء المعرفي على المستخدمين بإضافة المزيد من المهام".
كما وجدت أبحاث أسان أنه في بعض الحالات، يثق الأطباء بالذكاء الاصطناعي ثقةً مفرطة، مما قد يؤدي إلى إغفال معلومات حيوية في الصور، وبالتالي إلحاق الضرر بالمريض.
ويضيف أسان "إذا لم يُصمم نظام الذكاء الاصطناعي جيدًا، وارتكب بعض الأخطاء بينما يثق به المستخدمون ثقةً كبيرة، فقد يطور بعض الأطباء ثقةً عمياء، معتقدين أن كل ما يقترحه الذكاء الاصطناعي صحيح، ولا يدققون في النتائج بما فيه الكفاية".
قدّم الفريق نتائجه في دراستين حديثتين: الأولى بعنوان "تأثير تفسيرات الذكاء الاصطناعي على ثقة الأطباء ودقة التشخيص في سرطان الثدي"، والثانية بعنوان "قابلية التفسير وثقة الذكاء الاصطناعي في أنظمة دعم القرار السريري: تأثيراتها على الثقة والأداء التشخيصي والعبء المعرفي في رعاية سرطان الثدي".
يعتقد أسان أن الذكاء الاصطناعي سيظل مساعدًا قيّمًا للأطباء في تفسير الصور الطبية، ولكن يجب تصميم هذه الأنظمة بعناية.
ويقول "تشير نتائجنا إلى ضرورة توخي المصممين الحذر عند دمج التفسيرات في أنظمة الذكاء الاصطناعي"، حتى لا يصبح استخدامها معقدا. ويضيف أن التدريب المناسب سيكون ضروريًا للمستخدمين، إذ ستظل الرقابة البشرية لازمة.
وأكد "ينبغي أن يتلقى الأطباء، الذين يستخدمون الذكاء الاصطناعي، تدريبًا يركز على تفسير مخرجات الذكاء الاصطناعي وليس مجرد الوثوق بها".
ويشير أسان إلى أنه في نهاية المطاف، يجب تحقيق توازن جيد بين سهولة استخدام أنظمة الذكاء الاصطناعي وفائدتها.
ويؤكد الباحث "يُشير البحث إلى وجود معيارين أساسيين لاستخدام أي شكل من أشكال التكنولوجيا، وهما: الفائدة المتوقعة وسهولة الاستخدام المتوقعة. فإذا اعتقد الأطباء أن هذه الأداة مفيدة في أداء عملهم، وسهلة الاستخدام، فسوف يستخدمونها".
مصطفى أوفى (أبوظبي)
من عالم العقارات إلى الدبلوماسية الفظة.. كيف انعكست النزعة الفوقية في هفوات خطاب توم براك؟