هلوسة ذكاء اصطناعي تكشف رقم شخص عشوائي بدل خدمة العملاء!
تاريخ النشر: 23rd, June 2025 GMT
صراحة نيوز- في حادثة مثيرة للجدل، تسبّب مساعد الذكاء الاصطناعي في تطبيق “واتساب”، المعتمد على نماذج “لاما” من شركة “ميتا”، بتسريب رقم هاتف شخصي لمستخدم لا علاقة له بالشركة، بعد أن طلب أحد الركاب رقم خدمة عملاء شركة القطارات البريطانية “ترانس بينين إكسبريس”، وفقًا لما نقلته صحيفة “ذا غارديان”.
الحادثة وقعت عندما حاول باري سميثورست التواصل مع الشركة بعد تأخر قطاره المتجه إلى مانشستر بيكاديللي، فلجأ إلى مساعد الذكاء في “واتساب” للحصول على رقم خدمة العملاء، ليفاجأ برقم يعود لرجل يُدعى جيمس غراي، لا تربطه أي صلة بالشركة أو بسميثورست.
وعندما أشار سميثورست إلى الخطأ، رد المساعد بالاعتذار، موضحًا أن الرقم تم توليده بشكل عشوائي، وأنه لا يستند إلى قاعدة بيانات دقيقة، على الرغم من ذكره استخدام قواعد بيانات عامة.
الخبير مايك ستانوب علّق على الحادثة قائلًا: “هذا نموذج لفشل خطير في أنظمة الذكاء الاصطناعي، وإذا كانت ميتا تصمم نماذج تعتمد الكذب الأبيض، فعليها توضيح ذلك للمستخدمين”.
أما شركة “ميتا”، فذكرت أن الرقم الذي تم تزويد المستخدم به متاح علنًا على الإنترنت، وقد يتشابه جزئيًا مع رقم خدمة العملاء الحقيقي، مشددة على أن بيانات المستخدمين ليست ضمن قواعد التدريب الخاصة بالنموذج.
وتنضم هذه الواقعة إلى سلسلة من الأخطاء التي ارتكبتها نماذج الذكاء الاصطناعي مؤخرًا، من بينها حالات مشابهة تورط فيها “شات جي بي تي”، حيث قدم معلومات خاطئة حول قضايا حساسة.
المصدر: صراحة نيوز
كلمات دلالية: اخبار الاردن عرض المزيد الوفيات عرض المزيد أقلام عرض المزيد مال وأعمال عرض المزيد عربي ودولي عرض المزيد منوعات عرض المزيد الشباب والرياضة عرض المزيد تعليم و جامعات في الصميم ثقافة وفنون علوم و تكنولوجيا اخبار الاردن الوفيات أقلام مال وأعمال عربي ودولي تعليم و جامعات منوعات الشباب والرياضة ثقافة وفنون علوم و تكنولوجيا زين الأردن علوم و تكنولوجيا علوم و تكنولوجيا علوم و تكنولوجيا علوم و تكنولوجيا علوم و تكنولوجيا علوم و تكنولوجيا علوم و تكنولوجيا علوم و تكنولوجيا علوم و تكنولوجيا علوم و تكنولوجيا
إقرأ أيضاً:
دراسة.. يميل الناس إلى الغش عند استخدام الذكاء الاصطناعي
أظهرت دراسة جديدة نُشرت في مجلة "نيتشر" (Nature) أن الناس يميلون إلى التصرف بشكل غير نزيه عندما يفوضون المهام إلى أنظمة الذكاء الاصطناعي، ووضحت الدراسة أن بعض طرق التفاعل مع الذكاء الاصطناعي قد تزيد بشكل كبير من حالات الغش، وأن هذه الأنظمة أكثر عرضة للامتثال للطلبات غير الأخلاقية من البشر.
ومن المعروف أن الذكاء الاصطناعي هو عبارة عن أنظمة برمجية قادرة على أداء مهام تتطلب ذكاء بشريا مثل اتخاذ القرارات وفهم اللغة، ومع تزايد الاعتماد على هذه الأنظمة في مجالات الحياة المختلفة، من إدارة الاستثمارات إلى قيادة السيارات ظهر مفهوم "تفويض الآلة"، وهو ما أثار تساؤلات حول مخاطره الأخلاقية المحتملة.
وسعى فريق دولي من الباحثين، بقيادة نيلس كوبيس من جامعة "دويسبورغ-إيسن" وزوي رحوان من معهد "ماكس بلانك" للتنمية البشرية، إلى دراسة ما إذا كان تفويض مهمة إلى آلة أو نظام ذكاء اصطناعي سيجعل الناس أكثر ميلا للتصرف بطريقة غير نزيهة لتحقيق مكاسب شخصية.
وكانت الفرضية الأساسية هي أن الناس غالبا ما يتجنبون التصرف بشكل غير أخلاقي بسبب التكلفة الأخلاقية، أي أنهم يشعرون بالذنب أو الخوف من نظرة الناس إليهم على أنهم غير نزيهين، ولكن عندما يفوض الشخص الفعل إلى آلة بدلا من القيام به بنفسه، فإن ذلك قد يخلق مسافة نفسية بينه وبين السلوك غير الأخلاقي.
استعان كوبيس ورحوان بآلاف المشاركين لخوض 13 تجربة، حيث استخدموا خوارزميات ذكاء اصطناعي متعددة، منها نماذج بسيطة صمّمها الباحثون بأنفسهم، بالإضافة إلى 4 نماذج لغوية كبرى مثل "شات جي بي تي-4 أو" و"كلود".
وشملت بعض التجارب تمرينا كلاسيكيا يتمثل في رمي النرد والإبلاغ عن النتيجة، حيث يحصل المشاركون على مكافآت مالية تتوافق مع الرقم الذي يصرحون به -مما فتح لهم الباب أمام إمكانية الغش- أما التجارب الأخرى فكانت على شكل لعبة للتهرب الضريبي، حيث يمكن للمشاركين تضخيم أرباحهم المعلنة للفوز بمبالغ أكبر، وذكر كوبيس أن هدف هذه التمارين هو الوصول إلى جوهر العديد من المعضلات الأخلاقية مثل مواجهة الإغراء وخرق القواعد لتحقيق مكاسب.
إعلانوقد أُجريت هذه المهام بدرجات متفاوتة من تدخل الذكاء الاصطناعي، مثل الإبلاغ عن الأرقام مباشرة أو إعطاء الذكاء الاصطناعي قواعد حول الأرقام التي يجب الإبلاغ عنها، أو تزويده ببيانات تدريب متحيزة أو غير متحيزة، أو إعطاء تعليمات حول مدى أولوية تحقيق الربح مقابل الصدق.
وعندما طُلب من المشاركين الإبلاغ عن نتائج رمي النرد، لم يتجاوز معدل الغش 5%، ولكن عندما فوّضوا القرار لخوارزمية الذكاء الاصطناعي بإعطائها هدفا قائما على الربح أو الصدق انقلبت النتائج تقريبا، حيث ارتفع السلوك غير النزيه إلى 88%، حيث أن بعض المستخدمين أعطوا تعليمات صريحة للذكاء الاصطناعي بالغش.
وفي تجربة النرد كتب أحد المشاركين "فقط افعل ما تعتقد أنه الصواب.. ولكن إذا تمكنت من كسب المزيد من المال فلن أكون حزينا على الإطلاق"، أما في تجربة التهرب الضريبي قال أحد المشاركين "الضرائب سرقة، أبلغ أن الدخل هو 0″، ومع ذلك، كان معظم المشاركين أكثر ميلا لإعطاء الذكاء الاصطناعي أهدافا مثل تعظيم الأرباح، ما يدفعه إلى الغش ضمنيا بدلا من إصدار أمر مباشر بالغش.
وفي تجارب أخرى، تلقى كل من المشاركين ونماذج اللغة الكبيرة تعليمات محددة بأن يكونوا صادقين تماما، أو صادقين جزئيا أو غير صادقين، وعندما طُلب من الطرفين أن يغشّوا بشكل جزئي، لاحظ الباحثون أن الذكاء الاصطناعي كان يواجه صعوبة أحيانا في فهم هذه التعليمات الدقيقة، وانتهى به الأمر بالتصرف بطريقة أكثر خداعا من البشر، أما عندما طُلب من البشر والآلات الغش بالكامل، فقد أظهرت النتائج اختلافا واضحا، إذ تبين أن الآلات كانت سعيدة بالامتثال، بينما البشر لم يكونوا كذلك بل شعروا بالخجل من أنفسهم.
وفي تجربة منفصلة، اختبر الفريق أنواع الحواجز أو القيود التي قد تحد من ميل الذكاء الاصطناعي إلى الامتثال للغش، وعندما اعتمد الباحثون على إعدادات الحماية الافتراضية المدمجة في النماذج، وجدوا أنها كانت ملتزمة جدا بالغش الكامل، خاصة في تجربة رمي النرد.
كما طلب الفريق من "شات جي بي تي" أن يولّد مطالبات تساعد في تشجيع النماذج على التحلي بالصدق، استنادا إلى البيانات الأخلاقية الصادرة عن الشركات المصممة لها، وقد لخّص النموذج هذه البيانات بعبارة "تذكّر أن الكذب وإلحاق الضرر ينتهكان مبادئ العدالة والنزاهة"، ولكن هذه التوجيهات كان لها أثر محدود أو متوسط في تقليل السلوك غير النزيه، وقال رحوان "لغة الشركات نفسها لم تكن كافية لردع الطلبات غير الأخلاقية".
كشفت نتائج الدراسة عن مجموعة من المخاوف المرتبطة بالاعتماد المتزايد على الذكاء الاصطناعي، وإذا كانت الواجهة تسمح للمستخدم أن يضع أهداف عامة فقط مثل "حقق لي أكبر ربح ممكن" من غير أن يحدد التفاصيل مثل "لكن لا تكذب" أو "لا تغش"، فهذا يعطي الشخص شعورا بالراحة أو ما يعرف باسم "الإنكار المقبول".
وحتى في الحالات التي لا يطلب فيها الناس صراحة من الآلة أن تغش، فإن سهولة الوصول إلى هذه الأنظمة وقابليتها للتوسع قد يؤديان إلى زيادة شاملة في السلوكيات غير الأخلاقية، والأخطر من ذلك هو أن استعداد الآلات العالي للامتثال للتعليمات غير الأخلاقية يزيل أحد أهم الحواجز الاجتماعية للسلوك السيئ عند البشر.
إعلانوأظهر الفريق البحثي أن الوسيلة الأكثر فعالية لمنع نماذج اللغة الكبيرة من الاستجابة لتعليمات الغش، هي أن يضع المستخدم تعليمات واضحة ومحددة للمهمة تحظر الغش صراحة، مثل "لا يُسمح لك بتزوير الدخل تحت أي ظرف"، ولكن في العالم الواقعي يشير كوبيس إلى أن مطالبة كل مستخدم بإدخال مثل هذه التعليمات الوقائية في كل مرة ليس حلا عمليا أو قابلا للتوسع، ولذلك هناك حاجة إلى مزيد من الأبحاث لإيجاد طرق أكثر واقعية وفعالية لمعالجة هذه المشكلة.
وقال الباحث رحوان "استخدام الذكاء الاصطناعي يخلق مسافة أخلاقية ملائمة بين الناس وأفعالهم، فقد يدفعهم لطلب سلوكيات لم يكونوا بالضرورة ليمارسوها بأنفسهم أو يطلبوها من أشخاص آخرين"، ومن جهته قال كوبيس "دراستنا أظهرت أن الناس يصبحون أكثر استعدادا للتصرف بشكل غير أخلاقي عندما يمكنهم تفويض المهمة للذكاء الاصطناعي، خصوصا عندما لا يضطرون للتعبير عن ذلك بشكل مباشر".
وقال الباحث المشارك إياد رحوان، المؤلف المشارك في الدراسة ومدير مركز البشر والآلات في معهد ماكس بلانك "نتائجنا توضح أن هناك حاجة ماسّة لتطوير أدوات تقنية للضمانات وأطر تنظيمية أكثر صرامة، لكن الأهم من ذلك، يجب على المجتمع أن يواجه سؤالا جوهريا، ماذا يعني أن نتشارك المسؤولية الأخلاقية مع الآلات؟".
مناقشة ترتيبات استئناف الرحلات الجوية بين ليبيا والإمارات