مساعد الذكاء الاصطناعي بواتساب يسرب رقم هاتف أحد المستخدمين
تاريخ النشر: 22nd, June 2025 GMT
في حادثة غريبة من نوعها، قام مساعد الذكاء الاصطناعي الموجود في منصة "واتساب" بتوليد رقم الهاتف الخاص بأحد المستخدمين على أنه رقم خدمة العملاء الخاص بشركة " ترانس بينين إكسبريس" (TransPennine Express) بالمملكة المتحدة، وذلك بحسب تقرير "ذا غارديان".
كان باري سميثورست ينتظر القطار السريع المتجه إلى مدينة مانشستر بيكاديللي، وعندما تأخر القطار طلب من مساعد الذكاء الاصطناعي الموجود في "واتساب" الذي يعتمد على نماذج "لاما" (LLMA) من "ميتا" تزويده برقم الهاتف الخاص بخدمة عملاء الشركة للتواصل معهم، جاء الرد مع رقم هاتف مستخدم آخر وهو جيمس غراي دون وجود ما يربط بينه وبين خدمة عملاء الشركة أو سميثورست، سواءً كان في الموقع الجغرافي أو البيانات أو حتى تقاطع الدوائر الاجتماعية والوظائف بينهما.
وعندما واجه سميثورست مساعد الذكاء الاصطناعي في "واتساب" بأن الرقم خطأ ويعود لمستخدم آخر، ما كان منه إلا الاعتذار والتأكيد أن هذا الرقم مولد بشكل عشوائي ولا يعود إلى أي قاعدة بيانات، رغم إشارته إلى استخدام قاعدة بيانات عشوائية.
وعن هذا الأمر قال مايك ستانوب، المدير الإداري لشركة "كاروثرز وجاكسون للاستشارات الإستراتيجية في مجال البيانات" (Carruthers and Jackson) أثناء حديثه مع "ذا غارديان": "هذا مثال رائع على فشل الذكاء الاصطناعي. إذا كان مهندسو ميتا يصممون أساليب "الكذب الأبيض" في أنظمة الذكاء الاصطناعي الخاصة بهم، فإنهم يجب أن يعلموا الجمهور".
ومن جانبها قالت "ميتا" على لسان المتحدث الرسمي إن رقم الهاتف المذكور متاح بشكل عام عبر الإنترنت ويتشارك بعض الأرقام مع رقم هاتف خدمة العملاء الخاص بشركة "ترانس بينين إكسبريس"، مؤكدا أن النموذج تدرب على قواعد البيانات الخاصة بالشركة وهي لا تضم أرقام هواتف المستخدمين، بحسب ما جاء في تقرير "ذا غارديان".
إعلانويمثل هذا الموقف الأحدث في سلسلة من هلوسات الذكاء الاصطناعي من عدة شركات ونماذج مختلفة، بما فيها "شات جي بي تي" الذي أكد أن رجلا قتل أبناءه ومازال يقضي عقوبته في السجن رغم أن الحقيقة عكس ذلك.
المصدر: الجزيرة
كلمات دلالية: حريات مساعد الذکاء الاصطناعی
إقرأ أيضاً:
غوتيريش يحذّر من استخدام الذكاء الاصطناعي في المجال العسكري
دعا الأمين العام للأمم المتحدة أنطونيو غوتيريش، المجتمع الدولي إلى التحرك العاجل لتنظيم استخدام الذكاء الاصطناعي في المجال العسكري، محذرا من مخاطره على السلم والأمن الدوليين.
وأكد غوتيريش، في تقرير موجّه إلى الجمعية العامة للأمم المتحدة، الموقف الثابت للأمم المتحدة الرافض لأي أنظمة تمتلك السلطة التقديرية لإزهاق الأرواح البشرية، واصفا إياها بأنها "بغيضة أخلاقيا".
وشدد على ضرورة توجيه الذكاء الاصطناعي نحو الاستخدامات السلمية التي تساهم في تحقيق التنمية المستدامة، محذرا في الوقت نفسه من تصاعد استخدام هذه التكنولوجيا في النزاعات المسلحة.
وأوضح أن الذكاء الاصطناعي قد يُسهم في تحسين دقة العمليات العسكرية وتقليل الأخطاء البشرية، لكنه يطرح تحديات خطيرة، لا سيما ما يتعلق بالمساءلة البشرية في النزاعات، خصوصا في المناطق ذات الكثافة السكانية العالية.
وأشار غوتيريش إلى ضرورة أن تظل قرارات استخدام القوة، خاصة ما يتعلق بالأسلحة النووية، في يد البشر فقط، مؤكدا أهمية التزام الدول بالقانون الدولي، بما في ذلك ميثاق الأمم المتحدة والقانون الدولي الإنساني وقانون حقوق الإنسان، خلال كامل دورة استخدام الذكاء الاصطناعي.
وحذر من أن هذه التكنولوجيا قد تسهّل على الجهات غير الحكومية تطوير أو حيازة أسلحة بيولوجية وكيميائية، داعيا الدول إلى تقييم منهجي لمخاطرها، والاستعداد الكامل لمواجهتها، والوفاء بالتزاماتها الدولية في مجالات نزع السلاح وعدم الانتشار.
كما عبر عن قلقه من الاستخدام المتزايد للتطبيقات المدنية للذكاء الاصطناعي في المجال العسكري، نظرا لطبيعتها القابلة لإعادة التوظيف، مما يزيد من صعوبة الرقابة ويقوض الشفافية والمساءلة.
ودعا الأمين العام للأمم المتحدة الدول إلى دراسة أوجه التداخل بين الاستخدامات المدنية والعسكرية لهذه التكنولوجيا، وتعزيز التعاون المشترك، ولا سيما في مجالات الشفافية، وبناء الثقة، واتخاذ تدابير إقليمية لمواجهة التحديات المرتبطة بها.
وأوصى غوتيريش بإطلاق آلية دولية شاملة لمعالجة الذكاء الاصطناعي في المجال العسكري وآثاره على الأمن والسلم الدوليين، على أن يُنظر في هذا المقترح خلال الدورة الثمانين للجمعية العامة للأمم المتحدة المقررة في سبتمبر المقبل.
سباق السيطرة في الفضاء يشتدّ.. الولايات المتحدة تستعد لإنشاء مفاعل نووي على القمر