كتب من تأليف الذكاء الاصطناعي تُباع على أمازون.. هل تشكل خطرا على المستهلك؟

نشرت صحيفة "الغارديان" البريطانية، تقريرا، للصحفية راشيل هول، قالت فيه إنّ: "أمازون، تبيع كتبا تُسوّق للأشخاص الذين يبحثون عن تقنيات لإدارة اضطراب فرط الحركة ونقص الانتباه (ADHD)، وتدّعي أنها تُقدّم نصائح من خبراء، إلا أنها تبدو وكأنها من تأليف روبوت دردشة مثل ChatGPT".

وبحسب التقرير الذي ترجمته "عربي21" فإنّ: "سوق أمازون، يغمر بأعمال من إنتاج الذكاء الاصطناعي، سهلة النشر ورخيصة الثمن، لكنها تتضمن معلومات مضللة غير مفيدة أو خطيرة، مثل أدلة السفر الرديئة وكتب البحث عن الفطر التي تُشجّع على تذوق أنواع خطرة".

وتابع: "ظهر عدد من الكتب على موقع أمازون الإلكتروني تُقدّم نصائح حول اضطراب فرط الحركة ونقص الانتباه، ويبدو أنها من تأليف روبوتات الدردشة. تشمل العناوين: التعامل مع اضطراب فرط الحركة ونقص الانتباه لدى الرجال: النجاح مع التشخيص المتأخر، والرجال المصابون باضطراب فرط الحركة ونقص الانتباه لدى البالغين: تقنيات فعالة للغاية لإتقان التركيز وإدارة الوقت والتغلب على القلق، والنظام الغذائي واللياقة البدنية للرجال المصابين باضطراب فرط الحركة ونقص الانتباه لدى البالغين".

"فحصت شركة Originality.ai، وهي شركة أمريكية متخصصة في اكتشاف المحتوى المُنتج بواسطة الذكاء الاصطناعي، عينات من ثمانية كتب لصالح صحيفة الغارديان. وذكرت الشركة أن كل كتاب حصل على تقييم 100 في المئة في درجة اكتشاف الذكاء الاصطناعي، مما يعني أن أنظمتها واثقة للغاية من أن الكتب من تأليف روبوت محادثة" وفقا للتقرير نفسه.

إلى ذلك، أوضح الخبراء بأنّ: "الأسواق الإلكترونية أشبه بـ"الغرب المتوحش" نظرا لغياب التنظيم حول الأعمال المُنتجة بواسطة الذكاء الاصطناعي، ما أدى لانتشار معلومات مضللة خطيرة".

وقال الباحث في علوم الحاسوب في جامعة كينغز كوليدج لندن، مايكل كوك، إن "أنظمة الذكاء الاصطناعي التوليدية معروفة بتقديم نصائح خطيرة، على سبيل المثال حول تناول المواد السامة، أو خلط المواد الكيميائية الخطرة، أو تجاهل الإرشادات الصحية".

وأضاف كوك: "لذا، كان من المحبط والمؤلم رؤية كتب من تأليف الذكاء الاصطناعي تظهر بشكل متزايد في الأسواق الرقمية، لا سيما في المواضيع الصحية والطبية، ما قد يؤدي إلى تشخيص خاطئ أو تفاقم الحالات".

"ربما تكون أنظمة الذكاء الاصطناعي التوليدية مثل ChatGPT قد تدربت على الكثير من الكتب والمقالات الطبية، لكنها تدربت أيضا على العلوم الزائفة ونظريات المؤامرة والخيال" وفقا لكوك.

وأضاف: "كما لا يمكن الاعتماد عليها في تحليل المعرفة التي قرأتها سابقا بشكل نقدي أو إعادة إنتاجها بشكل موثوق، فإن الأمر ليس بهذه البساطة مثل جعل أنظمة الذكاء الاصطناعي "تتذكر" الأشياء التي شاهدتها في بيانات التدريب الخاصة بها. لا ينبغي السماح لأنظمة الذكاء الاصطناعي التوليدية بالتعامل مع مواضيع حساسة أو خطيرة دون إشراف خبير".

ومع ذلك، أشار كوك إلى أنّ: "نموذج أعمال أمازون شجع هذا النوع من الممارسات، إذ حقق أرباحا في كل مرة، اشترى فيها الناس كتابا، سواء كان العمل جديرا بالثقة أم لا، فيما لم تُحاسب شركات الذكاء الاصطناعي التوليدية التي أنشأت المنتجات".

من جهتها، قالت مديرة مركز جامعة إدنبرة للمستقبل التكنولوجي الأخلاقي، شانون فالور، إنّ: "أمازون تتحمل مسؤولية أخلاقية بعدم تسهيل الإضرار بعملائها والمجتمع عن علم، على الرغم من أنه سيكون "من العبث" جعل بائع الكتب مسؤولا عن محتويات جميع كتبه".

وأشارت فالور إلى أنّ: "المشاكل بدأت بالظهور لأن الحواجز التي وُضعت سابقا في صناعة النشر، مثل المخاوف المتعلقة بالسمعة وتدقيق المؤلفين والمخطوطات، قد تغيّرت تماما بفضل الذكاء الاصطناعي".

وأضافت بأنّ: "هذا الوضع تفاقم بسبب بيئة تنظيمية "متطرفة" لم تكن فيها "عواقب وخيمة على من يُمكّنون من إلحاق الضرر، مما أجج سباقا نحو القاع".

ومضى التقرير بالقول: "في الوقت الحالي، لا يوجد تشريع يُلزم بتصنيف الكتب التي ألفها الذكاء الاصطناعي على هذا النحو. حيث لا ينطبق قانون حقوق النشر إلا في حال إعادة إنتاج محتوى مؤلف مُحدد، على الرغم من أن فالور أشارت إلى أن قانون الضرر والتعويض يجب أن يفرض واجبات أساسية للعناية والعناية الواجبة".

وأكدت وكالة معايير الإعلان، أنه: "لا يُمكن الإعلان عن الكتب التي ألفها الذكاء الاصطناعي لإعطاء انطباع مُضلّل بأنها من تأليف إنسان، مما يُمكّن الأشخاص الذين رأوا هذه الكتب من تقديم شكوى".
وبحسب التقرير، فإن ريتشارد وردزورث كان يأمل في معرفة تشخيصه الأخير باضطراب فرط الحركة ونقص الانتباه لدى البالغين عندما أوصى والده بكتاب وجده على أمازون بعد بحثه عن "رجال بالغين يعانون من اضطراب فرط الحركة ونقص الانتباه".

عندما جلس وردزورث لقراءته، قال: "بدا الكتاب غريبا على الفور. افتُتح باقتباس من عالم النفس المحافظ جوردان بيترسن، ثم احتوى على سلسلة من الحكايات العشوائية، بالإضافة إلى مغالطات تاريخية".

ولاحظ وردزورث أنّ بعض النصائح كانت ضارة بالفعل. على سبيل المثال، حذّر أحد الفصول التي تناقش الاضطراب العاطفي من أنّ الأصدقاء والعائلة لا يغفرون الضرر العاطفي الذي تُلحقه. إن الألم والأذى الناجمين عن الغضب الاندفاعي يتركان ندوبا دائمة".

وعندما بحث وردزورث عن المؤلف، اكتشف صورة رأس تبدو وكأنها مُولّدة بواسطة الذكاء الاصطناعي، بالإضافة إلى نقص في المؤهلات؛ بحث عن العديد من العناوين الأخرى في سوق أمازون، وصُدم عندما عثر على تحذيرات بأن حالته "كارثية" وأنه "أكثر عرضة للوفاة المبكرة بأربع مرات".

وتابع التقرير: "شعر فورا بالانزعاج، كما شعر والده، وهو متعلم تعليما عاليا. قال ووردزوورث: إذا كان من الممكن خداعه بهذا النوع من الكتب، فيمكن لأي شخص آخر أن يفعل ذلك، وبالتالي، فإن الأشخاص ذوي النوايا الحسنة واليائسين يملؤون رؤوسهم بهراء خطير من قِبل المحتالين المتربحين بينما تأخذ أمازون حصتها".

وقال متحدث باسم أمازون: "لدينا إرشادات للمحتوى تُحدد الكتب التي يُمكن عرضها للبيع، ولدينا أساليب استباقية وتفاعلية تساعدنا على اكتشاف المحتوى الذي ينتهك إرشاداتنا، سواء كان مُولّدا بواسطة الذكاء الاصطناعي أم لا. نستثمر وقتا وموارد كبيرة لضمان اتباع إرشاداتنا وإزالة الكتب التي لا تلتزم بها".

وأوضح: "نواصل تعزيز حمايتنا ضد المحتوى غير الملتزم، وستستمر عمليتنا وإرشاداتنا في التطور مع ملاحظتنا للتغييرات في مجال النشر".

المصدر: عربي21