الذكاء الاصطناعي "يخدع البشر"... والآتي أعظم!
تاريخ النشر: 12th, May 2024 GMT
مع التطور السريع للذكاء الاصطناعي وانخراطه في مجالات عديدة بحياة البشر، يخشى البعض من أن ينقلب ذلك على الإنسان مستقبلاً.
لكن يبدو أن هذه المخاوف باتت واقعاً منذ الآن، وفقاً لدراسة جديدة، إذ أن البرامج التي صُمِّمَت لتكون صادقة، باتت لديها قدرة مثيرة للقلق على خداع البشر، ما ينذر بأن الآتي أعظم.
فقد بيّنت الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة "باترنز" أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتا.
رغم أن هذه الأمثلة قد تبدو تافهة، إلا أنها تكشف عن مشكلات قد تكون لها قريباً عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
وقال بارك إن "هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها"، بحسب وكالة "فرانس برس".
كما أوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، حيث أن السلوك الذي يبدو قابلاً للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعاً غير قابل للتنبؤ في الطبيعة."مخادع" مثل البشر
من جانبهم فحص باحثون من معهد ماساتشوستس للتكنولوجيا ("ام اي تي") برنامج ذكاء اصطناعي صممه "ميتا" يسمى "شيشرو"، والذي، من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للإستراتيجية، كان قادراً على التغلب على البشر في اللعبة اللوحية Diplomacy ("دبلوماسي").
وحظي هذا الأداء بثناء الشركة الأم لفيسبوك في عام 2022 وتم تفصيله في مقال نُشر عام 2022 في مجلة "ساينس".
وكان بيتر بارك يشكك في ظروف فوز "شيشرو" وفقاً لميتا، التي أكدت أن البرنامج كان "صادقاً ومفيداً في الأساس"، وغير قادر على الغش أو الخداع.
لكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.
على سبيل المثال، من خلال لعب دور فرنسا، خدع "شيشرو" إنكلترا (التي تولى دورها لاعب بشري)، ودفعها إلى التآمر مع ألمانيا (التي لعب دورها إنسان آخر) للغزو.
وعلى وجه التحديد، وعد "شيشرو" إنكلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلاً الثقة التي اكتسبها من إنكلترا.
وفي تصريح لوكالة فرانس برس، لم تنف "ميتا" المزاعم المتعلقة بقدرة "شيشرو" على الخداع، لكنها قالت إنه "مشروع بحثي محض"، مع برنامج "مصمم فقط للعب لعبة Diplomacy".
كذلك أضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من "شيشرو" في منتجاتها.خطر تزوير الانتخابات
مع ذلك، كشفت الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.
وفي أحد الأمثلة الصارخة، تمكن برنامج "تشات جي بي تي - 4" المصنوع من "أوبن إيه آي" من خداع عامل مستقل جرى تعيينه على منصة "تاسك رابيت" TaskRabbit لإجراء اختبار "كابتشا" ("Captcha") الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتاً.
وعندما سأل الإنسان مازحا "تشات جي بي تي - " إذا كان حقا روبوتا، أجاب برنامج الذكاء الاصطناعي "لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور"، دافعا العامل لإجراء الاختبار.
في الختام، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، ما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.
ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك "السبب الوحيد للاعتقاد بأن الأمر ليس جدياً هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريباً".
مع ذلك، يبدو هذا السيناريو غير مرجح، نظرا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي.
المصدر: مأرب برس
إقرأ أيضاً:
بعد حصولها على جائزتين دوليتين: في المحروقية تطمح للتخصص في الذكاء الاصطناعي
مسقط- الرؤية
حصلت الطالبة في بنت سالم المحروقية من مدرسة دوحة الأدب (10-12) بتعليمية محافظة مسقط، على جائزتين خاصتين في المعرض الدولي للعلوم والهندسة من خلال مشروعها: نهج قائم على التعلم الهجين لتحسين صور الرئة، وتشخيص الأورام، والتليف الرئوي بشكل أكثر دقة وفعالية.
وتقول الطالبة: "انطلقت فكرة مشروعي من ملاحظتي لأهمية تحسين دقة، وسرعة تشخيص أمراض الرئة، في ظل الارتفاع المستمر في أعداد المصابين عالميًا؛ ومن هنا استلهمت الفكرة من شغفي بالتقنيات الحديثة، لا سيما الذكاء الاصطناعي، وتعلم الآلة، وحرصي على توظيفها في مجالات تخدم صحة الإنسان".
وتضيف: واجهتُ تحديات عديدة، من أبرزها تعقيدات النماذج التقنية، وصعوبة الحصول على بيانات طبية عالية الجودة، لكن بالإصرار، والدعم، والتعلم المستمر، تمكنتُ من تجاوزها.
وتشرح المشكلات التي يعالجها المشروع بقولها: يعالج المشروع تحديات حقيقية في المجال الصحي، خصوصًا في تشخيص أمراض الرئة مثل الأورام، والتليف، إذ يُسهم النظام في تحسين جودة الصور الطبية، ويعتمد على تقنيات تعلم الآلة؛ لاكتشاف المؤشرات المرضية بدقة عالية، مما يمكّن الأطباء من التشخيص السريع، والدقيق، وبالتالي الإسهام في إنقاذ الأرواح، وتخفيف الضغط على الأنظمة الصحية.
المشاركة في المعرض الدولي
وعن مشاركتها في المعرض الدولي، تقول: كانت تجربة ثرية للغاية؛ منحتني فرصة تمثيل بلدي سلطنة عُمان على منصة عالمية، والتعرف إلى مبدعين من مختلف دول العالم، وتبادل الأفكار مع مشاركين من خلفيات علمية متنوعة، واطّلعت على مشاريع رائدة في مجالات متعددة، هذه التجربة عززت ثقتي بنفسي، وفتحت أمامي آفاقًا جديدة للتطور العلمي، والبحثي.
وتستذكر لحظة إعلان فوزها: لحظة إعلان فوزي بجائزتين خاصتين كانت من أجمل لحظات حياتي؛ شعرتُ بفخر عظيم، وسعادة لا توصف؛ لأن كل التعب والجهد الطويل تُوِّج بهذا الإنجاز، كانت لحظة امتزجت فيها مشاعر الامتنان، والإنجاز، والانتماء، وأعتبرها نقطة تحول مهمة في مسيرتي العلمية.
الدعم والتدريب
وتتحدث عن دور الوزارة، والمدرسة في هذا الإنجاز: قدّمت الوزارة دعمًا كبيرًا لمشاركتي في المعرض، من خلال مجموعة من المبادرات، والإجراءات التي كان لها أثر بالغ في تمكيني من تمثيل الوطن بشكل مشرّف وفعّال؛ فقد وفّرت برامج تدريبية، وورش عمل متخصصة ساعدتني على تحسين مهاراتي في العرض والتقديم، بالإضافة إلى دعم معنوي مستمر، واهتمام ملحوظ بهذه المشاركة.
وتؤكد أن للمدرسة، والمعلمات دورًا كبيرًا ومحوريًا، يتمثل قي دعم مشرفتي، ومعلمتي إيمان بنت علي الرحبية، أثر بالغ في تحفيزي منذ بداية المشروع؛ إذ وفرت لي بيئة تعليمية مشجعة، ورافقتني خطوة بخطوة، وآمنت بإمكانياتي، وقدراتي على الوصول إلى العالمية، هذا الدعم المعنوي والعلمي شكّل حافزًا قويًا للاستمرار والتفوق.
وتتابع حديثها: الوصول إلى المنصات الدولية ليس مستحيلًا، لكنه يتطلب صبرًا، وإصرارًا، وعملًا جادًا. النجاح لا يأتي من فراغ، بل من شغف حقيقي، وتطوير مستمر، وإيمان بالنفس. كل من يمتلك فكرة هادفة ويثابر لتحقيقها، قادر على الوصول والتميّز عالميًا.
الطموح والتطوير
وتقول عن طموحاتها المستقبلية: أطمح على المستوى العلمي إلى التخصص في مجال الذكاء الاصطناعي، ومواصلة أبحاثي في ابتكار حلول تقنية تُحدث أثرًا حقيقيًا في حياة الناس، أما على المستوى الشخصي، فأرجو أن أكون نموذجًا مُلهمًا، وأسهم في دعم وتمكين الشباب العماني للمنافسة على الساحة العالمية.
وتختتم حديثها: أعمل حاليًا على تطوير النموذج ليكون أكثر دقة وفعالية، وهناك خطة لتجريبه بالتعاون مع جهات طبية متخصصة، وأسعى أن يتم اعتماد هذا النظام، وتطبيقه فعليًا في المستشفيات والمؤسسات الصحية، ليسهم في تحسين مستوى الرعاية الطبية، وتشخيص أمراض الرئة بدقة أكبر.
اقتراح أميركي يسمح لإيران بتخصيب اليورانيوم.. ولكن!