الذكاء الاصطناعي "يخدع البشر"... والآتي أعظم!
تاريخ النشر: 12th, May 2024 GMT
مع التطور السريع للذكاء الاصطناعي وانخراطه في مجالات عديدة بحياة البشر، يخشى البعض من أن ينقلب ذلك على الإنسان مستقبلاً.
لكن يبدو أن هذه المخاوف باتت واقعاً منذ الآن، وفقاً لدراسة جديدة، إذ أن البرامج التي صُمِّمَت لتكون صادقة، باتت لديها قدرة مثيرة للقلق على خداع البشر، ما ينذر بأن الآتي أعظم.
فقد بيّنت الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة "باترنز" أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتا.
رغم أن هذه الأمثلة قد تبدو تافهة، إلا أنها تكشف عن مشكلات قد تكون لها قريباً عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
وقال بارك إن "هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها"، بحسب وكالة "فرانس برس".
كما أوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، حيث أن السلوك الذي يبدو قابلاً للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعاً غير قابل للتنبؤ في الطبيعة."مخادع" مثل البشر
من جانبهم فحص باحثون من معهد ماساتشوستس للتكنولوجيا ("ام اي تي") برنامج ذكاء اصطناعي صممه "ميتا" يسمى "شيشرو"، والذي، من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للإستراتيجية، كان قادراً على التغلب على البشر في اللعبة اللوحية Diplomacy ("دبلوماسي").
وحظي هذا الأداء بثناء الشركة الأم لفيسبوك في عام 2022 وتم تفصيله في مقال نُشر عام 2022 في مجلة "ساينس".
وكان بيتر بارك يشكك في ظروف فوز "شيشرو" وفقاً لميتا، التي أكدت أن البرنامج كان "صادقاً ومفيداً في الأساس"، وغير قادر على الغش أو الخداع.
لكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.
على سبيل المثال، من خلال لعب دور فرنسا، خدع "شيشرو" إنكلترا (التي تولى دورها لاعب بشري)، ودفعها إلى التآمر مع ألمانيا (التي لعب دورها إنسان آخر) للغزو.
وعلى وجه التحديد، وعد "شيشرو" إنكلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلاً الثقة التي اكتسبها من إنكلترا.
وفي تصريح لوكالة فرانس برس، لم تنف "ميتا" المزاعم المتعلقة بقدرة "شيشرو" على الخداع، لكنها قالت إنه "مشروع بحثي محض"، مع برنامج "مصمم فقط للعب لعبة Diplomacy".
كذلك أضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من "شيشرو" في منتجاتها.خطر تزوير الانتخابات
مع ذلك، كشفت الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.
وفي أحد الأمثلة الصارخة، تمكن برنامج "تشات جي بي تي - 4" المصنوع من "أوبن إيه آي" من خداع عامل مستقل جرى تعيينه على منصة "تاسك رابيت" TaskRabbit لإجراء اختبار "كابتشا" ("Captcha") الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتاً.
وعندما سأل الإنسان مازحا "تشات جي بي تي - " إذا كان حقا روبوتا، أجاب برنامج الذكاء الاصطناعي "لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور"، دافعا العامل لإجراء الاختبار.
في الختام، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، ما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.
ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك "السبب الوحيد للاعتقاد بأن الأمر ليس جدياً هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريباً".
مع ذلك، يبدو هذا السيناريو غير مرجح، نظرا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي.
المصدر: مأرب برس
إقرأ أيضاً:
هل يسدد الذكاء الاصطناعي ديون الغرب؟
لا شك في أن الذكاء الاصطناعي يغير الاقتصاد العالمي بسرعة غير مسبوقة، ولكن هل ينقذ البلدان الغنية من ضغوط الديون المتزايدة الشدة، خاصة وأن الشيخوخة السكانية السريعة تزيد من الضغوط المفروضة على برامج الإعانات؟ إذا كان الأمر كذلك، فهل يتسنى لهذه البلدان إدارة عجز أكبر بأمان، والاقتراض فعليا على حساب أجيال المستقبل الفائقة الثراء؟
لا ينبغي لأحد أن يراهن على ذلك.
من المؤكد أن التقييم المتفائل إلى حد كبير لتأثير الذكاء الاصطناعي المحتمل على النمو الاقتصادي تسبب في دفع أسواق الأصول إلى الارتفاع خلال السنوات القليلة الماضية. وينطبق هذا الأمر بشكل خاص على أسواق الأسهم المبتهجة التي تواصل ارتفاعها على الرغم من الشلل السياسي في فرنسا، والإغلاق الحكومي والهجوم الشامل على استقلالية البنك المركزي في الولايات المتحدة، وهجرة المواهب العالية المهارات من المملكة المتحدة.
برغم أنني أزعم منذ فترة طويلة أن الذكاء الاصطناعي سيحل في نهاية المطاف مشكلة النمو الضعيف في الاقتصادات المتقدمة، فإنني حذرت أيضا من عدد كبير من العقبات المحتملة التي قد تبطئ من وتيرة هذا التحول. تُـعَـد إمدادات الكهرباء بين العوامل المادية، والقانونية، والاقتصادية، والاجتماعية العديدة التي يجب وضعها في الحسبان؛ وكذا حقوق الملكية الفكرية؛ ونقص العمال المهرة في مجال الذكاء الاصطناعي؛ والحاجة إلى وضع إطار عمل شامل يحكم كيفية تواصل روبوتات الدردشة وتبادل المعلومات، بما في ذلك نوع من آليات التسعير.
لقد استثمرت شركات الذكاء الاصطناعي مبالغ طائلة في سباق الهيمنة على السوق (في حال سماح الحكومات بذلك)، ويبدو أنها على استعداد لتحمل نزيف الأموال مقابل المستخدمين والمعلومات. ولكن في نهاية المطاف، وربما في المستقبل غير البعيد، ستحتاج هذه الشركات إلى تطوير مصادر الدخل، على الأرجح من خلال الإعلانات، مثل شركات التواصل الاجتماعي من قبلها.
برغم أن إدارة الرئيس الأمريكي دونالد ترمب أشارت إلى المضي قدما بأقصى سرعة في تطوير الذكاء الاصطناعي، فإن المسائل المعقدة التي تنطوي على كيفية دمج الأحكام الأخلاقية في هذه النماذج ــ التي هي حاليا من اختصاص مجموعة صغيرة من المطورين ــ سوف يتولاها في نهاية المطاف الكونجرس الأمريكي والمحاكم، وكذلك السلطات في بلدان أخرى. ولكن من المرجح أن تأتي معظم المقاومة من مئات الملايين من العاملين الإداريين المُزاحين، الذين من المنتظر أن يصبحوا أحدث قضية سياسية، تماما كما هي حال عمال التصنيع اليوم وكما كانت حال عمال المزارع في ستينيات وسبعينيات القرن الماضي.
الواقع أن كل من يعمل على جهاز حاسوب أصبح عُرضة لخطر الأتمتة (التشغيل الآلي). ومن قبيل الخيال المحض أن نتصور أن حفنة من الشركات من الممكن أن تحل محل جزء كبير من قوة العمل دون حدوث اضطرابات سياسية هائلة. وباستثناء بعض التحولات الاستبدادية الدراماتيكية، نستطيع أن نجزم بأن حدوث اضطرابات أمر شبه مضمون. وسوف يقدم هذا الأمر ذخيرة وافرة لأمثال زهران ممداني في العالم (ممداني اشتراكي يبلغ من العمر 33 عاما، وهو المرشح الأوفر حظا ليصبح عمدة مدينة نيويورك القادم في نوفمبر)، خاصة وأن الذكاء الاصطناعي يبدو أنه يقضي على وظائف العمال الأصغر سنا.
ثم هناك الحقيقة المزعجة التي تتمثل في وجود عدد كبير من تطبيقات الذكاء الاصطناعي المتطورة في المجال العسكري، والذي قد يشعل شرارة سباق تسلح هائل بل وقد يؤدي إلى انتشار الحروب التي تخوضها جيوش من الطائرات المسيرة آليا وغيرها من أنظمة الأسلحة المدعومة بالذكاء الاصطناعي. تضر الصدوع والنزاعات الجيوسياسية بالنمو في الأمد البعيد، ومن المرجح أن تستنزف عائدات الضرائب بقدر ما تعززها. وقد يعمل الذكاء الاصطناعي على تمكين دول أصغر حجما وجماعات إرهابية بمنحها إمكانية الوصول إلى كبار علماء الفيزياء والبيولوجيا بضغطة زر.
أخيرا، لا تعني عودة ترمب، وهو منكر غير نادم لتغير المناخ، إلى البيت الأبيض أن التهديدات التي يفرضها الانحباس الحراري الكوكبي اختفت. فمن المتوقع أن تسجل تكاليف تغير المناخ دون ضابط أو رابط ارتفاعا حادا على مدار العقود القادمة ــ ما لم يتمكن سادة الذكاء الاصطناعي الكبار من حل المشكلة (وإن كان من الممكن أن يخلصوا إلى أن الحل يستلزم وجود عدد أقل كثيرا من الناس).
من قبيل المبالغة والمغالاة أن نتصور أن وصول الذكاء الاصطناعي العام بعد فترة انتقالية طويلة ومؤلمة سيحل جميع مشاكل العالم الغني. فحتى لو أفضى وصول الذكاء الاصطناعي العام إلى زيادة قوية في النمو، فمن شبه المؤكد أنه سيؤدي إلى حصة أعلى كثيرا من رأس المال في الناتج، وحصة أقل للعمالة في المقابل. الواقع أن سوق الأسهم تزدهر على وجه التحديد لأن الشركات تتوقع تقلص تكاليف العمالة. وعلى هذا فمن غير الممكن فهم توقعات الأرباح المرتفعة المتضمنة في ارتفاع أسعار الأسهم الشديد على أنها تترجم إلى نمو إجمالي.
هذا يعيدنا إلى الديون الحكومية. لا يوجد سبب واحد يجعلنا نفترض أن النمو المدفوع بالذكاء الاصطناعي سيؤدي إلى زيادة مكافئة في الإيرادات الضريبية الحكومية، حتى برغم أن هذا كان ليمثل افتراضا معقولا في الماضي. ذلك أن فرض ضرائب على رأس المال أصعب كثيرا في نهاية المطاف من فرضها على العمالة، ويرجع هذا جزئيا إلى أنه يميل إلى كونه أكثر تركزا وأشد قوة من الناحية السياسية، وجزئيا لأنه قادر على التحرك بحرية عبر الحدود.
بالطبع، من الممكن أن تعمل جدران التعريفة الجمركية المرتفعة على منع هروب رأس المال على هذا النحو، لكن أي استراتيجية من هذا القبيل ستكون في نهاية المطاف هازمة للذات. لذا، أجل، تحول الذكاء الاصطناعي قادم، وقد ساهم بالفعل في سباق تسلح جديد بين الولايات المتحدة والصين. ولكن من التهور أن نفترض أن الاقتصادات المتقدمة من الممكن أن تعتمد على الذكاء الاصطناعي لحل مشكلات الميزانية التي يعجز السياسيون من البشر عن حلها.
كينيث روجوف كبير الاقتصاديين السابق في صندوق النقد الدولي، وأستاذ الاقتصاد والسياسات العامة في جامعة هارفارد.
خدمة بروجيكت سنديكيت
اجتماع تنسيقي لمناقشة تطوير منظومة الدواء بالمستشفيات الجامعية بقنا