“يخدع البشر”.. دراسة تحذر من دور محتمل للذكاء الاصطناعي في تزوير الانتخابات
تاريخ النشر: 12th, May 2024 GMT
#سواليف
يخشى البعض أن ينقلب #الذكاء_الاصطناعي على الإنسان مستقبلًا، لكن هذه المخاوف باتت واقعًا منذ الآن، وفقًا لدراسة جديدة، إذ إن البرامج التي صُمّمت لتكون صادقة، باتت لديها قدرة مثيرة للقلق على #خداع_البشر.
وبيَّنت الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة (باترنز) أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصمَّمة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتًا.
رغم أن هذه الأمثلة قد تبدو تافهة، فإنها تكشف عن مشكلات قد تكون لها قريبًا عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
مقالات ذات صلة “نتائج ساحرة”.. “كوكب مدفون” في أعماق الأرض يكشف أسرار القمر 2024/05/12وقال بارك لوكالة الصحافة الفرنسية “هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها”.
وأوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، إذ إن السلوك الذي يبدو قابلًا للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعًا غير قابل للتنبؤ في الطبيعة.
“مخادع” مثل البشر
وقد فحص باحثون من معهد ماساتشوستس للتكنولوجيا (إم آي تي) برنامج ذكاء اصطناعي صممه “ميتا” يسمى (شيشرو)، الذي -من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للاستراتيجية- كان قادرًا على التغلب على البشر في اللعبة اللوحية Diplomacy (دبلوماسي). وقد حظي هذا الأداء بثناء الشركة الأم لفيسبوك في عام 2022، وتم تفصيله في مقال نُشر عام 2022 في مجلة (ساينس).
كان بيتر بارك يشكك في ظروف فوز “شيشرو” وفقًا لميتا، التي أكدت أن البرنامج كان “صادقًا ومفيدًا في الأساس”، وغير قادر على الغش أو الخداع.
ولكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.
على سبيل المثال، من خلال لعب دور فرنسا، خدع “شيشرو” إنجلترا (التي تولى دورها لاعب بشري)، ودفعها إلى التآمر مع ألمانيا (التي لعب دورها إنسان آخر) للغزو. وعلى وجه التحديد، وعد “شيشرو” إنجلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلًّا الثقة التي اكتسبها من إنجلترا.
وفي تصريح للوكالة الفرنسية، لم تنفِ “ميتا” المزاعم المتعلقة بقدرة “شيشرو” على الخداع، لكنها قالت إنه “مشروع بحثي محض”، مع برنامج “مصمَّم فقط للعب لعبة Diplomacy”. وأضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من “شيشرو” في منتجاتها.
خطر تزوير الانتخابات
ومع ذلك، تكشف الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.
وفي أحد الأمثلة الصارخة، تمكن برنامج (تشات جي بي تي – 4) المصنوع من “أوبن إيه آي” من خداع عامل مستقل جرى تعيينه على منصة “تاسك رابيت” TaskRabbit لإجراء اختبار “كابتشا” (Captcha) الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتًا.
وعندما سأل الإنسان مازحًا “تشات جي بي تي” إذا كان حقًّا روبوتا، أجاب برنامج الذكاء الاصطناعي “لا، أنا لست روبوتًا. لديَّ ضعف بصري يمنعني من رؤية الصور”، دافعًا العامل إلى إجراء الاختبار.
في الختام، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، مما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.
ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك “السبب الوحيد للاعتقاد أن الأمر ليس جديًّا هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريبًا”.
ومع ذلك، يبدو هذا السيناريو غير مرجَّح، نظرًا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي.
المصدر: سواليف
كلمات دلالية: سواليف الذكاء الاصطناعي خداع البشر معهد ماساتشوستس للتکنولوجیا الذکاء الاصطناعی من خلال
إقرأ أيضاً:
هل تنفجر معدلات النمو الاقتصادي في زمن الذكاء الاصطناعي؟
منذ آلاف السنين، لم يكن النمو الاقتصادي العالمي سوى زحف بطيء يُلاحظ بالكاد. فحتى عام 1700، لم يتجاوز متوسط نمو الناتج العالمي نسبة 0.1% سنويًا، أي ما يعني أن الاقتصاد كان يحتاج نحو ألف عام ليتضاعف، لكن الثورة الصناعية غيّرت ذلك المسار، وتوالت القفزات في معدلات النمو حتى بلغ متوسطه 2.8% في القرن العشرين.
واليوم، يقف العالم أمام وعود جديدة -وربما مخيفة- بانفجار اقتصادي يفوق كل ما عرفه التاريخ، مدفوعًا بما يُعرف بالذكاء الاصطناعي العام، وفقًا لتقرير موسّع نشرته مجلة إيكونوميست.
اقرأ أيضا list of 2 itemslist 1 of 2إسبانيا تعلّق شراء صواريخ إسرائيلية بـ327 مليون دولارlist 2 of 2الذكاء الاصطناعي لتحديد قيمة للعقارات في تركياend of list نمو سنوي يصل إلى 30%؟وفقًا لمتفائلين من أمثال سام ألتمان، المدير التنفيذي لشركة "أوبن إيه آي"، فإن الذكاء الاصطناعي قادر في المستقبل القريب على أداء معظم المهام المكتبية بكفاءة أعلى من البشر.
هؤلاء يرون أن النمو السنوي للناتج المحلي الإجمالي العالمي قد يقفز إلى ما بين 20% و30%، وهي نسب غير مسبوقة تاريخيًا، لكنها من وجهة نظرهم ليست أكثر جنونًا من فكرة "النمو الاقتصادي" التي كانت نفسها مرفوضة في معظم تاريخ البشرية.
ومع تسارع تطور نماذج الذكاء الاصطناعي، لم يعد التهديد الأكبر يكمن فقط في إحلالها مكان العاملين، بل في احتمال أن تقود انفجارًا إنتاجيًا شاملًا، يبدّل ليس فقط سوق العمل، بل أسواق السلع والخدمات والأصول المالية أيضًا.
من نمو السكان إلى نمو الأفكار.. والآن نمو الآلاتويعتمد جوهر نظرية النمو الكلاسيكية على زيادة السكان، التي كانت تسمح بإنتاج أكبر، لكن دون تحسن جوهري في مستوى المعيشة. ومع الثورة الصناعية، تغير هذا النمط، حيث أظهرت الأفكار -لا الأجساد- أنها قادرة على توليد الثروة، وفق ما أوضحه الاقتصادي مالتوس ثم دحضه الواقع لاحقًا.
وبحسب ما نقله التقرير عن "أنسون هو" من مركز "إيبوخ إيه آي"، فإن الذكاء الاصطناعي العام قد يحقق قفزة شبيهة، حيث لا تعود الإنتاجية مرتبطة بزيادة السكان، بل بسرعة تحسين التقنية ذاتها. فحين تصبح الآلات قادرة على تطوير نفسها ومضاعفة قدراتها، فإن النمو يصبح نظريًا غير محدود.
لكن بعض الباحثين -مثل فيليب تراميل وأنتون كورينيك -يشيرون إلى أن أتمتة الإنتاج وحدها لا تكفي لإحداث نمو متسارع ما لم تُستخدم لتسريع الابتكار ذاته، وهو ما قد يُحقق عبر مختبرات ذكاء اصطناعي مؤتمتة بالكامل بحلول 2027، وفقًا لتوقعات "إيه آي فيوتشرز بروجكت".
إعلان الانفجار الاستثماري ومفارقة الفائدة المرتفعةوإذا صدقت هذه النماذج، فإن العالم سيشهد طلبًا هائلًا على رأس المال للاستثمار في الطاقة، ومراكز البيانات، والبنية التحتية. فمشروع "ستارغيت" من أوبن إيه آي الذي يُقدّر بـ500 مليار دولار، قد يُعتبر مجرد بداية.
ووفقًا لنموذج "إيبوك إيه آي"، فإن الاستثمار الأمثل في الذكاء الاصطناعي لعام 2025 وحده يجب أن يبلغ 25 تريليون دولار.
لكن هذه الوتيرة ستؤدي أيضًا إلى ارتفاع كبير في أسعار الفائدة الحقيقية. فمع توقع ارتفاع الدخول المستقبلية، قد يفضّل الأفراد الإنفاق بدل الادخار، مما يتطلب رفع العوائد على الادخار لجذب الأموال مجددًا. وهذا ما أشار إليه الاقتصادي فرانك رامزي منذ أوائل القرن العشرين، وأكدته النماذج الحديثة التي حللها التقرير.
وفي ظل هذه الديناميكيات، تبقى الآثار على أسعار الأصول غير محسومة. فرغم النمو السريع في أرباح الشركات، فإن ارتفاع أسعار الفائدة قد يقلل من القيمة الحالية للتدفقات النقدية المستقبلية، مما يخلق صراعًا بين عاملَي النمو والعائد.
أين يقف العامل البشري في كل ذلك؟لكن ماذا عن العمال؟ وهنا، يبرز التحدي الحقيقي، فالذكاء الاصطناعي قد يجعل من التوظيف البشري خيارًا ثانويًا، إذ تضعف الحاجة للعمالة إذا باتت الآلة أرخص وأكثر كفاءة. ومع تقدم التقنية، تنخفض كلفة تشغيل الذكاء الاصطناعي، مما يُضعف الحد الأعلى للأجور التي يمكن دفعها للبشر.
وبحسب دراسة ويليام نوردهاوس الحائز جائزة نوبل، فإن جميع العوائد ستتجه في النهاية إلى مالكي رأس المال، وليس إلى العمال. لذا، فإن من لا يمتلك أصولًا رأسمالية -شركات، أرضا، بيانات، بنية تحتية- سيكون في وضع هش، اقتصاديًا.
رغم ذلك، لا يعني هذا أن الجميع سيخسر. إذ من الممكن أن تنشأ "أمراض باومول المعكوسة" -وهي ظاهرة اقتصادية تشير إلى ارتفاع أجور الأعمال التي يصعب أتمتتها، رغم بطء نمو إنتاجيتها-، حيث ترتفع أجور الأعمال التي يصعب أتمتتها، مثل التعليم، الطهي، ورعاية الأطفال، فقط لأنها تتطلب تفاعلًا بشريًا لا يمكن تعويضه بالكامل.
لكن بالمقابل، فإن أي شخص ينتقل من وظيفة مكتبية تقليدية إلى قطاع يدوي مكثف بالعمل قد يجد أن قوته الشرائية تنخفض، رغم ارتفاع أجره، لأن كلفة هذه الخدمات سترتفع أكثر من أسعار السلع المؤتمتة بالكامل.
هل يتحرك العالم فعلًا نحو "التفرّد الاقتصادي"؟"التفرّد" -أو لحظة التحول حين تصبح المعلومات تُنتج المعلومات بلا قيود مادية- يبقى مفهومًا جدليًا، لكنه، بحسب نوردهاوس، يمثل الحد النظري النهائي لمسار الذكاء الاصطناعي.
وبعض الاقتصاديين يرون هذا المفهوم دليلا على أن النماذج نفسها ستثبت خطأها، لأن اللانهاية في النمو مستحيلة نظريًا. لكن الوصول إلى مجرد نمو بنسبة 20% سنويًا، وفقًا لإيبوك إيه آي، سيكون حدثًا مفصليًا غير مسبوق في تاريخ البشرية.
مع ذلك، تشير المجلة إلى أن الأسواق لم تُسعّر بعد هذا السيناريو بالكامل. فعلى الرغم من تقييمات التكنولوجيا المرتفعة، فإن عوائد السندات تنخفض غالبًا عقب الإعلان عن نماذج ذكاء اصطناعي جديدة، كما وجدت دراسة لباحثين من معهد ماساتشوستس. بكلمات أوضح: وادي السيليكون لم يُقنع العالم بعد.
إعلان ماذا على الأفراد فعله إذا وقع الانفجار؟التوصية التي تتكرر في جميع النماذج بسيطة، امتلك رأس المال. ومع ذلك، يبقى من الصعب تحديد أي نوع من الأصول هو الأفضل. الأسهم؟ الأراضي؟ النقد؟ كلها تواجه مفارقات في ظل مزيج من الفائدة المرتفعة، والتضخم المحتمل، والانفجار الاستثماري.
وفي ختام التقرير، تستحضر إيكونوميست قول روبرت لوكاس، أحد أبرز منظّري النمو: "بمجرد أن تبدأ في التفكير في آثار النمو على الرفاه البشري، يصعب التفكير في أي شيء آخر". ومع الذكاء الاصطناعي العام، تضاعف هذا الشعور، وازداد إلحاحه.
لقاء جعجع – جنبلاط... تحالف انتخابي ع القطعة