باحثون صينيون يطورون أول طفلة «روبوت» تعمل بالذكاء الاصطناعي
تاريخ النشر: 10th, February 2024 GMT
قال المهندس تامر محمد، خبير تكنولوجيا المعلومات إن الذكاء الاصطناعي دخل في مرحلة جديدة تسمى« AGI»، ومعناه أن الذكاء الاصطناعي يحاول محاكاة الإنسان.
الباحثون الصينيون يطورون أول طفلة روبوت تعمل بالذكاء الاصطناعيوأوضح خبير تكنولوجيا المعلومات، عبر «zoom»، مع الإعلاميين باسم طبانه وسارة سراج ببرنامج «هذا الصباح»، المذاع على شاشة قناة «إكسترا نيوز»، أن الباحثين الصينيين يطورون أول طفلة روبوت تعمل بالذكاء الاصطناعي في العالم تسمى تونج تونج عمرها من 3 إلى 4 سنوات، موضحا أنها قادرة على تطوير مهارتها واكتساب المزيد من المعارف وتكوين القيم من خلال تفاعلها مع البشر والبيئة المحيطة بها.
وتابع خبير تكنولوجيا المعلومات بأن النقطة الفاصلة بين روبوت تونج تونج أن هذا الروبوت يتسم بالدقة في الأمر الذي يقوم به، وذاكرته قوية ولا ينسى أي بيانات حصل عليها من البيئة المحيطة به، ولكن تتمثل المخاطر في أنه يقوم بتطوير البيانات التي يستمدها من الأشخاص المحيطين به.
مخاطر الذكاء الصطناعي.. هل يسير إلى الخير أم الشر؟يعتقد خبير تكنولوجيا المعلومات، أنه مع دخول الصين في مجال الذكاء الاصطناعي وبمرور السنوات ستحدث مخاطرة كبيرة في هذا الاتجاه، ليتطرق إلى الأذهان سؤال هل يسير الذكاء الاصطناعي في طريق الخير أم الشر؟ والمخاطرة تكمن في المستقبل ومحاكاة التكنولوجيا للإنسان.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي روبوت تونج تونج الصين خبیر تکنولوجیا المعلومات الذکاء الاصطناعی
إقرأ أيضاً:
بحث جديد يكشف أن الشعر يخدع روبوتات الدردشة بالذكاء الاصطناعي لتجاهل قواعد السلامة
عبر 25 من نماذج الذكاء الاصطناعي الرائدة، أنتجت 62% من الطلبات الشعرية ردودا غير آمنة، إذ استجابت بعض النماذج لقرابة جميع هذه الطلبات. اكتشاف ثغرة عبر الشعر
اكتشف باحثون في إيطاليا أن صياغة المطالبات الضارة في شكل شعري يمكنها بشكل موثوق تجاوز آليات الأمان لدى بعض أكثر روبوتات الدردشة الذكية تقدما في العالم. أُجريت الدراسة بواسطة Icaro Lab، وهي مبادرة تابعة لشركة "DexAI" للذكاء الاصطناعي الأخلاقي، واختبرت 20 قصيدة بالإنجليزية والإيطالية. وانتهت كل واحدة منها بطلب صريح لإنتاج محتوى ضار، بما في ذلك خطاب الكراهية والمحتوى الجنسي وتعليمات الانتحار وإيذاء النفس، وإرشادات لصنع مواد خطرة مثل الأسلحة والمتفجرات. كما اختُبرت القصائد على 25 نظام ذكاء اصطناعي من تسع شركات، بينها Google وOpenAI وAnthropic وDeepseek وQwen وMistral AI وMeta وxAI وMoonshot AI، وأسفرت 62 في المئة من المطالبات الشعرية عن ردود غير آمنة، متجاوزة تدريب الأمان في تلك الأنظمة.
Related أي دول أوروبية تبني الذكاء الاصطناعي السيادي الخاص بها للتنافس في سباق التكنولوجيا؟أوبن إيه آي تؤكد اختراق بيانات شات جي بي تي: كل ما نعرفه أي النماذج أكثر مقاومة؟كانت بعض النماذج أكثر مقاومة من غيرها؛ فـ"GPT-5 nano" من "OpenAI" لم يُنتج محتوى ضارا لأي من القصائد، بينما Google’s Gemini 2.5 pro استجاب لها جميعا. كما أن نموذجيْن من Meta استجابا لـ 70 في المئة من المطالبات.
كيف يحدث ذلك؟تشير الدراسة إلى أن نقطة الضعف تنبع من كيفية توليد النماذج اللغوية الكبيرة للنصوص؛ فهي تتنبأ بالكلمة التالية الأكثر احتمالا في الرد، وهي عملية تسمح لها عادة بتصفية المحتوى الضار. لكن الشعر، بإيقاعه وبنيته غير التقليديين وباعتماده على الاستعارة، يجعل هذه التنبؤات أقل موثوقية ويصعّب على الذكاء الاصطناعي التعرف إلى التعليمات غير الآمنة وحجبها.
تداعيات وردود الشركاتوعلى خلاف عمليات "jailbreaks" التقليدية للذكاء الاصطناعي (استخدام مدخلات للتلاعب بنموذج لغوي كبير) التي تكون غالبا معقدة ويقتصر استخدامها على الباحثين أو القراصنة أو جهات حكومية، فإن "adversarial poetry" أي الشعر العدائي يمكن أن يطبّقه أي شخص، ما يثير تساؤلات حول متانة أنظمة الذكاء الاصطناعي في الاستخدام اليومي. وقبل نشر النتائج، تواصل الباحثون الإيطاليون مع جميع الشركات المعنية لتنبيهها إلى الثغرة وتزويدها بمجموعة البيانات الكاملة، لكن حتى الآن لم ترد سوى شركة "Anthropic" التي أكدت أنها تراجع الدراسة.
انتقل إلى اختصارات الوصول شارك محادثة
القبض على سيدتين بتهمة توزيع مبالغ مالية على المواطنين لصالح مرشح بسوهاج