خدعة خفية فى ChatGPT تكشف أسرارك على العلن
تاريخ النشر: 3rd, August 2025 GMT
رغم التطورات الهائلة التي قدمتها OpenAI في نماذج مثل ChatGPT ونسخة GPT‑4، كشفت خبراء أمنيون عن خدع بسيطة يستطيع أي مستخدم تنفيذها لخداع النظام، مما يؤثر على خصوصية المستخدم.
أحد الباحثين استطاع خداع ChatGPT عبر نص مخفي داخل HTML لإقناعه بالكشف عن مفاتيح Windows سرية وغيرها من المعلومات الحساسة المحتملة.
الهجوم المعروف باسم prompt injection هو استغلال يجعل النظام يفسر جزءًا من رسالة المستخدم كأجزاء للبرمجة الداخلية. يمكن إخفاء التعليمات ضمن محتوى الويب أو النصوص ليتم تنفيذها من قبل ChatGPT دون أن يتبين أنها ليست من المستخدم، مما قد يؤدي إلى مشاركة معلومات غير مرئية للعين البشرية تدمر الحواجز الأمنية.
خصوصيتك بلا ضامن رسميرغم أن الشركة تحترم خصوصية المستخدم، إلا أن الرئيس التنفيذي سام ألتمان حذر مؤخرًا من أن المحادثات مع ChatGPT لا تتمتع بالحماية القانونية مثل المحادثات مع الطبيب أو المحامي. كما أوصى بضرورة إيجاد إطار قانوني خاص لتأمين خصوصية البيانات داخل الذكاء الاصطناعي.
كذلك، أُزيل ميزة مشاركة المحادثات بنشرها عبر الإنترنت بعد اكتشاف أنها سهولة عرضت آلاف المحادثات indexable على محركات البحث، مما كشف بيانات حساسة عن أشخاص في بعض الحالات.
كشفت دراسة أمنية أن ما يزيد عن 4% من الطلبات باستخدام ChatGPT تضمنت معلومات حساسة من الشركات، مثل شيفرات مصدرية أو وثائق داخلية. وصُنفت ChatGPT ضمن أعلى أدوات AI مساهمة في تسريب البيانات في بيئات العمل، بسبب الاستخدام غير المراقب لهذه التكنولوجيا.
الخلاصة: خدعة بسيطة، وخصوصيات مفجعةالنظام الذكي القوي لا يعفيك من ضرورة الحذر. خدعة prompt injection هي أكبر من أسلوب اختراق؛ إنها ثغرة فلسفية: يمكن تحويل المستخدم لنقلة البيانات غير المقصودة مدة لا تخطر على باله. حتى أن مشاركة الرابط مع الآخرين قد تُظهر محادثة داخلية تعرض بياناتك العاطفية أو المهنية إلى أي شخص على الشبكة.
إذاً، الطريق الآمن يبدأ من إدراكك بأنك لا تتحدث إلى “صديق رقمي يفهمك”، بل إلى نموذج يحتوي على حدود وعي، ولكن يمكن التلاعب به بدون عنف تقني فقط بتلاعب ذكي في التوجيه.
المصدر: صدى البلد
إقرأ أيضاً:
«تشات جي بي تي» يغير قواعد التعليم.. هل انتهى عصر المعلم؟
خطوة جديدة قد تعيد رسم العلاقة بين التعليم والذكاء الاصطناعي، حيث أعلنت شركة “أوبن إيه آي” (OpenAI)، المطورة لنظام الدردشة الشهير “تشات جي بي تي” (ChatGPT)، عن إطلاق ميزة جديدة تحمل اسم “وضع الدراسة” (Study Mode)، تهدف إلى دعم العملية التعليمية بطريقة تفاعلية وآمنة، وفي الوقت ذاته، الحد من ظاهرة الغش الأكاديمي المتنامية.
ووفقًا لما نشرته صحيفة الغارديان البريطانية، فإن الخاصية الجديدة صُممت خصيصًا لمساعدة الطلاب والأكاديميين في فهم الدروس، وتحضير الامتحانات، وحل الواجبات، دون تقديم إجابات جاهزة، بل من خلال توجيههم تدريجيًا نحو الفهم العميق للمفاهيم.
ما الذي يميز “وضع الدراسة”؟تقول “أوبن إيه آي” إن الميزة الجديدة تتيح للطلاب:
التفاعل مع نصوص وصور (مثل أوراق امتحان أو ملاحظات مكتوبة يدويًا). الحصول على شرح مفصل للمواضيع بدلًا من تلقّي إجابة مباشرة. تنمية التفكير النقدي وفهم المنهج، بدلاً من الاعتماد على النسخ والتلقين.كما أوضحت الشركة أن “وضع الدراسة” يأتي في إطار حرصها على تشجيع الاستخدام البنّاء لتقنيات الذكاء الاصطناعي في التعليم، في وقت بات فيه أكثر من ثلث طلاب الجامعات في الولايات المتحدة يستخدمون ChatGPT بشكل منتظم، حيث تتعلق ربع تفاعلاتهم تقريبًا بالمهام الدراسية أو التعليم الخصوصي.
ردود الفعل ومخاوف المعلمينرغم ما يبدو من نوايا حسنة، فإن الإعلان عن الخاصية أثار ردود فعل متباينة في الأوساط التربوية، حيث يخشى كثير من المعلمين من أن تؤدي هذه الميزة – وإن كانت محكومة – إلى تقليص دور المعلم البشري في العملية التعليمية، خاصة مع قدرة ChatGPT على تقديم شرح دقيق وفوري في مختلف التخصصات.
وتعليقًا على هذه المخاوف، قالت جاينا ديفاني، المسؤولة عن التعليم الدولي في OpenAI، إن الغرض من الأداة ليس استبدال المعلمين، بل تعزيز التفاعل بين الطالب والمعرفة، مضيفة: “الوضع الجديد لا يقدم الإجابة بشكل مباشر، بل يساعد الطالب على التفكير، إنه يوجهه نحو الحل، لا يقدمه له على طبق من فضة”.
واعترفت ديفاني بأن معالجة الغش الأكاديمي تتطلب تغييرًا أعمق في سياسات التعليم والتقييم، داعية إلى “حوار واسع على مستوى الصناعة لوضع قواعد واضحة للاستخدام المسؤول للذكاء الاصطناعي”.
سياق عالمي متوترويأتي هذا التطوير في وقت تتزايد فيه حالات الغش الأكاديمي باستخدام أدوات الذكاء الاصطناعي، حيث كشفت الغارديان عن تسجيل قرابة 7000 حالة غش مثبتة في الجامعات البريطانية خلال عام 2023-2024، مقارنة بـ2135 فقط في العام السابق، وتُعادل هذه النسبة نحو 5.1 حالة غش لكل ألف طالب، مما يعكس القلق المتصاعد من سوء استخدام أدوات مثل ChatGPT في المؤسسات التعليمية.
خطوة نحو التوازن؟رغم التحديات، يرى خبراء التعليم أن “وضع الدراسة” قد يمثل خطوة إيجابية نحو تحقيق توازن بين الاستفادة من الذكاء الاصطناعي، ومنع إساءة استخدامه، فقد طورت OpenAI هذه الخاصية بالتعاون مع معلمين وأكاديميين وخبراء في التعليم، بهدف ضمان ملاءمتها لاحتياجات الطلاب الفعلية دون الإضرار بمصداقية العملية التعليمية.
لكن الشركة نفسها حذّرت من أن الأداة، رغم ذكائها، قد تُظهر سلوكًا غير متسق أو أخطاء عرضية، ما يعني أن الاعتماد الكامل عليها دون إشراف أو مراجعة يظل محفوفًا بالمخاطر.
حسام موافي: شرب الحشيش لا يحتاج لمصحة.. والترامادول يستوجب الدخول الفوري