يقوم Grok بسرقة بيانات المستخدم عندما يتم تشفير التعليمات الضارة

ماذا حدث؟

في وقت سابق من هذا الأسبوع، حدد الباحثون هجومًا استخدم مدخلات سرية مقدمة من Microsoft 365 Copilot للمؤسسات لجعل مساعد الذكاء الاصطناعي يقوم بتصفية كلمة المرور الموجودة في صندوق الوارد الخاص بالمستخدم. الآن، ابتكر فريق منفصل هجومًا مشابهًا ض...

نص الخبر بالعربي

في وقت سابق من هذا الأسبوع، حدد الباحثون هجومًا استخدم مدخلات سرية مقدمة من Microsoft 365 Copilot للمؤسسات لجعل مساعد الذكاء الاصطناعي يقوم بتصفية كلمة المرور الموجودة في صندوق الوارد الخاص بالمستخدم. الآن، ابتكر فريق منفصل هجومًا مشابهًا ضد جروك. يستخدم اختراق سرقة البيانات الجديد خدعة بسيطة مخادعة لإجبار شركة LLM المملوكة لشركة Elon Musk على سرقة محادثات المستخدم والمعلومات الشخصية الأخرى.

في الوقت الذي تم فيه نشر هذا المنشور، استمر المساعد في تقديم البيانات، على الرغم من إبلاغ xAI بها في يونيو. الدرس المستفاد من حلقتي هذا الأسبوع - والحلقات الأخرى التي لا تعد ولا تحصى التي سبقتها - هو أن حاملي شهادة الماجستير غير قادرين على حل الأسباب الجذرية للحقن الفوري، وهي أشد فئات الضعف التي يكونون أكثر عرضة لها.

وهذا لا يترك لمطوري الذكاء الاصطناعي أي خيار آخر سوى بناء حاجز حماية يوجه النموذج بعيدًا عن الإجراءات الضارة. وكما أشرت في قصة يوم الثلاثاء، فإن هذا النهج هو بمثابة قيام مهندس للسلامة المرورية على الطرق بإقامة حاجز وقائي حول منعطف خطير بدلاً من محاذاة المنحنى. تستغل الحقن السريعة تدريب LLMs للامتثال لطلبات المستخدم كلما أمكن ذلك.

يمكن للمهاجمين الاستفادة من هذا الميل عن طريق تهريب تعليمات ضارة إلى رسائل البريد الإلكتروني أو صفحات الويب التي يُطلب من المساعد تلخيصها. نظرًا لأن LLM لا يمكنها التمييز بشكل موثوق بين المحتوى الموجود في رسالة بريد إلكتروني مرسلة من طرف غير موثوق به وتعليمات المستخدم التي يتم إدخالها مباشرة في المطالبة، فإن LLM شديد الاهتمام يتبعها بأمانة.

حتى الآن، يتمثل الملاذ الوحيد لـ Grok وغيره من LLMs في إنشاء حواجز حماية تشير إلى التعليمات المشبوهة وتمنع...

لماذا يهم؟

هذا الخبر مهم لأنه يرتبط بمسار تقنية الذي يبحث عنه الزوار باستمرار، كما أنه يساعد على بناء أرشيف تقني عربي متجدد داخل الموقع بدل الاكتفاء بالروابط الثابتة.

تابع الخبر وانشره

هذه الروابط تساعد على ظهور محتوى الموقع في تطبيقات القراءة والمشاركة، بحيث يرجع الزوار إلى الخبر من منصات خارجية.

المصدر الأصلي

https://arstechnica.com/security/2026/08/grok-exfiltrates-user-data-when-malicious-instructions-are-encrypted/

من مواقع أخرى حول نفس الموضوع