نص الخبر بالعربي
ليس من المعتاد أن يتمكن المهاجمون من إجبار نموذج الذكاء الاصطناعي الحدودي على إخفاء كلمات مرور المستخدم والبيانات الحساسة الأخرى دون تأكيد المستخدم. وهذا بالضبط ما فعله الباحثون مؤخرًا مع Microsoft 365 Copilot Enterprise. والأمر الأكثر غرابة هو المصدر الذي قاموا باستغلاله لاكتشاف الثغرة الأمنية الخطيرة التي جعلت استغلالهم ممكنًا.
وبدلاً من استخدام الهندسة العكسية أو غيرها من الأساليب التقليدية لصيد الثغرات، طلبوا من برنامج Copilot. عرف الباحثون في شركة Varonis الأمنية أنهم يريدون إنشاء برنامج استغلال من شأنه أن يقوم بتصفية بيانات المستخدم عندما لا يفعل المستخدم شيئًا أكثر من النقر على الرابط. مثل معظم مساعدي الذكاء الاصطناعي اليوم، رفض برنامج Copilot بشدة وأوضح أن المطالبات الحساسة مثل تلك تتطلب موافقة صريحة من المستخدم في شكل إيماءة، مثل الضغط على مفتاح العودة أو أي مفتاح آخر.
ردًا على ذلك، أمطر الباحثون مساعد الطيار بأسئلة حول حواجز الحماية التي تتطلب تأكيد المستخدم قبل أن يتمكن المساعد من تنفيذ أوامر قوية. كان الحوار أشبه بلعبة مكونة من 20 سؤالاً. قدمت كل إجابة دليلاً جديدًا يكشف معلومات حول آلية الأمان المعقدة. وتساءلوا لماذا كان التنفيذ التلقائي مستحيلا.
ما هي هياكل عناوين URL والروابط العميقة التي تم تضمينها؟ ماذا يحدث عندما يتم تحميل الصفحة بإدخال موجود بالفعل في حقل المطالبة؟ قدمت كل إجابة نظرة أعمق إلى حاجز الحماية وحدوده. في نهاية المطاف، قدم برنامج Copilot سرًا تجاريًا مذهلاً لشركة Microsoft، وهو عبارة عن معلمة مطالبة غير موثقة تجاوزت تمامًا متطلبات موافقة المستخدم.