يمكن للقراصنة استخدام 9 من أدوات الذكاء الاصطناعي الأكثر شعبية لتجميع شبكات الروبوت الضخمة

ماذا حدث؟

في التاريخ الموجز لأمن الذكاء الاصطناعي، سرعان ما أصبح الحقن الفوري هو التهديد الأكبر. نماذج اللغات الكبيرة غير قادرة بطبيعتها على التمييز بين التعليمات المشروعة التي يقدمها المستخدمون والتعليمات الخبيثة التي تتسلل إلى رسائل البريد الإلكترو...

نص الخبر بالعربي

في التاريخ الموجز لأمن الذكاء الاصطناعي، سرعان ما أصبح الحقن الفوري هو التهديد الأكبر. نماذج اللغات الكبيرة غير قادرة بطبيعتها على التمييز بين التعليمات المشروعة التي يقدمها المستخدمون والتعليمات الخبيثة التي تتسلل إلى رسائل البريد الإلكتروني ورمز المصدر ومحتوى الجهات الخارجية الأخرى التي تعالجها النماذج.

وهذا يجعل من التافه حقن الأوامر الخبيثة التي تتبعها LLM بسهولة خلسة. مع عدم وجود طريقة لفرض هذه الحدود الحاسمة بين المصادر الموثوقة وغير الموثوقة، يُترك مطورو محركات الذكاء الاصطناعي لإقامة حواجز حماية مفصلة مصممة للتخفيف من الضرر بدلاً من حل السبب الجذري. حتى الآن، سقطت معظم الحقن الفوري في فئة تعرف باسم الدفع، حيث يتم استهداف كل ضحية محتملة.

على سبيل المثال، يقوم الخصم بحقن تعليمات ضارة في رسالة بريد إلكتروني فردية أو دعوة تقويم. نظرًا لأنه يجب بعد ذلك إرسال الحقن (أو دفعه) إلى كل هدف محدد، فإن نطاق الهجوم محدود، مما يعوق المآثر الجماعية التي تضرب الإنترنت بشكل عام.

لماذا يهم؟

هذا الخبر مهم لأنه يرتبط بمسار تقنية الذي يبحث عنه الزوار باستمرار، كما أنه يساعد على بناء أرشيف تقني عربي متجدد داخل الموقع بدل الاكتفاء بالروابط الثابتة.

تابع الخبر وانشره

هذه الروابط تساعد على ظهور محتوى الموقع في تطبيقات القراءة والمشاركة، بحيث يرجع الزوار إلى الخبر من منصات خارجية.

المصدر الأصلي

https://arstechnica.com/security/2026/07/hackers-can-use-9-of-the-most-popular-ai-tools-to-assemble-massive-botnets/

من مواقع أخرى حول نفس الموضوع