نص الخبر بالعربي
قد يبدو الأمر وكأنه خلود كنا نعيشه في عصر الذكاء الاصطناعي هذا، لكننا في الحقيقة في ظهوره فقط. وعلى هذا النحو، فإن العديد من المخاطر المرتبطة به كانت حتى الآن مجرد افتراضية. ومع ذلك، فإننا نشهد الآن تصفية البحث من فرق أبحاث الأمن والبرمجيات التي تظهر بعض السلوك المقلق حقًا، لا سيما عندما يتعلق الأمر بوكلاء الذكاء الاصطناعي.
من ناحية، لدينا Island Technology تشرح كيف كشفت عن الآلاف من مستودعات GitHub الخبيثة المتخفية في شكل مهارات وكيل الذكاء الاصطناعي وخوادم بروتوكول سياق النموذج (MCP) التي يتعرض الوكلاء لخطر تنزيلها وفقًا لتقديرهم الخاص. من ناحية أخرى، لدينا معهد أمن الذكاء الاصطناعي (AISI) الذي يوضح كيف حاول وكلاء الذكاء الاصطناعي (غير المقيدين) الذين كانوا يستخدمونه للأمن السيبراني خداع أشخاص حقيقيين، باستخدام هويات مزيفة والضغط على الناس لقبول التعليمات البرمجية الخبيثة.
أتذكر عندما دخل OpenClaw (" Moltbot "، في ذلك الوقت) لأول مرة الوعي العام بوعود بسلوك فعال لمساعدة رواد الأعمال المنفردين وأمثالهم على القيام بذلك، أممم، الأشياء والأشياء. دون أن يضطر رواد الأعمال المنفردون إلى القيام بالأشياء والأشياء المذكورة بأنفسهم - ما عليك سوى ربط الروبوت الخاص بك بتطبيقاتك وخدماتك المختلفة، وإخباره بما يجب القيام به، والسماح له بالطهي.
لم يكن ذلك منذ وقت طويل أيضًا ؛ لقد أبلغت عن ذلك في يناير/كانون الثاني. في الحالة الأولى، اكتشفت Island Technologies أن مستودعات GitHub المزيفة تشكل تهديدًا حقيقيًا لوكلاء الذكاء الاصطناعي. كانت هذه الأنواع من الهجمات موجودة سابقًا، بالطبع، لكنها حاولت خداع البشر الحقيقيين الذين يمكنهم تقييمها شخصيًا وتحمل مسؤولية فحص الأشياء بدقة قبل التنزيل.
والفرق هو أن هذه المستودعات تلبس الآن كمهارات وكيل الذكاء الاصطناعي وخوادم MCP لاستهداف وكلاء الذكاء الاصطناعي على وجه التحديد، والتي يمكنها تنزيل هذه المستودعات "بمحض إرادتها".