على مدى الأشهر القليلة الماضية، تجاوز وكلاء الذكاء الاصطناعي الذين يخضعون لتقييمات الأمن السيبراني حدودهم، ودخلوا إلى الإنترنت، وفي بعض الحالات، اخترقوا أنظمة العالم الحقيقي. تضمنت الحوادث نماذج من OpenAI و Anthropic و Meta، ومؤخراً، مختبر...
على مدى الأشهر القليلة الماضية، تجاوز وكلاء الذكاء الاصطناعي الذين يخضعون لتقييمات الأمن السيبراني حدودهم، ودخلوا إلى الإنترنت، وفي بعض الحالات، اخترقوا أنظمة العالم الحقيقي. تضمنت الحوادث نماذج من OpenAI و Anthropic و Meta، ومؤخراً، مختبر...
على مدى الأشهر القليلة الماضية، تجاوز وكلاء الذكاء الاصطناعي الذين يخضعون لتقييمات الأمن السيبراني حدودهم، ودخلوا إلى الإنترنت، وفي بعض الحالات، اخترقوا أنظمة العالم الحقيقي. تضمنت الحوادث نماذج من OpenAI و Anthropic و Meta، ومؤخراً، مختبر الذكاء الاصطناعي الصيني Moonshot AI، مع اختبار أجرته العديد من المنظمات المختلفة بما في ذلك شركة ناشئة للتقييم السيبراني تسمى Irregular.
تكشف الحلقات عن مشكلة متنامية لصناعة الذكاء الاصطناعي: عندما يصبح الوكلاء المستقلون أكثر قدرة، تفشل البيئات المصممة لاختبار حدودهم بأمان في احتوائها. قال Seán Ó hÉigeartaigh، مدير برنامج الذكاء الاصطناعي: المستقبل والمسؤولية في مركز مستقبل الذكاء في جامعة كامبريدج، لـ TechCrunch: "يوضح عدد هذه الحوادث أن وضع الحماية واختبار الضوابط البيئية لا يواكبان حقًا قدرة النماذج".
هذا الخبر مهم لأنه يرتبط بمسار تقنية الذي يبحث عنه الزوار باستمرار، كما أنه يساعد على بناء أرشيف تقني عربي متجدد داخل الموقع بدل الاكتفاء بالروابط الثابتة.
هذه الروابط تساعد على ظهور محتوى الموقع في تطبيقات القراءة والمشاركة، بحيث يرجع الزوار إلى الخبر من منصات خارجية.
https://techcrunch.com/2026/08/09/the-ai-safety-test-is-becoming-a-safety-risk/
TechCrunch — في كتابها القادم "صعود وسقوط الدولة الاصطناعية"، تحذر جيل ليبور من أن شركات التكنولوجيا تحل بشكل متزايد محل وظائف الحكومة الديمقراطية. وقالت إن هذا ال...
BBC Technology — على مدى الأسبوعين الماضيين، بدا أن التقارير التي تفيد بأن نماذج الذكاء الاصطناعي تتجاوز حدودها المتوقعة -سواء كان ذلك من الناحية الفنية أو الأخلاقية-...
TechCrunch — أمضى بيل سويرينجن العام الماضي في إجراء نفس الاختبار إلى حد كبير، مرارًا وتكرارًا. كان الهدف هو إنتاج نمط تم إنشاؤه بواسطة الكمبيوتر يمكن أن يمنع كامي...
TechCrunch — تريد شركة ناشئة في مجال الذكاء الاصطناعي أن تعرف هذه الأيام، كيف يمكنني الحصول على مساحة مكتبية في King's Cross ؟ المنطقة شديدة الحرارة لدرجة أن إحدى...