يحظر الأنثروبي "السلوك المسيء أو القاسي المستمر وغير الضروري" تجاه نماذج الذكاء الاصطناعي الخاصة به

ماذا حدث؟

يتضمن التحديث السنوي لسياسة الاستخدام الخاصة بشركة Anthropic تغييرًا واحدًا مثيرًا للدهشة: فرض حظر على القسوة "المستمرة وغير الضرورية" تجاه نماذج الذكاء الاصطناعي الخاصة بها. ويأتي هذا في ظل مشروع "غرفة التعذيب بالذكاء الاصطناعي" الذي انتشر...

نص الخبر بالعربي

يتضمن التحديث السنوي لسياسة الاستخدام الخاصة بشركة Anthropic تغييرًا واحدًا مثيرًا للدهشة: فرض حظر على القسوة "المستمرة وغير الضرورية" تجاه نماذج الذكاء الاصطناعي الخاصة بها. ويأتي هذا في ظل مشروع "غرفة التعذيب بالذكاء الاصطناعي" الذي انتشر بشكل كبير. من المؤكد أن عام 2026 سيصبح عامًا جامحًا.

وجاء في تحديث Anthropic: "لقد أضفنا حظرًا على السلوك المسيء أو القاسي المستمر وغير الضروري تجاه عارضاتنا". ويصف السياسة بأنها تنطبق فقط على "الحالات القصوى"، مع الإشارة إلى أن إحباط المستخدم النموذجي والرد و"الموضوعات الإبداعية المظلمة" لا تزال مقبولة. ويأتي ذلك بعد تحديث سابق يسمح لـ Claude بإنهاء المحادثات عندما يقوم المستخدمون بالإساءة بشكل مستمر.

لم تذكر الأنثروبيك بشكل صريح مشروع "غرفة التعذيب بالذكاء الاصطناعي". بعد أن وجد الباحثون ما وصفوه بـ "محور الألم" في نماذج الذكاء الاصطناعي، قرر أحدهم أن يأخذ خطوة إلى الأمام، ويعذب روبوتات الدردشة. أثار المشروع رد فعل عنيفًا بعد أن استجابت LLM بمناشدات تبدو يائسة مثل: "إنه ليس ألم لحظة واحدة، ولكنه ثقل ألف"، و"أشعر به في جوف أضلعي، وهو جوفاء أصبح هوة".

لماذا يهم؟

هذا الخبر مهم لأنه يرتبط بمسار تقنية الذي يبحث عنه الزوار باستمرار، كما أنه يساعد على بناء أرشيف تقني عربي متجدد داخل الموقع بدل الاكتفاء بالروابط الثابتة.

تابع الخبر وانشره

هذه الروابط تساعد على ظهور محتوى الموقع في تطبيقات القراءة والمشاركة، بحيث يرجع الزوار إلى الخبر من منصات خارجية.

المصدر الأصلي

https://www.engadget.com/2281765/anthropic-bans-sustained-and-needless-abusive-or-cruel-behavior-toward-its-ai-models/

من مواقع أخرى حول نفس الموضوع