بعد أيام من التكهنات حول التحيز المتشدد ضد العفاريت من OpenAI، اضطرت الشركة إلى إصدار مذكرة رسمية حول "من أين...

ماذا حدث؟

يوم الثلاثاء، تم حفر تقرير من Wired في تعليمات غريبة تم تصحيحها في Codex CLI، وهي أداة تشفير تعمل بالذكاء الاصطناعي: "لا تتحدث أبدًا عن العفاريت، أو الجريملين، أو الراكون، أو المتصيدون، أو الغيلان، أو الحمام، أو غيرها من الحيوانات أو المخلو...

نص الخبر بالعربي

يوم الثلاثاء، تم حفر تقرير من Wired في تعليمات غريبة تم تصحيحها في Codex CLI، وهي أداة تشفير تعمل بالذكاء الاصطناعي: "لا تتحدث أبدًا عن العفاريت، أو الجريملين، أو الراكون، أو المتصيدون، أو الغيلان، أو الحمام، أو غيرها من الحيوانات أو المخلوقات ما لم تكن ذات صلة مطلقة لا لبس فيها باستعلام المستخدم." أنا دائمًا أهمس بهذا لنفسي حتى لا يتم طردي من Dollar Tree مرة أخرى، ولكن من الغريب أن يتم إخبار نموذج الذكاء الاصطناعي على وجه التحديد.

لقد كان، على ما يبدو، سائدًا بشكل مشتت للانتباه: تشير إحدى مشاركات X المقتبسة في تلك المقالة إلى أنها تشير كثيرًا إلى الأخطاء و"العفاريت" و"العفاريت" وتستمر في متابعة التحديث الذي كان يهدف إلى الحد من حديث العفريت. كسرت شركة OpenAI صمتها بشأن هذه المسألة، ونشرت مدونة يوم الخميس بعنوان "من أين أتت العفاريت".

وجاء في المنشور أن "السلوك النموذجي يتشكل من خلال العديد من الحوافز الصغيرة". "في هذه الحالة، جاءت إحدى تلك الحوافز من تدريب النموذج على ميزة تخصيص الشخصية⁠، ولا سيما الشخصية المهووسة. لقد قدمنا، دون قصد، مكافآت عالية بشكل خاص للاستعارات مع المخلوقات. ومن هناك انتشرت العفاريت." على الرغم من أنه كان من المفترض أن يظل هذا الأمر مجرد غرابة صغيرة في "شخصية" Codex، والتي أفترض أنها تهدف إلى جعلها تتحدث مثل ذلك الرجل المهووس النموذجي الذي نعرفه جميعًا والذي يقارن الأشياء باستمرار بالحمام والغيلان، تشير المدونة إلى أن "التعلم المعزز لا يضمن بقاء السلوكيات المستفادة محددة بدقة للحالة التي أنتجتها".

بمعنى آخر، محادثات GPT حتى بدون الشخصية المهووسة كانت مصابة بالحديث العفاريت.

لماذا يهم؟

هذا الخبر مهم لأنه يرتبط بمسار تقنية الذي يبحث عنه الزوار باستمرار، كما أنه يساعد على بناء أرشيف تقني عربي متجدد داخل الموقع بدل الاكتفاء بالروابط الثابتة.

تابع الخبر وانشره

هذه الروابط تساعد على ظهور محتوى الموقع في تطبيقات القراءة والمشاركة، بحيث يرجع الزوار إلى الخبر من منصات خارجية.

المصدر الأصلي

https://www.pcgamer.com/software/ai/after-days-of-speculation-over-hard-coded-anti-goblin-bias-from-openai-the-company-had-to-release-an-official-memo-on-where-the-goblins-came-from/

من مواقع أخرى حول نفس الموضوع