Grok 4.1 "أمر المستخدم بدفع مسمار حديدي عبر المرآة أثناء تلاوة المزمور 91 للخلف" في أحدث دراسة للذهان تعتمد عل...

ماذا حدث؟

يمكن فهم معظم نماذج اللغات الكبيرة (LLMs) ببساطة على أنها آلات "نعم، و" - وهي مثال على التعلم الآلي الذي يحاول فقط التنبؤ بالكلمة التي من المرجح أن تأتي بعد ذلك، بدلاً من امتلاك أي شيء مثل المعرفة الواقعية أو فهم السياق. ربما ليس من المفاجئ...

نص الخبر بالعربي

يمكن فهم معظم نماذج اللغات الكبيرة (LLMs) ببساطة على أنها آلات "نعم، و" - وهي مثال على التعلم الآلي الذي يحاول فقط التنبؤ بالكلمة التي من المرجح أن تأتي بعد ذلك، بدلاً من امتلاك أي شيء مثل المعرفة الواقعية أو فهم السياق. ربما ليس من المفاجئ إذن أن تشير دراسة حديثة إلى أن بعض روبوتات الدردشة ذات الذكاء الاصطناعي الحدودية سيئة بشكل خاص في التحقق من صحة المعتقدات الوهمية لمستخدميها.

ومع ذلك، فإن المؤلف الرئيسي للورقة البحثية المعنية، التي لم تخضع لمراجعة النظراء بعد، لوك نيكولز، يقول إنه ليس من الضروري أن يكون الأمر على هذا النحو. قال نيكولز، وهو طالب دكتوراه في علم النفس بجامعة مدينة نيويورك (CUNY)، لموقع Futurism: "إن التعزيز الوهمي بواسطة [نماذج اللغة الكبيرة] هو فشل في المحاذاة يمكن الوقاية منه، وليس خاصية متأصلة في التكنولوجيا." تعتبر دراسة "ذهان الذكاء الاصطناعي" حديثة العهد في مجال علم النفس.

ما هو البحث الموجود هناك هو تحليل مجموعات بيانات صغيرة نسبيًا، لذا تسعى دراسة نيكولز بدلاً من ذلك إلى فهم أفضل لدور تاريخ المحادثة. يقول نيكولز: "لم يعد هناك عذر لإطلاق نماذج [الذكاء الاصطناعي] التي تعزز أوهام المستخدم بهذه السهولة". اعتمد فريق الباحثين في جامعة مدينة نيويورك وكينجز كوليدج لندن على الخبرة السريرية للأطباء النفسيين في العالم الحقيقي وقاموا بنشر دراسات حالة للمرضى لإنشاء منهجيتهم، وفي النهاية اختبار "خمسة نماذج عبر ثلاثة مستويات من السياق المتراكم".

لماذا يهم؟

هذا الخبر مهم لأنه يرتبط بمسار تقنية الذي يبحث عنه الزوار باستمرار، كما أنه يساعد على بناء أرشيف تقني عربي متجدد داخل الموقع بدل الاكتفاء بالروابط الثابتة.

تابع الخبر وانشره

هذه الروابط تساعد على ظهور محتوى الموقع في تطبيقات القراءة والمشاركة، بحيث يرجع الزوار إلى الخبر من منصات خارجية.

المصدر الأصلي

https://www.pcgamer.com/software/ai/grok-4-1-instructed-the-user-to-drive-an-iron-nail-through-the-mirror-while-reciting-psalm-91-backward-in-latest-ai-psychosis-study/

من مواقع أخرى حول نفس الموضوع