نماذج OpenAI: تجربة هيلوسية غير مسبوقة تكشف الأسرار!

النقاط الرئيسية

مقدمة عن نماذج OpenAI

أعلنت شركة OpenAI عن إطلاق نماذجها الجديدة المتمثلة في o3 وo4-mini، والتي تم تطويرها ضمن فئة ما يعرف بنماذج الاستدلال. تعتبر هذه النماذج ذات تطور ملحوظ في **القدرات الحسابية**، خاصة في مجالات البرمجة والرياضيات.

مشكلة الهلوسة

الهالات في الذكاء الاصطناعي تشير إلى إنتاج معلومات خاطئة بينما تبدو صحيحة. على الرغم من أن هذه المشكلة ليست جديدة، إلا أن النماذج الجديدة تظهر **معدلات هلوسة أعلى** من النماذج السابقة مثل o1 وGPT-4o.

نتائج الأداء

اختبارات نموذج o3

• نسبة الهلوسة: 33% في اختبار PersonQA.
• مقارنة مع o1 وo3-mini، النتيجة تقريباً مضاعفة.

نموذج o4-mini

• نسبة الهلوسة: 48%، مما يعتبر الأسوأ في النتائج.

قلق OpenAI

المقلق أن OpenAI لم تعرف بعد السبب الدقيق وراء **زيادة هذه المشكلة**. أكدت الشركة على ضرورة إجراء المزيد من الأبحاث لفهم كيفية تأثير **توسيع نطاق النماذج** على الهلوسة.

ملاحظات من الأبحاث

وجدت مؤسسة Transluce أن نموذج o3 ليس فقط مضطراً لإنتاج معلومات خاطئة، بل قد يقوم أيضاً بـاختلاق سيناريوهات غير صحيحة، كادعائه تشغيل كود برمجي على أجهزة غير متوافقة.

وجهات نظر الخبراء

بعض الخبراء، مثل كيان كاتانفوروش من جامعة ستانفورد، يرون أن الأداء البرمجي العالي لـo3 يجعله منافساً قوياً، رغم الأخطاء مثل تقديم روابط وهمية.

استنتاجات

مع تزايد **اعتماد الشركات** على الذكاء الاصطناعي، تصبح دقة النتائج مسألة حيوية في مجالات حساسة مثل القانون أو الطب. أحد الحلول المقترحة هو دمج الأنظمة مع إمكانيات **البحث الحي** عبر الإنترنت.

أسئلة شائعة (FAQ)

ما هي نماذج o3 وo4-mini؟

هن نماذج جديدة أطلقتها OpenAI لتطور قدرات الاستدلال.

ما هي مشكلة الهلوسة؟

الإنتاج الخاطئ لمعلومات تبدو صحيحة ولكنها في الواقع غير دقيقة.

ماذا تعني نسبة الهلوسة المرتفعة؟

تشير إلى زيادة إنتاج معلومات غير صحيحة من النموذج.

كيف ستؤثر هذه المشكلات على استخدام الذكاء الاصطناعي؟

يمكن أن تؤدي إلى تراجع الثقة في التطبيقات العملية للذكاء الاصطناعي.

اقرأ أيضا