مدل‌های هوش مصنوعی پیشرفته بیشتر دچار توهم می‌شوند؛ آیا می‌توان جلوی آن را گرفت؟

🔻تحقیقات جدید نشان می‌دهد هرچه مدل‌های #هوش_مصنوعی پیشرفته‌تر می‌شوند، بیشتر دچار «توهم» شده و اطلاعات نادرست می‌دهند. آیا این مشکل حل‌شدنی است یا باید آن را ویژگی طبیعی هوش مصنوعی بدانیم؟

🔹نتایج جدیدترین تحقیق شرکت OpenAI نشان می‌دهد ٢ مدل پیشرفته o3 و o4-mini که برای استدلال و پاسخ‌دهی دقیق توسعه یافته‌اند، نسبت به مدل‌های قدیمی‌تر بیشتر دچار توهم می‌شوند. طبق بررسی‌های OpenAI با استفاده از بنچمارک PersonQA، مدل o3 در ٣٣ درصد مواقع و مدل o4-mini در ۴٨ درصد مواقع اطلاعات نادرست داده‌اند؛ آماری که بیش از ٢ برابر نرخ توهم مدل قدیمی‌تر o1 است.

🔹یافته‌های OpenAI نگرانی‌های جدیدی درباره صحت و اعتماد به مدل‌های زبانی بزرگ (LLM) مثل چت‌بات‌های هوش مصنوعی ایجاد کرده است.

جزئیات بیشتر
🔸🔸🔸
🟣 Digiato
🎞 Digiatoofficial
🤖 Digiato
💭 @Digiato