حل مشکل تولید کلمات بیش اندازه در فرآیند تفکر (Reasoning)
در روشهای فعلی استدلال و تفکر مدل ها از Chain-of-Thought (CoT)
استفاده میشه مدلها رو تشویق میکنه تا مسائل رو به صورت گامبهگام و با جزئیات کامل حل کنن در نهایت منجر به تولید خروجیهای طولانی و افزایش زمان پاسخدهی میشه.
در مقابل، Chain of Draft (CoD)
با کاهش جزئیات غیرضروری و تمرکز بر نکات کلیدی، دقتی مشابه یا حتی بالاتر از CoT رو با استفاده از تنها ۷.۶٪ از تعداد توکنها ارائه میده که به طور قابل توجهی هزینه و تأخیر رو کاهش میده.
به طور کلی، CoD با الهام از فرآیندهای شناختی انسان، به مدلهای زبانی بزرگ کمک میکنه تا با تولید محتوای مختصر و اطلاعات ضروری، وظایف پیچیده رو با کارایی و دقت بیشتری انجام بده
لینک مقاله
@silicon_brain | از هوش مصنوعی عقب نمانید
>>Click here to continue<<
