اوضاع مدلهای local
اینطوری هست.Gemma3, Qwen3
برای همه تسکها استفاده میشه.
روی Qwen3
نتایج خوبی برای RAG
میگیرم؛ روی Gemma3
برای Tool
خیلی نتابج خوبی دارم.
سراغ devstral
برای بررسی کد یا ساخت کدهای اولیه میرم (بخصوص اینکه روی ابزارهای مربوط به تسکهای برنامهنویسی خروجی خوبی داره)
deepseek-r1
نسخه جدید هست و روی سیستم شرکت نداشتم برای همین روی سیستم شخصی دانلود کردم تا ببینم نتایج چطوری هست.
نکته مهم شخصا بعضی وقتا ۲ مدل رو همزمان بالا میارم
docker ollama
هرکدوم روی یک GPU و از مدل سادهتر میخوام سریع کد اولیه رو بزنه و مدل پیچیدهتر اون رو بررسی کنه و رفع اشکال انجام بده؛ یا استراکچر و استایل پروژه رو رعایت کنه.
ولی خلاصه وضعیت لوکال این هست؛ چون سوال شده بود.
>>Click here to continue<<
