TG Telegram Group & Channel
КПД | United States America (US)
Create: Update:

Выложили квантизованную в 4️⃣ бита модель DeepSeek-R1-0528!

Качество при ризонинге сохраняется на 99,82% (среднее по AIME/GPTQ/MATH500).

🔊 DeepSeek-R1-0528 стал ещё более "болтливым" 🗣, поэтому для лучших результатов (как исходной, так и квантизованной модели) рекомендуется увеличить контекст до 65К токенов.

Модель на 🤗:
- ISTA-DASLab/DeepSeek-R1-0528-GPTQ-4b-128g-experts

Выложили квантизованную в 4️⃣ бита модель DeepSeek-R1-0528!

Качество при ризонинге сохраняется на 99,82% (среднее по AIME/GPTQ/MATH500).

🔊 DeepSeek-R1-0528 стал ещё более "болтливым" 🗣, поэтому для лучших результатов (как исходной, так и квантизованной модели) рекомендуется увеличить контекст до 65К токенов.

Модель на 🤗:
- ISTA-DASLab/DeepSeek-R1-0528-GPTQ-4b-128g-experts
👍15🔥3


>>Click here to continue<<

КПД






Share with your best friend
VIEW MORE

United States America Popular Telegram Group (US)