مدل زبانی Grok-1 که توسط xAI (شرکت هوش مصنوعی متعلق به ایلان ماسک) معرفی شده بود، اوپنسورس شد.
این مدل زبانی یک Mixture-of-Experts با ۳۱۴ میلیارد پارامتر است و با فریمورک JAX و زبان Rust توسعه داده شدهست.
این مدل در چتبات Grok استفاده شدهست. این چتبات به دلیل دسترسی به اطلاعات لحظهای توییتر معروفست.
البته فقط معماری، کد و وزنهای مدل پایه، منتشر شده و قابل استفادهاند و مجموعهدادههای آموزشی منتشر نشدهاند.
بلاگپست معرفی:
https://x.ai/blog/grok-os
مخزن گیتهاب:
https://github.com/xai-org/grok-1
>>Click here to continue<<