شرکت Anthropic یه ابزار به اسم circuit tracing tool رو اوپنسورس کرده که به توسعهدهندهها کمک میکنه بفهمن مدلهای AI چطور کار میکنن و چرا اشتباه میکنن. این ابزار بر اساس «تفسیر مکانیکی» (mechanistic interpretability) کار میکنه و نمودارهایی از فعالیتهای داخلی مدل رو نشون میده. باهاش میشه خطاهای هوش مصنوعی رو رفع کرد و مدلها رو بهتر تنظیم کرد.
برای مدلهایی مثل Gemma و Llama هم قابل استفاده هست و به شفافیت و کنترل بیشتر روی هوش مصنوعی کمک میکنه.
✅ آیا، مرجع تخصصی هوش مصنوعی
🌐 Aia-ai.com
🌐 @Aia_ir
>>Click here to continue<<
