DeepMindы подогнали интересную библиотеку для визуализации и анализа LLMок - Penzai
https://github.com/google-deepmind/penzai
Вроде как можно работать с архитектурой модельки, модифицировать уже натрейненые нейронки, визуализировать слои, ну и всякое interpretibility делать
Подготовлены несколько ноутбуков (для колаба и гегла) с примерами: https://github.com/google-deepmind/penzai/tree/main/notebooks
Все примеры пока крутятся вокруг работы с гугловой Gemma.
ну и доку читать надо: https://penzai.readthedocs.io/en/stable/index.html
>>Click here to continue<<