SAE Match: новый метод для отслеживания изменений концепций внутри модели от слоя к слою
Методику, позволяющее понимать, как искусственный интеллект принимает решения на разных этапах вычислений, представили ученые из T-Bank AI Research. Она не требует дообучения и дополнительных данных. Может применяться в разработке гибридных архитектур ИИ и стать основной для развития интерпретируемых моделей.
📚 Paper
@datascienceiot
>>Click here to continue<<
