TG Telegram Group & Channel
Техножрица 👩‍💻👩‍🏫👩‍🔧 | United States America (US)
Create: Update:

Интересный рассказ с картинками про то, как приноровились менять поведение предтренированной модели, воздействуя непосредственно на её эмбеддинги:

https://hottg.com/seeallochnaya/682
https://hottg.com/seeallochnaya/685
https://hottg.com/seeallochnaya/687
(Три последовательных поста)

Акцент делается на задачах alignment и детекции галлюцинаций. Но я думаю, что если подтвердится информация о том, что эти задачи хорошо решаются, то можно будет приспособить метод и для многого другого.

Основой поста служит статья Representation Engineering: A Top-Down Approach to AI Transparency ( https://arxiv.org/abs/2310.01405 ), надо будет ее разобрать, чтобы понять детали того, как именно "сдвигают" представления в пространстве эмбеддингов для получения нужного эффекта, потому что мне понравилась идея.

#объяснения_статей

Интересный рассказ с картинками про то, как приноровились менять поведение предтренированной модели, воздействуя непосредственно на её эмбеддинги:

https://hottg.com/seeallochnaya/682
https://hottg.com/seeallochnaya/685
https://hottg.com/seeallochnaya/687
(Три последовательных поста)

Акцент делается на задачах alignment и детекции галлюцинаций. Но я думаю, что если подтвердится информация о том, что эти задачи хорошо решаются, то можно будет приспособить метод и для многого другого.

Основой поста служит статья Representation Engineering: A Top-Down Approach to AI Transparency ( https://arxiv.org/abs/2310.01405 ), надо будет ее разобрать, чтобы понять детали того, как именно "сдвигают" представления в пространстве эмбеддингов для получения нужного эффекта, потому что мне понравилась идея.

#объяснения_статей
🔥24👍422


>>Click here to continue<<

Техножрица 👩‍💻👩‍🏫👩‍🔧




Share with your best friend
VIEW MORE

United States America Popular Telegram Group (US)