Следующий ход в развитии систем AI — это внимание к сложным мирам (в пределе — к реальному миру), к продуцированию новых интересных (новых и познаваемых) артефактов, постановке интересных проблем. Ибо решать проблемы вроде научились — современные сетки (вроде o3, R1, Gemini 2.0 Thinking) вполне способны не только рассуждать, но и познавать новые способы рассуждений. Слово "агенты" на слуху у всех, но тут мало просто "агентов" с их автономностью. Нам надо бесконечно развивающихся агентов, надо выходить на проблему open-endedness. Для этого кроме развивающихся агентов надо заняться развитием миров и постановкой всё более сложных, но всё ещё решаемых (goldilocks, из зоны ближнего развития) проблем.

На эту тему у меня 13Кзнаков текста. Картинка из ещё августовской 2024 статьи "Open-endedness is all we'll need". Поглядите, там всё те же "три шага обучения" -- это всё носится в воздухе, просто, как и в нормальной эволюции, у некоторых проектов получается выжить, а у некоторых догадки оказываются неправильными. "Момент DeepSeek" получился не только из-за правильной догадки о том, как выучивать меметический алгоритм с догадками и самокритикой/рефлексией в нейросетке с LLM, но и из-за того, что там всё выложили в опенсорс. Но это ещё не последний фронтир, дальше open-endedness, а для этого выложить в опен сорс надо генератор миров, генератор артефактов, генератор проблем. Агенты, да, это у всех сейчас агенты. Но агенты агентам рознь, нам нужны непрерывно умнеющие агенты. И коллективы агентов, которые могут познавать совместно. Ну, участвуем, а не ждём, пока "они там пусть сделают". Помним, что в распоряжении каждого из нас есть мокрая нейронная сетка, в которой работает неплохая LLM, она уже pretrained и даже finetuned, теперь её надо научить думать, а потом научить думать лучше, а потом... и мы опять упираемся в open-endedness, is all we'll need. Так что я хоть и не обучаю нежить, но с обучением нейронных сеток сталкиваюсь каждый день. Мопед мой.

https://ailev.livejournal.com/1752457.html

Лабораторный журнал

Следующий ход в развитии систем AI — это внимание к сложным мирам (в пределе — к реальному миру), к продуцированию новых интересных (новых и познаваемых) артефактов, постановке интересных проблем. Ибо решать проблемы вроде научились — современные сетки (вроде o3, R1, Gemini 2.0 Thinking) вполне способны не только рассуждать, но и познавать новые способы рассуждений. Слово "агенты" на слуху у всех, но тут мало просто "агентов" с их автономностью. Нам надо бесконечно развивающихся агентов, надо выходить на проблему open-endedness. Для этого кроме развивающихся агентов надо заняться развитием миров и постановкой всё более сложных, но всё ещё решаемых (goldilocks, из зоны ближнего развития) проблем.

На эту тему у меня 13Кзнаков текста. Картинка из ещё августовской 2024 статьи "Open-endedness is all we'll need". Поглядите, там всё те же "три шага обучения" -- это всё носится в воздухе, просто, как и в нормальной эволюции, у некоторых проектов получается выжить, а у некоторых догадки оказываются неправильными. "Момент DeepSeek" получился не только из-за правильной догадки о том, как выучивать меметический алгоритм с догадками и самокритикой/рефлексией в нейросетке с LLM, но и из-за того, что там всё выложили в опенсорс. Но это ещё не последний фронтир, дальше open-endedness, а для этого выложить в опен сорс надо генератор миров, генератор артефактов, генератор проблем. Агенты, да, это у всех сейчас агенты. Но агенты агентам рознь, нам нужны непрерывно умнеющие агенты. И коллективы агентов, которые могут познавать совместно. Ну, участвуем, а не ждём, пока "они там пусть сделают". Помним, что в распоряжении каждого из нас есть мокрая нейронная сетка, в которой работает неплохая LLM, она уже pretrained и даже finetuned, теперь её надо научить думать, а потом научить думать лучше, а потом... и мы опять упираемся в open-endedness, is all we'll need. Так что я хоть и не обучаю нежить, но с обучением нейронных сеток сталкиваюсь каждый день. Мопед мой.

https://ailev.livejournal.com/1752457.html

Livejournal

В нейросетях devo вроде как реализовали, а для evo нужно ещё разобраться с eco

Опять обсуждали в чате gonzo-обзоров ход на третий шаг обучения LLM -- RL, тренировки на решение проблем. Проблема -- это когда ответ известен (например, теорема Ферма как гипотеза), а решение -- неизвестно (не доказана). Или ответ в партии Го известен -…

👍8❤6

hottg.com/ailev_blog/1319

1.38K viewsedited  Feb 4 at 20:37