Почему в МИМ так важна идея open-endedness? Она важна, чтобы подчеркнуть "иную культуру", другое мировоззрение: в нашей мастерской инженеров-менеджеров всё ровно так же, как у этого направления в развитии (искусственного ли, естественного ли — всё равно) интеллекта. Нет "личности в конечной форме", "готовой версии интеллекта заданной силы", ибо агенты постоянно (всю жизнь) развиваются, "нет жизненного цикла" (а если развиваются хорошо, то жизнь их будет очень долгой), бесконечное развитие и акценты на "решение проблем" другие, "решение очередных проблем, завтра проблемы будут потруднее". Прохождение бесконечной игры с регулярными боссами в конце игрового уровня, игра не кончается (пока справляешься с боссами, конечно), а боссы десятка уровня назад кажутся тебе очень лёгкими (но когда эти проблемы решал, ничего лёгкого, конечно, не было). Никакого "завтра расслабишься, победил", наоборот -- "победил, теперь всё будет труднее!". Вот надо это брать, разворачивать идеи научного и инженерного направления open-endedness -- и строить нашу людскую культуру бесконечного развития, ибо в текущем варианте lifelong learning ничего конкретного нет, кроме лозунгов "вечного обучения", а ведь надо уметь рассказывать и про принципиальную важность новизны, и про goldilock трудность задач, и про генератор задач и генератор решений, и про "проблемы будут всегда, в этом и смысл", и про stepping stone, и про "люди -- универсальные объяснители" как самая универсальная (пока) вещь на свете, и т.д.

Базовая статья, которая дала начало всему направлению: https://www.oreilly.com/ideas/open-endedness-the-last-grand-challenge-youve-never-heard-of

Мастерская инженеров-менеджеров

Почему в МИМ так важна идея open-endedness? Она важна, чтобы подчеркнуть "иную культуру", другое мировоззрение: в нашей мастерской инженеров-менеджеров всё ровно так же, как у этого направления в развитии (искусственного ли, естественного ли — всё равно) интеллекта. Нет "личности в конечной форме", "готовой версии интеллекта заданной силы", ибо агенты постоянно (всю жизнь) развиваются, "нет жизненного цикла" (а если развиваются хорошо, то жизнь их будет очень долгой), бесконечное развитие и акценты на "решение проблем" другие, "решение очередных проблем, завтра проблемы будут потруднее". Прохождение бесконечной игры с регулярными боссами в конце игрового уровня, игра не кончается (пока справляешься с боссами, конечно), а боссы десятка уровня назад кажутся тебе очень лёгкими (но когда эти проблемы решал, ничего лёгкого, конечно, не было). Никакого "завтра расслабишься, победил", наоборот -- "победил, теперь всё будет труднее!". Вот надо это брать, разворачивать идеи научного и инженерного направления open-endedness -- и строить нашу людскую культуру бесконечного развития, ибо в текущем варианте lifelong learning ничего конкретного нет, кроме лозунгов "вечного обучения", а ведь надо уметь рассказывать и про принципиальную важность новизны, и про goldilock трудность задач, и про генератор задач и генератор решений, и про "проблемы будут всегда, в этом и смысл", и про stepping stone, и про "люди -- универсальные объяснители" как самая универсальная (пока) вещь на свете, и т.д.

Базовая статья, которая дала начало всему направлению: https://www.oreilly.com/ideas/open-endedness-the-last-grand-challenge-youve-never-heard-of

O’Reilly Media

Open-endedness: The last grand challenge you've never heard of

While open-endedness could be a force for discovering intelligence, it could also be a component of AI itself.

hottg.com/system_school/2047

613 viewsJun 11 at 13:29