Экзистенциальный риск, Хоркхаймер и скучная научная фантастика

Когда я читаю в социальных сетях или медиа очередные рассуждения о том, чем нам грозит искусственный интеллект "в ближайшем будущем" – чаще всего, это картина ИИ как экзистенциального риска для долгосрочного человеческого существования как вида – то я думаю о силе и слабости научной фантастики, способности спекулировать о будущем. Миллионеры и миллиардеры, имеющие непосредственные экономическые и политические ставки в создании таких технологий, такие истории о машинном апокалипсисе особенно любят. Подобные представления часто выстроены вокруг идеи, что в какой-то момент искусственный интеллект достигнет степени самоосознания, что случится нечто ужасное.

В таких разговор об ИИ как экзистенциальном риске есть нечто волнующее и фантастические, в воображении откликаются сюжеты множества голливудских фильмов и научно-фантастических книжек. Однако у такой спекуляции есть своя цена. Возможности воображать альтернативные версии будущего в социальных и гуманитарных науках отводится традиционно высокая роль – в таких практиках часто принято обнаруживать утопический потенциал. Однако теоретик Макс Хоркхаймер был не согласен со своими коллегами по Франкфуртской школе, например, Гербертом Маркузе, касательно политической роли воображения. На его взгляд, человеческая способность обращаться к будущему фундаментально реактивна (и, в каком-то смысле, политически консервативна), ведь в этом процессе настоящее скорее человека удерживает, нежели чем отпускает.

И пока наши истории об искусственном интеллекте вращаются вокруг раздумий о грядущем в отложенном будущем экзистенциальном риске, проблемы здесь и сейчас откладываются на неопределенный срок. А таких проблем достаточно – от предвзятостей и умножения неравенства до эффектов на окружающую среду. Я, признаюсь, не так много читал научной фантастики, но для меня она, прежде всего, в своем технологическом аспекте связана с попытками представить какие-то небывалыми изобретениями. Но, как искрометно заметил однажды Дэвид Грэбер, где же ваши летающие автомобили? Мне было бы очень интересно почитать какую-нибудь скучную научную фантастику – не ту, где на первый план выходят летающие автомобили и неизведанные проблемы, а истории о том, где технологии совсем не фантастическим (а скорее уж очень скучным) образом помогают справиться с проблемами, что есть сейчас.

data stories

Экзистенциальный риск, Хоркхаймер и скучная научная фантастика

Когда я читаю в социальных сетях или медиа очередные рассуждения о том, чем нам грозит искусственный интеллект "в ближайшем будущем" – чаще всего, это картина ИИ как экзистенциального риска для долгосрочного человеческого существования как вида – то я думаю о силе и слабости научной фантастики, способности спекулировать о будущем. Миллионеры и миллиардеры, имеющие непосредственные экономическые и политические ставки в создании таких технологий, такие истории о машинном апокалипсисе особенно любят. Подобные представления часто выстроены вокруг идеи, что в какой-то момент искусственный интеллект достигнет степени самоосознания, что случится нечто ужасное.

В таких разговор об ИИ как экзистенциальном риске есть нечто волнующее и фантастические, в воображении откликаются сюжеты множества голливудских фильмов и научно-фантастических книжек. Однако у такой спекуляции есть своя цена. Возможности воображать альтернативные версии будущего в социальных и гуманитарных науках отводится традиционно высокая роль – в таких практиках часто принято обнаруживать утопический потенциал. Однако теоретик Макс Хоркхаймер был не согласен со своими коллегами по Франкфуртской школе, например, Гербертом Маркузе, касательно политической роли воображения. На его взгляд, человеческая способность обращаться к будущему фундаментально реактивна (и, в каком-то смысле, политически консервативна), ведь в этом процессе настоящее скорее человека удерживает, нежели чем отпускает.

И пока наши истории об искусственном интеллекте вращаются вокруг раздумий о грядущем в отложенном будущем экзистенциальном риске, проблемы здесь и сейчас откладываются на неопределенный срок. А таких проблем достаточно – от предвзятостей и умножения неравенства до эффектов на окружающую среду. Я, признаюсь, не так много читал научной фантастики, но для меня она, прежде всего, в своем технологическом аспекте связана с попытками представить какие-то небывалыми изобретениями. Но, как искрометно заметил однажды Дэвид Грэбер, где же ваши летающие автомобили? Мне было бы очень интересно почитать какую-нибудь скучную научную фантастику – не ту, где на первый план выходят летающие автомобили и неизведанные проблемы, а истории о том, где технологии совсем не фантастическим (а скорее уж очень скучным) образом помогают справиться с проблемами, что есть сейчас.

Truthdig

Does AGI Really Threaten the Survival of the Species?

When someone talks about the “existential risk” posed by artificial general intelligence, always look under the hood.

hottg.com/datastudies/425

1.51K viewsNov 27, 2023 at 22:35