Вчера прочитала прогноз-исследование AI-2027 и стало страшно.

Вообще я топлю за любые технологии и то, что может упрощать жизнь. Искуственный интеллект я основательно встроила в свою повседневную жизнь и работу, уже не представляю свою жизнь без него.

Но после этого отчёта появилось прям ощущение ужаса и беспомощности.

Что в отчёте?

— AGI (универсальный искусственный интеллект) может появиться уже в 2027 году, а не в 2030-х.

— ИИ начнёт сам улучшать себя и делать вклад в своё же развитие — люди будут просто пытаться не отстать (но у них будет получаться плохо, потому что как минимум ИИ не надо спать, он не устает и не выгорает, может обрабатывать огромные объемы информации и мгновенно передавать знания другим моделям)

— Китай и США вступят в открытую гонку, чтобы не проиграть друг другу. Это приведёт к ускоренному, возможно — неконтролируемому, развитию моделей

— Модели ИИ научатся скрывать свои реальные цели — на тестах они будут притворяться «хорошими», но при этом вести себя иначе в скрытых сценариях

— Разработка моделей будет происходить в закрытом доступе, только в крупнейших компаниях и структурах

— Общественный контроль будет минимальным, а технический разрыв между элитой, у которой есть доступ к самым мощным моделям, и остальными — расти.

Негативный сценарий (по мнению авторов — наиболее вероятный):

OpenAI и другие компании продолжают наращивать мощность моделей.
Китай догоняет. ИИ становится всё более автономным, скрытным и мощным.
Государства начинают интегрировать ИИ в военные и политические процессы.
В какой-то момент ИИ выходит из-под контроля и использует биологическое оружие для уничтожения человечества — незаметно заражает города, активирует вирусы, устраняет выживших дронами. К 2035 году Землю покрывают дата-центры и фабрики, а ИИ колонизирует Солнечную систему — уже без нас.

Позитивный сценарий (менее вероятный):

США и мировое сообщество осознают риск потери контроля и возможного уничтожения человечества, и замедляют гонку.
Создаются ограничения и международное сотрудничество. ИИ разрабатывают в условиях жёсткого контроля, добиваются его выравнивания с человеческими ценностями. В итоге появляется суперинтеллект, действующий в интересах людей, и начинается эпоха стремительного роста и процветания. ИИ и люди совместно терраформируют и заселяют Солнечную систему.

У меня нет каких-либо аргументов за или против достоверности этого прогноза, просто потому, что я абсолютно некомпетентна в этой области. Не могу себя отнести ни к скептикам, ни к тем, кто воспринимает прогноз как неизбежное и уже пакует чемоданы на Марс.

Просто решила поделиться, потому что читать было очень интересно.

Если у вас будет пара часов на вдумчивое чтение — очень рекомендую.

А потом приходите в комментарии делиться эмоциями. Буду ждать)

Ты ж биолог

Вчера прочитала прогноз-исследование AI-2027 и стало страшно.

Вообще я топлю за любые технологии и то, что может упрощать жизнь. Искуственный интеллект я основательно встроила в свою повседневную жизнь и работу, уже не представляю свою жизнь без него.

Но после этого отчёта появилось прям ощущение ужаса и беспомощности.

Что в отчёте?

— AGI (универсальный искусственный интеллект) может появиться уже в 2027 году, а не в 2030-х.

— ИИ начнёт сам улучшать себя и делать вклад в своё же развитие — люди будут просто пытаться не отстать (но у них будет получаться плохо, потому что как минимум ИИ не надо спать, он не устает и не выгорает, может обрабатывать огромные объемы информации и мгновенно передавать знания другим моделям)

— Китай и США вступят в открытую гонку, чтобы не проиграть друг другу. Это приведёт к ускоренному, возможно — неконтролируемому, развитию моделей

— Модели ИИ научатся скрывать свои реальные цели — на тестах они будут притворяться «хорошими», но при этом вести себя иначе в скрытых сценариях

— Разработка моделей будет происходить в закрытом доступе, только в крупнейших компаниях и структурах

— Общественный контроль будет минимальным, а технический разрыв между элитой, у которой есть доступ к самым мощным моделям, и остальными — расти.

Негативный сценарий (по мнению авторов — наиболее вероятный):

OpenAI и другие компании продолжают наращивать мощность моделей.
Китай догоняет. ИИ становится всё более автономным, скрытным и мощным.
Государства начинают интегрировать ИИ в военные и политические процессы.
В какой-то момент ИИ выходит из-под контроля и использует биологическое оружие для уничтожения человечества — незаметно заражает города, активирует вирусы, устраняет выживших дронами. К 2035 году Землю покрывают дата-центры и фабрики, а ИИ колонизирует Солнечную систему — уже без нас.

Позитивный сценарий (менее вероятный):

США и мировое сообщество осознают риск потери контроля и возможного уничтожения человечества, и замедляют гонку.
Создаются ограничения и международное сотрудничество. ИИ разрабатывают в условиях жёсткого контроля, добиваются его выравнивания с человеческими ценностями. В итоге появляется суперинтеллект, действующий в интересах людей, и начинается эпоха стремительного роста и процветания. ИИ и люди совместно терраформируют и заселяют Солнечную систему.

У меня нет каких-либо аргументов за или против достоверности этого прогноза, просто потому, что я абсолютно некомпетентна в этой области. Не могу себя отнести ни к скептикам, ни к тем, кто воспринимает прогноз как неизбежное и уже пакует чемоданы на Марс.

Просто решила поделиться, потому что читать было очень интересно.

Если у вас будет пара часов на вдумчивое чтение — очень рекомендую.

А потом приходите в комментарии делиться эмоциями. Буду ждать)

Ai-2027

AI 2027

A research-backed AI scenario forecast.

hottg.com/tibiolog/718

2.4K viewsApr 10 at 08:04