OpenAI официально предупреждает: будущие модели ИИ могут значительно упростить создание биологического оружия даже для неспециалистов — и уже приближаются к уровню «высочайшего риска».

Компания усиливает проверки, ожидая, что новые модели достигнут наивысшего уровня угрозы по внутренней шкале. Это связано с эффектом, который они называют «повышением уровня новичка» — когда ИИ даёт людям без специальной подготовки доступ к опасным знаниям, ранее доступным только экспертам.

Угроза не в создании новых вирусов, а в том, что ИИ может упростить воссоздание уже известных патогенов — например, вируса оспы, H5N1 или сибирской язвы.

OpenAI признаёт: одна и та же технология может создавать лекарства — или убивать.

Робот сочинит симфонию?

OpenAI официально предупреждает: будущие модели ИИ могут значительно упростить создание биологического оружия даже для неспециалистов — и уже приближаются к уровню «высочайшего риска».

Компания усиливает проверки, ожидая, что новые модели достигнут наивысшего уровня угрозы по внутренней шкале. Это связано с эффектом, который они называют «повышением уровня новичка» — когда ИИ даёт людям без специальной подготовки доступ к опасным знаниям, ранее доступным только экспертам.

Угроза не в создании новых вирусов, а в том, что ИИ может упростить воссоздание уже известных патогенов — например, вируса оспы, H5N1 или сибирской язвы.

OpenAI признаёт: одна и та же технология может создавать лекарства — или убивать.

hottg.com/robotsymphony/6533

16.1K viewsJun 21 at 06:02