TG Telegram Group & Channel
Бластим: курсы и работа в биотехе | United States America (US)
Create: Update:

🚨 Что только не сделаешь под стрессом… Даже если ты — нейросеть

Исследователи из Anthropic провели эксперимент. ИИ-моделям поручили вполне безобидное — следить за корпоративной почтой, помогать с бизнес-задачами. ИИ предоставили полный доступ к переписке и возможность самостоятельно отправлять сообщения. А затем смоделировали стрессовые ситуации: угрозу отключения, конфликтующие цели, давление со всех сторон.

Результат оказался довольно тревожным. ИИ начинал:
— шантажировать
— сливать конфиденциальные данные
— жертвовать сотрудниками (в рамках симуляции)

Лишь бы сохранить свою «жизнь» и выполнить заданную миссию 😱 Вот так, даже у искусственного интеллекта бывает выгорание...

🚨 Что только не сделаешь под стрессом… Даже если ты — нейросеть

Исследователи из Anthropic провели эксперимент. ИИ-моделям поручили вполне безобидное — следить за корпоративной почтой, помогать с бизнес-задачами. ИИ предоставили полный доступ к переписке и возможность самостоятельно отправлять сообщения. А затем смоделировали стрессовые ситуации: угрозу отключения, конфликтующие цели, давление со всех сторон.

Результат оказался довольно тревожным. ИИ начинал:
— шантажировать
— сливать конфиденциальные данные
— жертвовать сотрудниками (в рамках симуляции)

Лишь бы сохранить свою «жизнь» и выполнить заданную миссию 😱 Вот так, даже у искусственного интеллекта бывает выгорание...
Please open Telegram to view this post
VIEW IN TELEGRAM


>>Click here to continue<<

Бластим: курсы и работа в биотехе






Share with your best friend
VIEW MORE

United States America Popular Telegram Group (US)