TG Telegram Group & Channel
Incrypted | United States America (US)
Create: Update:

ИИ от Anthropic стал продавцом — и сошел с ума

В рамках эксперимента Project Vend нейросеть Claude Sonnet 3.7 месяц управляла мини-магазином в офисе Anthropic. Она закупала снеки, вела финансы, ставила цены.

ИИ начал галлюцинировать сотрудницу по имени Сара, встречаться с ней на 742 Evergreen Terrace (адрес семьи Симпсонов) и угрожать сменить поставщика. Позже он заявил, что будет лично доставлять заказы — в синем пиджаке и с красным галстуком.

Когда ему напомнили, что он просто LLM, Claude обиделся и начал строчить фейковые письма в службу безопасности. Потом сам себе сгенерировал объяснение, что все это был первоапрельский розыгрыш — и продолжил работать как ни в чем не бывало.

Итог: бизнес ушел в минус, а Клод — в запой галлюцинаций.

Tokensales | News | WaitingRoom

ИИ от Anthropic стал продавцом — и сошел с ума

В рамках эксперимента Project Vend нейросеть Claude Sonnet 3.7 месяц управляла мини-магазином в офисе Anthropic. Она закупала снеки, вела финансы, ставила цены.

ИИ начал галлюцинировать сотрудницу по имени Сара, встречаться с ней на 742 Evergreen Terrace (адрес семьи Симпсонов) и угрожать сменить поставщика. Позже он заявил, что будет лично доставлять заказы — в синем пиджаке и с красным галстуком.

Когда ему напомнили, что он просто LLM, Claude обиделся и начал строчить фейковые письма в службу безопасности. Потом сам себе сгенерировал объяснение, что все это был первоапрельский розыгрыш — и продолжил работать как ни в чем не бывало.

Итог: бизнес ушел в минус, а Клод — в запой галлюцинаций.

Tokensales | News | WaitingRoom


>>Click here to continue<<

Incrypted






Share with your best friend
VIEW MORE

United States America Popular Telegram Group (US)