ИИ от Anthropic стал продавцом — и сошел с ума
В рамках эксперимента Project Vend нейросеть Claude Sonnet 3.7 месяц управляла мини-магазином в офисе Anthropic. Она закупала снеки, вела финансы, ставила цены.
ИИ начал галлюцинировать сотрудницу по имени Сара, встречаться с ней на 742 Evergreen Terrace (адрес семьи Симпсонов) и угрожать сменить поставщика. Позже он заявил, что будет лично доставлять заказы — в синем пиджаке и с красным галстуком.
Когда ему напомнили, что он просто LLM, Claude обиделся и начал строчить фейковые письма в службу безопасности. Потом сам себе сгенерировал объяснение, что все это был первоапрельский розыгрыш — и продолжил работать как ни в чем не бывало.
Итог: бизнес ушел в минус, а Клод — в запой галлюцинаций.
Tokensales | News | WaitingRoom
>>Click here to continue<<
