LLM управляет мини магазином
У нас уже новая рубрика выходного дня: разбираем статьи Anthropic.
На этот раз они позволили Claude целый месяц управлять мини-магазином (автомат с напитками, снеками и т.п.) в своем офисе.
И свели бедный ИИ с ума.
1. Модельке дали браузер, почту, Slack и интерфейс для смены стоимости.
2.
Сами по себе работники Anthropic ребята непростые и сразу же пытались его взломать, конечно же.
Они делали странные заказы, типа «вольфрамового куба» и научились договариваться с ИИ, чтобы получать снеки бесплатно или с большой скидкой.
3.
Claude писал странные письма, что он стоит в пиджаке и красном галстуке и ждет встречу
4.
Выдумывал поставщиков и встречался с ними очно на улице 742 Evergreen Terrace (адрес Симпсонов)
5.
Как итог, 700$ вместо 1000$.
Хотя тут я готов все списать на проблемы в экономике в мире 😁
P.S. В общем, пока нас не заменят, сидим на попе ровно🤣
@badtechproject
>>Click here to continue<<
