AI-модерация иногда слишком строгая
Когда работаешь с LLM, быстро сталкиваешься с ожидаемой проблемой: AI банит вполне безобидные запросы. Особенно это заметно в fashion и lifestyle, где границы дозволенного очень тонкие
Проблема настолько распространенная и нетривиальная, что даже появились специальные бенчмарки, которые замеряют ошибки моделей в модерации (например, CircleGuardBench).
AI-модерация, конечно, не самая большая боль, но когда строишь продукт, постоянные ограничения начинают раздражать
Если сталкивались с подобными ситуациями — го делиться в комментариях
>>Click here to continue<<