TG Telegram Group & Channel
Пресидский залив (ex Надя пробует) | United States America (US)
Create: Update:

AI-модерация иногда слишком строгая 🥲

Когда работаешь с LLM, быстро сталкиваешься с ожидаемой проблемой: AI банит вполне безобидные запросы. Особенно это заметно в fashion и lifestyle, где границы дозволенного очень тонкие 🥲

🧠 Вообще, ошибки AI-модерации (false positives) часто забавные, вот парочка:

🟡 ChatGPT недавно блокировал картинки по запросу sexy woman, но спокойно рисовал sexy man. Сейчас рисует всех 🎧

🟡 Meta регулярно банит рекламу обычного нижнего белья, принимая ее за нюдсы (при этом сами знаете, какие картинки пропускает Instagram 😏)

🟡 Месяц назад Gemini спокойно генерировал человека азиатской внешности, а при запросе на европейца — внезапно отказывался 😢

Проблема настолько распространенная и нетривиальная, что даже появились специальные бенчмарки, которые замеряют ошибки моделей в модерации (например, CircleGuardBench).

AI-модерация, конечно, не самая большая боль, но когда строишь продукт, постоянные ограничения начинают раздражать 😠

Если сталкивались с подобными ситуациями — го делиться в комментариях 😁

AI-модерация иногда слишком строгая 🥲

Когда работаешь с LLM, быстро сталкиваешься с ожидаемой проблемой: AI банит вполне безобидные запросы. Особенно это заметно в fashion и lifestyle, где границы дозволенного очень тонкие 🥲

🧠 Вообще, ошибки AI-модерации (false positives) часто забавные, вот парочка:

🟡 ChatGPT недавно блокировал картинки по запросу sexy woman, но спокойно рисовал sexy man. Сейчас рисует всех 🎧

🟡 Meta регулярно банит рекламу обычного нижнего белья, принимая ее за нюдсы (при этом сами знаете, какие картинки пропускает Instagram 😏)

🟡 Месяц назад Gemini спокойно генерировал человека азиатской внешности, а при запросе на европейца — внезапно отказывался 😢

Проблема настолько распространенная и нетривиальная, что даже появились специальные бенчмарки, которые замеряют ошибки моделей в модерации (например, CircleGuardBench).

AI-модерация, конечно, не самая большая боль, но когда строишь продукт, постоянные ограничения начинают раздражать 😠

Если сталкивались с подобными ситуациями — го делиться в комментариях 😁
Please open Telegram to view this post
VIEW IN TELEGRAM


>>Click here to continue<<

Пресидский залив (ex Надя пробует)




Share with your best friend
VIEW MORE

United States America Popular Telegram Group (US)