Показательно про скорость бизнес-прогресса (и сумасшедшую маржиналость) в ИИ.
В начале этой недели Mistral выпустили новую модель Mixtral MoE и предложили доступ по API по цене $2 за миллион токенов.
В тот же день together.xyz предложили доступ к этой же модели за $0.6 за миллион токенов.
Через два дня abacus.ai предложили то же самое за $0.3 за миллион токенов.
Напомню, что модель gpt-3.5-turbo, которая имеет идентичную производительность, 9 месяцев назад стоила больше $20 за миллион токенов.
При этом, за это время практически ничего не изменилось в стоимости или производительности GPU, то есть это исключительно оптимизация на уровне софта и, вероятно, сокращение маржинальности.
>>Click here to continue<<