Расчёт прибыльности продукта в пересчёте на одного пользователя или один запрос — критично для ИИ-продуктов из-за высокой стоимости инференса.
Unit-экономика ИИ-продукта — это анализ прибыльности бизнеса в пересчёте на одну «единицу» — обычно одного пользователя, одну подписку или один обработанный запрос: сколько денег компания зарабатывает и сколько тратит на обслуживание этой единицы, и остаётся ли в итоге положительная маржа.
Специфика ИИ-продуктов в том, что в отличие от классического SaaS, где предельная стоимость обслуживания дополнительного пользователя близка к нулю, каждый запрос к LLM или другой модели стоит реальных денег (инференс на GPU-инфраструктуре) — из-за этого продукт с привлекательной ценой подписки может оказаться убыточным именно на самых активных пользователях, которые генерируют больше всего запросов.
При запуске ИИ-продукта важно заранее моделировать сценарий с максимально активными пользователями (не средним, а «тяжёлым» использованием), поскольку именно они чаще всего выявляют проблемы с unit-экономикой, незаметные на этапе пилота с малым числом клиентов.
Потому что стоимость обслуживания каждого дополнительного запроса (инференс) заметно выше нуля, в отличие от традиционного программного обеспечения, где предельные издержки почти отсутствуют.
Через квантование и дистилляцию моделей, кэширование повторяющихся запросов, использование более компактных моделей (SLM) там, где не требуется мощность топовой LLM.
Приблизительно да, но точность оценки растёт по мере накопления данных о реальном паттерне использования продукта разными типами пользователей.