Кто должен считать потребление в AI-сервисе: продукт или биллинг
Habr ·
В тариф включено 5 млн токенов. Клиент уже использовал 4,8 млн и отправляет новый запрос на 500 тысяч. Кто должен решить, можно ли его выполнить? Ответ зависит от того, кто считает потребление. Сервис может сам вести счетчик и контролировать лимит либо передавать события в биллинг, оставляя ему учет накопленного объема. В статье разбираю распределение ответственности между продуктом и биллингом: кто фиксирует использование, кто считает потребление, кто контролирует лимиты и где рассчитывается стоимость. Читать далее
В тариф включено 5 млн токенов. Клиент уже использовал 4,8 млн и отправляет новый запрос на 500 тысяч. Кто должен решить, можно ли его выполнить? Ответ зависит от того, кто считает потребление. Сервис может сам вести счетчик и контролировать лимит либо передавать события в биллинг, оставляя ему учет накопленного объема. В статье разбираю распределение ответственности между продуктом и биллингом: кто фиксирует использование, кто считает потребление, кто контролирует лимиты и где рассчитывается стоимость. Читать далее