Инференс съедает бюджет: где теряется маржа ИИ-продуктов
Компьютерра ·
Источник: Компьютерра - Журнал о науке и технологиях Токен дешевеет из года в год, а счета за инференс растут. Станислав Ежов, директор по развитию ИИ ПАО «Группа Астра», рассказывает о том, куда же уходит разница и что с этим делает архитектура. Цена токена падает почти каждый квартал. В марте 2023 года миллион входных токенов GPT-4 стоил $30. К 2026 году стоимость инференса моделей […] Полная версия статьи: Инференс съедает бюджет: где теряется маржа ИИ-продуктов
Источник: Компьютерра - Журнал о науке и технологиях Токен дешевеет из года в год, а счета за инференс растут. Станислав Ежов, директор по развитию ИИ ПАО «Группа Астра», рассказывает о том, куда же уходит разница и что с этим делает архитектура. Цена токена падает почти каждый квартал. В марте 2023 года миллион входных токенов GPT-4 стоил $30. К 2026 году стоимость инференса моделей […] Полная версия статьи: Инференс съедает бюджет: где теряется маржа ИИ-продуктов