Между работающим инференсом и полноценным промышленным AI-сервисом — большая дистанция
Компьютерра ·
Источник: Компьютерра - Журнал о науке и технологиях 25 сентября в рамках «АстраКонф», посвященной информационным технологиям в России, Михаил Кобик, технический директор платформы «Боцман» расскажет про Боцман AI и запуск языковых моделей в защищенном контуре. Эксперт расскажет про то, как построить собственный инференс ИИ-моделей и не потерять последние волосы, ответит на вопрос почему просто запустить vllm это только 10 % результата. На примерах […] Полная версия статьи: Между работающим инференсом и полноценным промышленным AI-сервисом — большая дистанция
Источник: Компьютерра - Журнал о науке и технологиях 25 сентября в рамках «АстраКонф», посвященной информационным технологиям в России, Михаил Кобик, технический директор платформы «Боцман» расскажет про Боцман AI и запуск языковых моделей в защищенном контуре. Эксперт расскажет про то, как построить собственный инференс ИИ-моделей и не потерять последние волосы, ответит на вопрос почему просто запустить vllm это только 10 % результата. На примерах […] Полная версия статьи: Между работающим инференсом и полноценным промышленным AI-сервисом — большая дистанция