Тест DeepSeek, Qwen, GLM и прочих LLM на продвинутом пользовательском железе

Habr ·

Тест DeepSeek, Qwen, GLM и прочих LLM на продвинутом пользовательском железе

В статье рассказываю о личном опыте запуска современных LLM на домашнем ПК, сравниваю модели, кванты и движки, показываю результаты практических тестов и делюсь выводами о том, что сегодня по моему мнению имеет смысл запускать локально. Читать далее

В статье рассказываю о личном опыте запуска современных LLM на домашнем ПК, сравниваю модели, кванты и движки, показываю результаты практических тестов и делюсь выводами о том, что сегодня по моему мнению имеет смысл запускать локально. Читать далее

Источник: Habr