Локальный инференс на Ryzen AI Halo
Habr ·
Чего же можно достичь от какой то "встройки" от АМД, так ли будет медленно? Будет полезно не только владельцам Ryzen AI Max, но и видеокарт от AMD. Статья созрела когда в очередные выходные все старые инструкции потеряли актуальность, пришлось перелопатить кучу форумов и провести много опытов. В финале могу предоставить сравнения разных моделек с разным контекстом и сравнение с RTX 5060Ti 16GB. Читать далее
Чего же можно достичь от какой то "встройки" от АМД, так ли будет медленно? Будет полезно не только владельцам Ryzen AI Max, но и видеокарт от AMD. Статья созрела когда в очередные выходные все старые инструкции потеряли актуальность, пришлось перелопатить кучу форумов и провести много опытов. В финале могу предоставить сравнения разных моделек с разным контекстом и сравнение с RTX 5060Ti 16GB. Читать далее