«Новый чип A20 Pro — это просто зверь». Энтузиаст запустил на iPhone 18 Pro ИИ-модель с 27 млрд параметров
iXBT.com ·
iPhone 18 Pro продемонстрировал заметный прирост производительности при локальном запуске больших языковых моделей. Энтузиаст Адриен Грондин запустил непосредственно на смартфоне ИИ-модель Bonsai-27B с 27 млрд параметров. В ходе демонстрации скорость генерации оказалась примерно вдвое выше, чем у iPhone 17 Pro.
iPhone 18 Pro продемонстрировал заметный прирост производительности при локальном запуске больших языковых моделей. Энтузиаст Адриен Грондин запустил непосредственно на смартфоне ИИ-модель Bonsai-27B с 27 млрд параметров. В ходе демонстрации скорость генерации оказалась примерно вдвое выше, чем у iPhone 17 Pro.
По словам энтузиаста, ключевую роль в этом играет новый процессор Apple A20 Pro. «Новый чип A20 Pro — это просто зверь», — написал он.
Напомним, A20 Pro впервые среди мобильных SoC Apple получил двойной 16-ядерный нейропроцессор. Также серьезно модернизировали подсистему памяти: iPhone 18 Pro и iPhone 18 Pro Max оснащаются 12 ГБ LPDDR5X с 96-битной шиной и пропускной способностью 115,2 ГБ/с. Высокая скорость памяти особенно важна при запуске больших языковых моделей непосредственно на устройстве.
В тесте iPhone 18 Pro полностью локально запускал Bonsai с 27 млрд параметров. Обработка запросов происходила непосредственно на смартфоне, без обращения к облачным серверам.