Энтузиаст запустил на iPhone 18 Pro ИИ-модель с 27 млрд параметров

Адриен Грондин запустил языковую модель Bonsai-27B полностью локально на iPhone 18 Pro и получил примерно вдвое большую скорость генерации, чем на iPhone 17 Pro. По его словам, решающую роль сыграл чип A20 Pro с двойным 16-ядерным нейропроцессором и памятью 12 ГБ LPDDR5X с пропускной способностью 115,2 ГБ/с.
Энтузиаст Адриен Грондин запустил большую языковую модель Bonsai-27B с 27 млрд параметров прямо на смартфоне iPhone 18 Pro. Скорость генерации оказалась примерно вдвое выше, чем у iPhone 17 Pro.
Обработка запросов шла полностью на устройстве, без обращения к облачным серверам. По словам Грондина, решающую роль сыграл новый процессор Apple A20 Pro: «Новый чип A20 Pro — это просто зверь».
A20 Pro первым среди мобильных SoC Apple получил двойной 16-ядерный нейропроцессор. Также переработали подсистему памяти: iPhone 18 Pro и iPhone 18 Pro Max оснащаются 12 ГБ LPDDR5X с 96-битной шиной и пропускной способностью 115,2 ГБ/с. Высокая скорость памяти особенно важна при локальном запуске больших языковых моделей.
iXBT · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября