Энтузиаст запустил на iPhone 18 Pro ИИ-модель с 27 млрд параметров
Адриен Грондин запустил языковую модель Bonsai-27B полностью локально на iPhone 18 Pro и получил примерно вдвое большую скорость генерации, чем на iPhone 17 Pro. По его словам, решающую роль сыграл чип A20 Pro с двойным 16-ядерным нейропроцессором и памятью 12 ГБ LPDDR5X с пропускной способностью 115,2 ГБ/с.
Энтузиаст Адриен Грондин запустил большую языковую модель Bonsai-27B с 27 млрд параметров прямо на смартфоне iPhone 18 Pro. Скорость генерации оказалась примерно вдвое выше, чем у iPhone 17 Pro.
Обработка запросов шла полностью на устройстве, без обращения к облачным серверам. По словам Грондина, решающую роль сыграл новый процессор Apple A20 Pro: «Новый чип A20 Pro — это просто зверь».
A20 Pro первым среди мобильных SoC Apple получил двойной 16-ядерный нейропроцессор. Также переработали подсистему памяти: iPhone 18 Pro и iPhone 18 Pro Max оснащаются 12 ГБ LPDDR5X с 96-битной шиной и пропускной способностью 115,2 ГБ/с. Высокая скорость памяти особенно важна при локальном запуске больших языковых моделей.
iXBT · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Датамайнеры нашли в ChatGPT упоминания подписки Pro Max за $500 в месяцai_newz TG · 25 сентября
- ▪Сооснователи Anthropic получат 50,1% голосов после IPO3DNews · 25 сентября
- ▪Google запустит спутник с TPU-чипами 1 октябряiXBT · 25 сентября
- ▪Оксфордские исследователи заставили ИИ-агентов сговариваться в блэкджекеiXBT · 25 сентября