iPhone 18 Pro вдвічі швидший за iPhone 17 Pro у локальному ШІ

Новий A20 Pro в iPhone 18 Pro показав значний приріст продуктивності під час роботи зі штучним інтелектом без підключення до інтернету. У тесті смартфон запустив модель Bonsai 27B із 27 млрд параметрів приблизно вдвічі швидше, ніж iPhone 17 Pro з процесором A19 Pro. Демонстрацію провів розробник Адрієн Гронден.

Однією з причин такого результату став оновлений Neural Engine. У A20 Pro використовується два 16-ядерні блоки Neural Engine, а сам iPhone 18 Pro отримав 12 ГБ швидкої пам’яті LPDDR5X. Пропускна здатність пам’яті становить 115,2 ГБ/с, що важливо для запуску великих мовних моделей безпосередньо на смартфоні.

Водночас можливості iPhone 18 Pro мають певні обмеження. Наприклад, новіша версія Bonsai 2 із 2-бітною квантизацією виявилася занадто великою для комфортного локального запуску на смартфоні. Тому збільшення обсягу оперативної пам’яті в майбутніх моделях може стати важливим для роботи з ще більшими ШІ-моделями.

Для порівняння, Apple заявляє, що A20 Pro отримав вдвічі вищу обчислювальну продуктивність Neural Engine порівняно з попереднім поколінням. Компанія також зробила акцент на локальній роботі великих мовних моделей та нових можливостях Apple Intelligence.

Таким чином, iPhone 18 Pro стає помітно потужнішим саме у локальному штучному інтелекті. Запуск 27-мільярдної моделі без хмарних серверів показує, наскільки швидко смартфони наближаються до можливостей повноцінних комп’ютерів у роботі з ШІ. Водночас обсяг оперативної пам’яті залишається одним із головних факторів, що обмежують запуск ще більших моделей.

Источник: itechua.com