Звіт: Apple зробить ставку на ШІ на пристрої як ключову тему WWDC

Apple, за повідомленнями, планує використати наступномісячну Worldwide Developers Conference (WWDC), щоб підкреслити свої можливості ШІ на пристрої як конкурентну перевагу, спираючись на 15 років досвіду у створенні власних чипів і доводячи, що моделі ШІ варто запускати локально, а не в хмарі.

Люди, обізнані з планами Apple, у коментарі для The Information кажуть, що компанія, як очікується, покаже, як чипи, розроблені для iPhone, Apple Watch і Mac, дають їй перевагу в обробці запитів до ШІ безпосередньо на пристроях. Хоча для складних запитів хмарна обробка й надалі буде потрібною, Apple позиціонуватиме локальний інференс як альтернативу, що краще захищає приватність і знижує витрати порівняно з масштабним будівництвом дата-центрів, на яке пішли конкуренти.

У межах угоди з Google Apple, ймовірно, використає велику версію моделі Gemini від Google, щоб навчити меншу «дистильовану» версію, здатну працювати локально на апаратному забезпеченні Apple. Також повідомляється, що Apple придивляється до поглинань, аби прискорити роботу зі «стиснення» моделей; серед компаній, які вона нібито розглядала, — Liquid AI, стартап із Массачусетсу, зосереджений на запуску ШІ локально на пристроях.

Деякі запити все одно вимагатимуть хмарної обробки. Вважається, що Apple схвалила використання технології конфіденційних обчислень Nvidia у Google Cloud для обробки більшої моделі на базі Gemini. Ця функція безпеки шифрує дані та моделі ШІ під час обробки, додаючи помірні витрати продуктивності, але забезпечуючи сильніший захист приватності.

Такий підхід помітно відрізняється від початкового анонсу Apple Intelligence, у якому компанія заявляла, що всі запити, які потребують хмари, оброблятимуться виключно її власною інфраструктурою Private Cloud Compute на Apple silicon. Водночас Apple, ймовірно, збереже бренд Private Cloud Compute попри зміни, повідомили The Information люди, знайомі з партнерством.

Також стверджується, що є суттєві обмеження того, наскільки далеко Apple може просунути обробку на пристрої. Повна модель Gemini від Google має трильйони параметрів, і, за даними The Information, Apple було складно запускати її на власній інфраструктурі Private Cloud Compute, яка використовує ті самі чипи Apple silicon, що й у комп’ютерах Mac.

Apple Intelligence вперше представили на WWDC 2024, але запуск ускладнили стримана реакція на перші функції та затяжна затримка більш персоналізованої версії Siri. Тепер очікується, що Apple використає WWDC 2026, яка стартує восьмого червня, щоб переформатувати наратив, знову представити відкладені можливості та показати нові.