У нових AI-моделях компанії немає нічого від Google Gemini

Керівники Apple детально розповіли про архітектуру нових Apple Foundation Models (AFM) і пояснили, яку саме роль у їхній розробці відіграли технології Google.

Крейг Федерігі, старший віцепрезидент Apple із програмної інженерії, у понеділок провів технічну розмову після презентації (через 9to5Mac) для преси разом із віцепрезидентом із AI Амаром Субраманьєю, керівником Siri Майком Роквеллом і віцепрезидентом із ПЗ Себастьєном Маріно-Месом, щоб пояснити, як створювали сімейство AFM третього покоління та як воно забезпечує роботу Apple Intelligence.

«Обсяг Google Assistant, який ми використовуємо, — нуль», — сказав Федерігі, пояснивши, що Apple не використовує жодної з моделей Gemini, які Google постачає своїм клієнтам, жодного клієнтського коду Google і не застосовує інфраструктуру Google Search як основу знань.

Субраманья окреслив нове сімейство AFM, яке охоплює дві on-device моделі та три серверні. Рівень on-device складається з AFM Core — моделі з щільною архітектурою нового покоління — та AFM Core Advanced, яка використовує розріджену архітектуру й від початку є мультимодальною.

За словами Субраманьї, AFM Core Advanced «не схожа на жодну on-device модель, яку ми запускали раніше», і відкриває нові можливості, зокрема запрошення та виразні голоси без жодних звернень до хмари. На серверному боці AFM Cloud обробляє запити Private Cloud Compute, оптимізовані за затримкою, а AFM Cloud Image забезпечує генерацію та редагування зображень, зокрема просторове кадрування.

Ключова деталь про співпрацю з Google прозвучала в описі Субраманьї того, як навчали ці чотири моделі. «Усі вони створені на замовлення для Apple Silicon, навчені на пропрієтарних даних із підкріплювальним навчанням і доопрацьовані з використанням виходів frontier-моделей Gemini», — сказав він, давши зрозуміти, що внесок Google був пов’язаний із дистиляцією, а не з повним запозиченням Gemini.

П’ята й найпотужніша модель, AFM Cloud Pro, призначена для агентного використання інструментів і складних завдань міркування; за якістю, як зазначив Субраманья, вона «подібна до frontier-моделей Gemini». Ця модель означає відхід від стандартної для Apple схеми Private Cloud Compute.

Щоб її запускати, Apple співпрацювала і з Google, і з Nvidia, розширивши приватну хмарну інфраструктуру до GPU Nvidia, розміщених у хмарі Google. Маріно-Мес сказав, що Apple хотіла використати найновіші чипи Nvidia, але вимагала налаштування, за якого вони не могли б читати вміст серверів Apple. Рішенням стала нещодавня технологія Nvidia під назвою «ambiguous confidential compute».

Федерігі описав ширшу архітектуру системи як організовану навколо System Orchestrator — програмного компонента, який він назвав «ключовим для архітектури приватності всієї нашої системи». Оркестратор спрямовує кожен запит до відповідної моделі — на пристрої або в хмарі — залежно від складності запиту та потрібного персонального контексту.

Він спирається на App Toolbox для дій усередині застосунків, Spotlight Semantic Index для персонального контенту та контекст на екрані для обізнаності в реальному часі. Для запитів, що стосуються поточних подій, відповіді знаходять через власний World Knowledge Service Apple, який, за словами Федерігі, компанія будує вже кілька років.

Apple також наполягає, що всю інфраструктуру Private Cloud Compute, включно з розширеними потужностями GPU Nvidia у хмарі Google, можуть незалежно перевіряти сторонні дослідники, щоб підтвердити: дані користувачів ніколи не зберігаються і до них не отримують доступ.