Apple вивчає можливість запускати значно більші AI-моделі безпосередньо на iPhone

Apple проводила зустрічі з PrismML щодо того, як компанія могла б використати технологію стартапу для запуску значно більших AI-моделей безпосередньо на iPhone, повідомляє The Information.

У матеріалі йдеться, що PrismML змогла «стиснути» відкриту велику мовну модель Alibaba Qwen 3.6 так, щоб вона повністю працювала на iPhone 17 Pro. Модель має 27 мільярдів параметрів — це більше, ніж у локальної моделі Apple AFM 3 Core Advanced із 20 мільярдами параметрів. Модель Apple забезпечує поліпшення в iOS 27, зокрема більш виразні голоси Siri AI та покращену системну диктовку на iPhone 17 Pro і iPhone Air.

На відміну від AFM 3 Core Advanced, усі параметри Qwen 3.6 можуть бути активними одночасно.

«Одна нова локальна модель Apple має 20 мільярдів параметрів, але використовує так звану розріджену архітектуру, у якій одночасно активні лише від одного до чотирьох мільярдів параметрів», — зазначається в матеріалі, маючи на увазі AFM 3 Core Advanced. «У випадку локальної моделі PrismML усі 27 мільярдів параметрів активні одночасно».

Більші моделі, що працюють безпосередньо на iPhone, дали б змогу запускати більше функцій Apple Intelligence на пристрої, а не на серверах Private Cloud Compute. Це могло б зменшити витрати Apple та додатково посилити приватність користувачів.