Foundation Models API от Apple

Apple выкатили API для Foundation Models (beta) для всех разработчиков. Наконец-то можно делать AI-приложения, только без геморроя с серверами и оплатой токенов. Всё работает прямо на устройстве. Давайте разбираться:

Что такое Foundation Models
– Это большая языковая модель, та же, что лежит в основе Apple Intelligence (Siri работает на её мощах), только теперь доступна через специальный API.
– Модель полностью крутится на устройстве, не уходит в облако, работает быстро и приватно (только на новых чипах — A17, M1 и выше).
– Никаких ключей, серверов и подписок. Всё для девелоперов бесплатно.

Что умеет
– Генерировать текст, писать и переписывать, делать резюме, отвечать на вопросы, вести диалоги — всё как у GPT, но у тебя в приложении.
– Есть “guided generation” — можно управлять стилем и форматом вывода (например, просить отвечать только списком или в стиле Твиттера).
– Tool calling: модель сама может вызывать функции твоего приложения, если не может что-то сделать (например, подсчитать что-то, перевести валюту, отправить письмо). Просто регистрируешь функции и модель их использует по ситуации.
– Всё через Swift в 2–3 строчки кода и можно получить генеративный ответ.

Как это интегрировать
– Импортируешь Foundation Models framework, создаёшь запрос к модели, получаешь результат.
– Можно использовать для любого NLP-сценария: персональный ассистент, креативщик, анализатор контента, чат-бот, генерация квизов, написание статей и т.д.

Почему это важно
– Все данные пользователя остаются на устройстве. Можно сделать реально приватное AI-приложение, не объясняясь ни с кем про GDPR.
– Нет лимитов и затрат, твоя генерация бесплатная, хочешь миллион токенов в день? Пожалуйста.
– Есть поддержка tool calling — теперь можно делать AI-агентов, которые реально что-то делают, а не просто болтают.
– Интеграция максимально простая: реально любой, кто писал на Swift, разберётся.

Ограничения и детали
– Работает только на новых устройствах (iPhone 15 Pro+, iPhone 16, все Mac на M1+).
– Название модели не раскрывают (видимо, что-то около 10–20B параметров, сжато для Neural Engine).
– Если чего-то не хватает, можно “звать” внешнюю модель через API (тот же ChatGPT), Apple не ограничивает.

ИИволюция 👾

Foundation Models API от Apple

Apple выкатили API для Foundation Models (beta) для всех разработчиков. Наконец-то можно делать AI-приложения, только без геморроя с серверами и оплатой токенов. Всё работает прямо на устройстве. Давайте разбираться:

Что такое Foundation Models
– Это большая языковая модель, та же, что лежит в основе Apple Intelligence (Siri работает на её мощах), только теперь доступна через специальный API.
– Модель полностью крутится на устройстве, не уходит в облако, работает быстро и приватно (только на новых чипах — A17, M1 и выше).
– Никаких ключей, серверов и подписок. Всё для девелоперов бесплатно.

Что умеет
– Генерировать текст, писать и переписывать, делать резюме, отвечать на вопросы, вести диалоги — всё как у GPT, но у тебя в приложении.
– Есть “guided generation” — можно управлять стилем и форматом вывода (например, просить отвечать только списком или в стиле Твиттера).
– Tool calling: модель сама может вызывать функции твоего приложения, если не может что-то сделать (например, подсчитать что-то, перевести валюту, отправить письмо). Просто регистрируешь функции и модель их использует по ситуации.
– Всё через Swift в 2–3 строчки кода и можно получить генеративный ответ.

Как это интегрировать
– Импортируешь Foundation Models framework, создаёшь запрос к модели, получаешь результат.
– Можно использовать для любого NLP-сценария: персональный ассистент, креативщик, анализатор контента, чат-бот, генерация квизов, написание статей и т.д.

Почему это важно
– Все данные пользователя остаются на устройстве. Можно сделать реально приватное AI-приложение, не объясняясь ни с кем про GDPR.
– Нет лимитов и затрат, твоя генерация бесплатная, хочешь миллион токенов в день? Пожалуйста.
– Есть поддержка tool calling — теперь можно делать AI-агентов, которые реально что-то делают, а не просто болтают.
– Интеграция максимально простая: реально любой, кто писал на Swift, разберётся.

Ограничения и детали
– Работает только на новых устройствах (iPhone 15 Pro+, iPhone 16, все Mac на M1+).
– Название модели не раскрывают (видимо, что-то около 10–20B параметров, сжато для Neural Engine).
– Если чего-то не хватает, можно “звать” внешнюю модель через API (тот же ChatGPT), Apple не ограничивает.

🔥21❤9👍4🤣1

hottg.com/ai_volution/1309

3.38K viewsСергей Пахандрин, Jun 11 at 12:03