Apple представила Foundation Models Framework для macOS

Foundation Models Framework — это новый нативный API на языке Swift, предназначенный для интеграции больших языковых моделей непосредственно в приложения для macOS. Инструмент позволяет разработчикам внедрять возможности ИИ с поддержкой локального выполнения на устройстве, а также использовать облачные вычисления через Private Cloud Compute.

Фреймворк обеспечивает работу с мультимодальными данными, включая функции понимания изображений. Одной из ключевых особенностей системы является поддержка Dynamic Profiles, которая позволяет пользователям переключаться между различными сессиями и конфигурациями моделей в рамках одного приложения. Для ускорения процесса разработки Apple также включила в состав пакета специализированный CLI-инструмент.

Решение ориентировано на создание приложений, требующих высокой приватности данных и минимальной задержки при обработке запросов. Использование нативного API позволяет разработчикам эффективнее управлять ресурсами системы при работе с LLM, обеспечивая более глубокую интеграцию с аппаратным обеспечением Apple Silicon.

Для практиков это означает упрощение процесса внедрения ИИ-функций в нативное ПО без необходимости использования сторонних библиотек. Инструментарий уже доступен для ознакомления в официальном центре разработчиков Apple.