Apple разрабатывает локальное ИИ-приложение Harbor

Компания Apple ведет разработку нового приватного приложения под названием Harbor. Программное обеспечение предназначено для превращения компьютеров Mac в локальные серверы инференса без необходимости отправки данных в облако.

Согласно утечке, архитектура приложения использует интерфейс Thunderbolt 5 для кластеризации нескольких устройств. Такой подход позволяет объединять оперативную память компьютеров для запуска крупных моделей.

Проект ориентирован на локальную обработку запросов и сохранение конфиденциальности пользовательской информации при работе с тяжелыми нейросетями.

Инструмент предоставляет разработчикам и продвинутым пользователям возможность развертывать масштабные языковые модели на собственном «железе», используя аппаратные мощности экосистемы Apple.