Как установить и запустить модели ИИ локально на вашем iPhone

Пока Apple все еще пытается разгадать код Apple Intelligence. Пришло время моделям ИИ работать локально на вашем устройстве для более быстрой обработки и улучшенной конфиденциальности. Благодаря революции DeepSeek. Теперь вы можете запускать более интеллектуальные модели ИИ локально на своем устройстве, включая мобильные устройства, такие как Android и iPhone.

Мы уже рассмотрели подробное руководство о том, как запустить DeepSeek R1 локально на Android и ПК. Поскольку Android очень гибок при использовании сторонних методов. Существует несколько методов для импорта, использования и запуска моделей локально на Android. Однако Apple строго относится к сторонним мерам, но все же, к счастью, в App Store есть приложения, которые позволяют вам устанавливать и запускать модели LocalAI локально на вашем iPhone.

Я использовал несколько приложений, и после тестирования вот три лучших приложения для запуска моделей ИИ локально на вашем iPhone. Эти модели также работают, даже если ваше устройство не поддерживает Apple Intelligence. Итак, если вы готовы, давайте начнем.

Как запустить модели ИИ локально на iPhone

Используя приложение PocketPal AI

Благодаря приложению PocketPal AI вы теперь можете запускать различные модели ИИ локально на вашем iPhone, включая локальную модель DeepSeek R1 и высококачественную модель 70B на вашем iPhone (однако ваш iPhone не поддерживает эту модель).

В отличие от метода Termux, который требует работы с терминалом, множеством команд и использования модели ИИ в интерфейсе командной строки, приложение PocketPal AI предлагает простой и удобный интерфейс для установки и запуска моделей локально на вашем iPhone, что делает его еще более подходящим для новичков, устанавливающих и использующих модели ИИ локально на своих устройствах. Приложение также доступно для Android. У нас есть подробное руководство, описывающее этот метод для Android. Для iPhone следуйте методу ниже.

Как использовать приложение PocketPal AI для запуска моделей ИИ локально на iPhone:

Шаг 1: Установите приложение PocketPal (бесплатно) из App Store. Откройте приложение PocketPal на вашем iPhone и нажмите на меню гамбургера.
Шаг 2: Нажмите на Модели.
Шаг 3: Нажмите на иконку плюса в правом нижнем углу экрана и коснитесь Добавить из Hugging Face.

Шаг 4: Используйте строку поиска ниже и выберите любую локальную модель ИИ для запуска. В этом руководстве я установил модель DeepSeek R1 1.5B. Шаг 5: Вы можете искать и устанавливать любую модель на ваш выбор.
Шаг 6: Нажмите на модель и нажмите кнопку загрузки рядом с ней.

Подождите, пока модель загрузится. После загрузки вернитесь на главный экран, выберите модель и нажмите Загрузить. Это загрузит модель в интерфейс чата. Теперь введите подсказку и нажмите ввод. Вы также можете отключить интернет-соединение, если это необходимо.

Скачать приложение

Используя приложение On Device

В качестве альтернативы приложение On-Device AI может устанавливать и запускать несколько моделей ИИ локально на ваших iPhone. Оно также поставляется с моделью, которая работает лучше, чем любая другая модель, поддерживаемая приложением. Однако есть некоторые проблемы с другими моделями. Вы все равно можете установить приложение и использовать бесплатную модель для большинства локальных задач ИИ на вашем iPhone.

Как использовать приложение On-Device AI для запуска моделей ИИ локально на iPhone:

Шаг 1: Установите приложение On-Device AI на ваш iPhone (1.8GB)
Шаг 2: Откройте приложение и нажмите на выбор модели ИИ.
Шаг 3: Из списка выберите модель и нажмите на загрузку. Подождите, пока приложение загрузит всю модель.

Шаг 4: Вернитесь на главный экран, нажмите на выбор модели и выберите загруженную вами модель.
Шаг 5: Введите подсказку. Если модель не работает, вы можете переключить ее или использовать модель по умолчанию. Пользовательский интерфейс не лучший из всех протестированных мною приложений.

Скачать приложение

Privacy AI Local LLM

Privacy AI Local LLM — еще одно приложение, которое позволяет вам запускать модели ИИ локально на вашем iPhone. Приложение специально разработано для пользователей iPhone, что означает, что оно оптимизировано для iPhone и Mac, что обеспечивает лучшую производительность, чем у остальных. Оно также поддерживает большие и мощные модели, такие как Llama 3, Google Gemma и Microsoft Phi-3.

Как использовать приложение Privacy AI Local LLM для запуска моделей ИИ локально на iPhone:

Шаг 1: Установите Privacy AI LLM из App Store.

Шаг 2: Откройте приложение. Если вы хотите перейти на премиум-доступ, нажмите на иконку короны, выберите план и обновите.

Шаг 3: Приложение предлагает StableLM-2 бесплатно в бесплатной версии. Чтобы использовать модель, нажмите на модель, и в всплывающем окне нажмите “Давайте начнем.”

Шаг 4: Это откроет новый интерфейс чата, где вы можете взаимодействовать с моделью, вводить подсказку и получать ответы. Поскольку модель работает локально на вашем устройстве, вы также можете отключить интернет-соединение.

Шаг 5: Чтобы загрузить более популярные и лучшие модели, вы можете разблокировать модель “Всегда бесплатно”, выбрать модель и нажать на иконку загрузки. Это загрузит модель. Чтобы использовать ее, нажмите на нее и следуйте той же процедуре.

В отличие от приложений PocketPal AI и On-device AI, которые обычно поддерживают более мелкие модели. Кроме того, приложение также позволяет вам настраивать ответы ИИ, регулируя такие параметры, как температура и системные подсказки.

Поскольку оно создано для iPhone, вы можете настроить Privacy AI Local LLM для работы с Siri и Apple Shortcuts, чтобы вы могли быстро задавать вопросы ИИ, не открывая приложение. Однако для использования более крупных моделей вам нужно подписаться на премиум-план, хотя я читал о одном плане; в моем случае все планы основаны на годовой подписке. После обновления приложения вы сможете получить доступ ко всем большим языковым моделям локально на вашем iPhone.

Кроме того, интерфейс приложения прост и удобен в использовании. Вы можете выбрать модель, получить интерфейс чата и взаимодействовать с моделью через текст. В зависимости от вашей модели оно также поддерживает голосовой режим, изображения для мультимодальности и многое другое.

Скачать приложение

Запуск моделей ИИ локально на iPhone

В отличие от Android, iPhone все еще работает в закрытой среде, что затрудняет использование сторонних функций; хотя существуют способы установки приложений, эти методы все еще не так просты, как на Android. Однако, используя вышеперечисленные методы, вы все равно можете загружать и запускать модели ИИ локально на вашем iPhone без каких-либо проблем. Эти методы просты в использовании, даже для новичков. У нас также есть подробное руководство по установке Deepsel r1 локально на вашем Mac, чтобы наслаждаться теми же высокими преимуществами, что и на вашем iPhone.

Часто задаваемые вопросы о запуске моделей ИИ локально на вашем iPhone

Могу ли я запускать большие модели ИИ локально на своем iPhone, такие как LLaMA 3 или GPT-4?

Большинство больших моделей, таких как LLaMA 3 (70B) или GPT-4, требуют высокопроизводительных графических процессоров и большого объема оперативной памяти. Мобильные устройства, включая iPhone, пока не могут запускать эти модели локально на устройстве. Однако вы можете перенести всю работу с вашего устройства, используя облачные модели, чтобы получить все преимущества этих мощных моделей, а также поддержку загрузки изображений, загрузки файлов и многое другое.

Быстро ли разряжается батарея моего iPhone при запуске моделей ИИ локально?

Да, запуск моделей ИИ действительно быстро разряжает батарею вашего iPhone, так как они требуют ресурсов и энергии для локальной работы на вашем устройстве. По нашим наблюдениям, время работы от батареи не так сильно зависит от мелких задач. Однако, если вы запускаете эти модели чаще, это может повлиять на время работы от батареи.

Нужен ли мне интернет для использования этих моделей ИИ локально?

Теперь, когда вы загрузили и установили модель локально, вам не нужно интернет-соединение для ее использования. Однако вам потребуется постоянное интернет-соединение для загрузки, часто в гигабайтах, чтобы загрузить и сохранить модели локально на вашем устройстве.

Какой минимальный модель iPhone требуется для запуска моделей ИИ локально?

Нет жестких ограничений для телефонов; однако, чем новее iPhone, тем лучше будет производительность благодаря улучшенным характеристикам. Однако предпочтительнее устройства iPhone 12 или новее для лучшей производительности.

Могу ли я установить свои собственные модели ИИ на этих приложениях?

Да, вы можете установить и использовать свои собственные модели ИИ на этих приложениях ИИ. PocketPal позволяет вам импортировать ваши локальные модели с вашего устройства и использовать их локально на вашем устройстве. Однако эти модели ИИ должны соответствовать определенным спецификациям, чтобы соответствовать требованиям для локальной работы на вашем устройстве.

Сколько места занимают модели ИИ на iPhone?

В общем, для небольших моделей (1B параметров) 1-2GB, средних моделей (7B параметров) 4-6GB и больших моделей (13B+ параметров) 10GB+ (часто не поддерживаются на iPhone).