Google запускает предварительный просмотр разработчика TensorFlow Lite для машинного обучения на мобильных устройствах

Google объявляет о предварительном просмотре разработчика TensorFlow Lite

TensorFlow Lite для машинного обучения на мобильных устройствах был впервые объявлен Дэйвом Бёрком, вице-президентом по инженерии Android на Google I/O 2017. TensorFlow Lite — это облегченная версия открытой библиотеки TensorFlow от Google, которая в основном используется для приложений машинного обучения исследователями и разработчиками.

Теперь поисковый гигант запустил предварительный просмотр нового набора инструментов машинного обучения, разработанного специально для смартфонов и встроенных устройств, который будет доступен как для разработчиков приложений Android, так и для iOS. Эта платформа позволит разработчикам развертывать ИИ на мобильных устройствах. Она обеспечивает выполнение машинного обучения на устройстве с низкой задержкой и небольшим размером бинарного файла. TensorFlow Lite также поддерживает аппаратное ускорение с помощью API нейронных сетей Android.

«Как вы, возможно, знаете, TensorFlow уже поддерживает мобильное и встроенное развертывание моделей через API TensorFlow Mobile», — написала команда TensorFlow в блоге сегодня. «В дальнейшем TensorFlow Lite следует рассматривать как эволюцию TensorFlow Mobile, и по мере его развития он станет рекомендуемым решением для развертывания моделей на мобильных и встроенных устройствах. С этим объявлением TensorFlow Lite доступен в виде предварительного просмотра для разработчиков, а TensorFlow Mobile по-прежнему поддерживает производственные приложения.»

Бёрк отмечает, что это «критический шаг к обеспечению аппаратного ускорения обработки нейронных сетей в разнообразной экосистеме кремниевых чипов Android».

TensorFlow Mobile позволяет разработчикам интегрировать модели TensorFlow, которые работают в настольной среде, на мобильных устройствах. Однако приложения, созданные с использованием TensorFlow Lite, будут легче и быстрее, чем аналогичные приложения, использующие TensorFlow Mobile. Хотя в настоящее время не все случаи использования поддерживаются TensorFlow Lite.

«TensorFlow всегда работал на многих платформах, от стоек серверов до крошечных IoT-устройств, но с ростом популярности моделей машинного обучения за последние несколько лет возросла и необходимость развертывания их на мобильных и встроенных устройствах», — написала команда TensorFlow.

Существуют три модели, которые уже обучены и оптимизированы для мобильных устройств.

MobileNet: Класс моделей зрения, способных идентифицировать 1000 различных классов объектов, специально разработанный для эффективного выполнения на мобильных и встроенных устройствах.

Inception v3: Модель распознавания изображений, функционально аналогичная MobileNet, которая предлагает более высокую точность, но также имеет больший размер.

Smart Reply: Модель для ведения беседы на устройстве, которая предоставляет однонажатийные ответы на входящие сообщения чата. Первичные и сторонние приложения для обмена сообщениями используют эту функцию на Android Wear.

TensorFlow Lite был переработан с нуля, чтобы сосредоточиться на трех областях:

• Легковесность: Позволяет выполнять вывод моделей машинного обучения на устройстве с небольшим размером бинарного файла и быстрой инициализацией/запуском.

• Кроссплатформенность: Среда выполнения, предназначенная для работы на многих различных платформах, начиная с Android и iOS.

• Скорость: Оптимизирован для мобильных устройств, включая значительно улучшенные времена загрузки моделей и поддержку аппаратного ускорения.

«С этим предварительным просмотром разработчика мы намеренно начали с ограниченной платформы, чтобы обеспечить производительность на некоторых из самых важных общих моделей», — говорится в посте, написанном командой TensorFlow. «Мы планируем приоритизировать будущее функциональное расширение на основе потребностей наших пользователей. Цели нашего дальнейшего развития — упростить опыт разработчика и обеспечить развертывание моделей для ряда мобильных и встроенных устройств.»

Набор инструментов разработчика TensorFlow Lite теперь доступен в предварительной версии на GitHub, вместе с примерами кода и демонстрационными приложениями. Для тех, кто хочет узнать больше о TensorFlow Lite, можно ознакомиться с документацией здесь.

Источник: 9TO5Google