Google startet Entwickler-Vorschau von TensorFlow Lite für maschinelles Lernen auf mobilen Geräten

Google kündigt Entwickler-Vorschau von TensorFlow Lite an

TensorFlow Lite für maschinelles Lernen auf mobilen Geräten wurde erstmals von Dave Burke, VP für Engineering von Android, auf der Google I/O 2017 angekündigt. TensorFlow Lite ist eine leichtgewichtige Version von Googles TensorFlow Open-Source-Bibliothek, die hauptsächlich von Forschern und Entwicklern für maschinelles Lernen verwendet wird.

Jetzt hat der Suchgigant die Entwickler-Vorschau eines neuen maschinellen Lernwerkzeugs veröffentlicht, das speziell für Smartphones und eingebettete Geräte entwickelt wurde und sowohl für Android- als auch für iOS-App-Entwickler verfügbar sein wird. Diese Plattform ermöglicht es Entwicklern, KI auf mobilen Geräten bereitzustellen. Sie ermöglicht die Inferenz von maschinellem Lernen auf dem Gerät mit geringer Latenz und einer kleinen Binärgröße. TensorFlow Lite unterstützt auch die Hardwarebeschleunigung mit der Android Neural Networks API.

„Wie Sie vielleicht wissen, unterstützt TensorFlow bereits die mobile und eingebettete Bereitstellung von Modellen über die TensorFlow Mobile API“, schrieb das TensorFlow-Team heute in einem Blogbeitrag. „In Zukunft sollte TensorFlow Lite als die Evolution von TensorFlow Mobile angesehen werden, und während es reift, wird es die empfohlene Lösung für die Bereitstellung von Modellen auf mobilen und eingebetteten Geräten werden. Mit dieser Ankündigung wird TensorFlow Lite als Entwickler-Vorschau verfügbar gemacht, und TensorFlow Mobile bleibt weiterhin zur Unterstützung von Produktionsanwendungen vorhanden.“

Burke merkt an, dass dies ein „entscheidender Schritt zur Ermöglichung der hardwarebeschleunigten Verarbeitung von neuronalen Netzwerken im vielfältigen Silizium-Ökosystem von Android“ ist.

TensorFlow Mobile ermöglicht es Entwicklern, TensorFlow-Modelle zu integrieren, die in einer Desktop-Umgebung funktionieren, auf mobilen Geräten. Anwendungen, die mit TensorFlow Lite erstellt wurden, werden jedoch leichter und schneller sein als ähnliche Anwendungen, die TensorFlow Mobile verwenden. Allerdings werden derzeit nicht alle Anwendungsfälle von TensorFlow Lite unterstützt.

„TensorFlow lief schon immer auf vielen Plattformen, von Server-Racks bis hin zu winzigen IoT-Geräten, aber mit der exponentiellen Zunahme der Nutzung von Modellen für maschinelles Lernen in den letzten Jahren ist auch der Bedarf gestiegen, sie auf mobilen und eingebetteten Geräten bereitzustellen“, schrieb das TensorFlow-Team.

Es gibt drei Modelle, die bereits für mobile Geräte trainiert und optimiert wurden.

MobileNet: Eine Klasse von Sichtmodellen, die in der Lage sind, über 1000 verschiedene Objektklassen zu identifizieren, speziell für eine effiziente Ausführung auf mobilen und eingebetteten Geräten entwickelt.

Inception v3: Ein Bildverarbeitungsmodell, das in der Funktionalität MobileNet ähnlich ist, aber eine höhere Genauigkeit bietet, jedoch auch eine größere Größe hat.

Smart Reply: Ein konversationelles Modell auf dem Gerät, das Ein-Touch-Antworten auf eingehende konversationelle Chat-Nachrichten bereitstellt. Erstanbieter- und Drittanbieter-Messaging-Apps nutzen diese Funktion auf Android Wear.

TensorFlow Lite wurde von Grund auf neu gestaltet, um sich auf drei Bereiche zu konzentrieren:

• Leichtgewichtig: Ermöglicht die Inferenz von maschinellen Lernmodellen auf dem Gerät mit einer kleinen Binärgröße und schneller Initialisierung/Start.

• Plattformübergreifend: Eine Laufzeitumgebung, die auf vielen verschiedenen Plattformen ausgeführt werden kann, beginnend mit Android und iOS.

• Schnell: Optimiert für mobile Geräte, einschließlich dramatisch verbesserter Modellladezeiten und Unterstützung für Hardwarebeschleunigung.

„Mit dieser Entwickler-Vorschau haben wir absichtlich mit einer eingeschränkten Plattform begonnen, um die Leistung bei einigen der wichtigsten gängigen Modelle sicherzustellen“, heißt es in einem Beitrag des TensorFlow-Teams. „Wir planen, die zukünftige funktionale Erweiterung basierend auf den Bedürfnissen unserer Benutzer zu priorisieren. Die Ziele für unsere kontinuierliche Entwicklung sind die Vereinfachung der Entwicklererfahrung und die Ermöglichung der Modellbereitstellung für eine Reihe von mobilen und eingebetteten Geräten.“

Das TensorFlow Lite Entwickler-Toolkit ist jetzt in Vorschauform auf GitHub verfügbar, zusammen mit Codebeispielen und Demoanwendungen. Für diejenigen, die mehr über TensorFlow Lite erfahren möchten, können die Dokumentation hier einsehen.

Quelle: 9TO5Google