Wie Ihr Smartphone bald noch schlauer wird
Stellen Sie sich vor, Ihr Smartphone würde mit der Zeit immer klüger und könnte sich besser an Sie anpassen. Dank der Technik PockEngine ist das nun möglich.
Entwickelt von Forschern des MIT und anderen Institutionen, ermöglicht die PockEngine-Technik es maschinellen Lernalgorithmen, effizient und kontinuierlich direkt auf Ihrem Gerät zu lernen.
Diese personalisierten Deep-Learning-Modelle können beispielsweise KI-Chatbots so anpassen, dass sie den Akzent eines Benutzers verstehen. Oder intelligente Tastaturen weiterentwickeln, die basierend auf der bisherigen Eingabehistorie des Nutzers immer bessere Wortvorhersagen treffen können.
Doch um diese ständige Anpassungsfähigkeit zu gewährleisten, ist eine fortlaufende Feinabstimmung der Algorithmen mit neuen Daten erforderlich.
Energieeffizienz trifft Datensicherheit
Bisher war dieses Fine-Tuning jedoch nur unter erheblichen Einschränkungen möglich. Denn Smartphones und andere Edge-Geräte verfügen nicht über die notwendige Speicherkapazität und Rechenleistung für diesen Prozess.
Daher wurden die Nutzerdaten in der Regel zur Aktualisierung des Modells auf Cloud-Server hochgeladen. Ein Vorgang, der viel Energie verbraucht und zudem Sicherheitsrisiken birgt.
Hier setzt PockEngine an. Die Methode ermöglicht es, dass Deep-Learning-Modelle sich effizient an neue Sensordaten direkt auf dem Edge-Gerät selbst anpassen können.
Wie funktioniert das Ganze?
PockEngine ermittelt dabei, welche Teile eines umfangreichen maschinellen Lernmodells aktualisiert werden müssen, um deren Genauigkeit zu verbessern. Es speichert und berechnet nur diese spezifischen Bereiche und führt den Grossteil dieser Berechnungen während der Vorbereitungsphase des Modells durch.
Also vor dessen tatsächlicher Nutzung: Dies minimiert den Rechenaufwand und beschleunigt den Feinabstimmungsprozess erheblich. Verglichen mit anderen Methoden hat PockEngine das On-Device-Training deutlich beschleunigt.
Und das Beste: Es wurden keinerlei Einbussen bei der Genauigkeit der Modelle festgestellt. In Zukunft wollen die Forscher PockEngine nutzen, um noch grössere Modelle zu optimieren, die Texte und Bilder gemeinsam verarbeiten können.
