Microsoft hat sich dazu entschieden, einen ersten Einblick in sein Windows AI Studio zu geben, eine Sammlung von Tools und Modellen aus Katalogen, einschließlich Azure AI Studio und Hugging Face. Der Haken ist jedoch, dass Linux benötigt wird, um es auszuführen.
Die Vorschau dieser Erweiterung ist jetzt verfügbar, um Ihnen einen Vorgeschmack auf das zu geben, was kommen wird. Die Visual Studio Code-Erweiterung erfordert Ubuntu 18.04 oder höher sowie das Windows Subsystem für Linux (WSL) zum Ausführen. Darüber hinaus läuft diese nur auf Nvidia GPUs.
Bei der Navigation durch die Funktionen der Erweiterung wurde klar, dass die Vision von Microsoft für die lokale generative KI-App-Entwicklung in der Vorschaufunktion noch ziemlich zusammengeschustert ist.
Nachdem wir alle Voraussetzungen erfüllt hatten, konnten wir den Fehler “GPU wird nicht erkannt” umgehen, indem wir einen Treiber von Nvidia herunterluden. Wir machten Ubuntu 18.04 zur Standard-Linux-Distribution in WSL und dem Studio und starteten schließlich das Programm.
Es stehen vier Aktionen zur Verfügung: Model Fine Tuning, RAG Project, Phi-2 Model Playground und Windows Optimized models. Microsoft hat die RAG Project und Phi-2 Model Playground als “Demnächst verfügbar!” gekennzeichnet, aber die lokale Feinabstimmung war durchaus unkompliziert.
Es gibt jedoch weitere Einschränkungen in Bezug auf Modelle – Benutzer können beispielsweise ihre eigenen nicht verwenden – obwohl Microsoft sagte, dass es “an der Erweiterung der Liste der Modelle” arbeite. Benutzer können die Erweiterung auch nicht in einer Azure GPU Virtual Machine ausführen, aufgrund der für WSL benötigten verschachtelten Virtualisierung.
Nachdem wir es jedoch einmal ins Laufen gebracht hatten – ohne allzu sehr von dem Pfad abzuweichen, den Microsoft in seinem Handbuch festgelegt hatte – funktionierte das Windows AI Studio gut. Wir führten einige Feinabstimmungen mit einem Hugging Face-Datensatz durch und kamen bis zum Punkt, an dem wir mit dem Modell anhand der bereitgestellten Beispiele chatten konnten.
Microsofts Behauptung, dass “der Einstieg in die KI-Entwicklung lokal auf Windows einfacher und schneller ist als je zuvor,” ist jedoch umstritten. Die Voraussetzungen sind etwas umständlich und einige bewegliche Teile im Hintergrund – nicht zuletzt das WSL – machen sich gelegentlich durch merkwürdige Fehler und Meldungen bemerkbar. Aber immerhin handelt es sich um eine Vorschau.
Es hat jedoch eine gewisse ironische Leckerbissen, dass die lokale KI-Entwicklung von Microsoft unter Windows Linux im Hintergrund erfordert. Windows wird immer noch für die Visual Studio Code-Erweiterung benötigt, aber auch das könnte sich ändern. Microsoft sagte: “Wir planen derzeit weitere Plattformunterstützung.”
