- AI-Trend mit Fokus auf KI-generierten Texten.
- 67,2% der Unternehmen geben an, dass Einführung von großen Sprachmodellen bis 2024 oberste Priorität hat.
- Giga ML bietet Plattform für lokalen Einsatz von LLMs, um Kosten zu senken und Privatsphäre zu wahren.
- Studie zeigt, dass 77% der Unternehmen Bedenken hinsichtlich Datenschutz, Kosten und Anpassungsfähigkeit bei kommerziellen LLMs haben.
- Giga ML hat bisher 3,74 Millionen Dollar an Risikokapital eingeworben und plant weiteres Wachstum und Produktentwicklung.
AI ist derzeit im Trend – insbesondere KI-generierte Texte, auch bekannt als große Sprachmodelle (denkt hier an Modelle in einer ähnlichen Linie wie GPT-3). In einer kürzlichen Umfrage von ~1.000 Unternehmen gaben 67,2% an, dass die Einführung großer Sprachmodelle (LLMs) bis Anfang 2024 oberste Priorität hat. Aber es gibt auch Hindernisse. Demnach verhindern ein Mangel an Anpassungsfähigkeit und Flexibilität in Verbindung mit der Unfähigkeit, das Wissen und das geistige Eigentum eines Unternehmens zu bewahren, viele Unternehmen daran, LLMs in Produktion einzusetzen. Dies hat Varun Vummadi und Esha Manideep Dinne dazu veranlasst, sich Gedanken darüber zu machen, welche Lösungen für die Herausforderungen bei der Einführung von LLMs in Unternehmen möglich wären. Auf der Suche nach einer Lösung gründeten sie Giga ML, ein Startup, das eine Plattform entwickelt, auf der Unternehmen LLMs lokal einsetzen können, um Kosten zu senken und die Privatsphäre zu wahren. „Datenschutz und die Anpassung von LLMs sind einige der größten Herausforderungen, denen sich Unternehmen bei der Einführung von LLMs zur Problemlösung gegenübersehen“, erklärte Vummadi in einem E-Mail-Interview mit TechCrunch. „Giga ML adressiert beide Herausforderungen.“ Die Plattform bietet ihre eigenen LLMs der „X1-Serie“ für Aufgaben wie das Generieren von Code und das Beantworten häufig gestellter Kundenfragen an. Das Startup behauptet, dass die Modelle, die auf Meta’s AI Megatron aufbauen, bestimmte Benchmarks übertreffen, insbesondere den test set für Dialoge. Aber es ist schwierig zu sagen, wie sich X1 qualitativ im Vergleich zu anderen Modellen schlägt. Selbst wenn die Modelle von Giga ML in einigen Aspekten überlegen sind, bleibt die Frage, ob sie wirklich in einem Markt Fuß fassen können, der bereits von etablierten Größen dominiert wird. In meinen Gesprächen mit Vummadi hatte ich den Eindruck, dass es Giga ML weniger darum geht, die leistungsstärksten LLMs zu entwickeln, sondern vielmehr darum, Tools zu schaffen, die es Unternehmen ermöglichen, LLMs lokal anzupassen, ohne auf Ressourcen und Plattformen von Drittanbietern angewiesen zu sein. „Die Mission von Giga ML ist es, Unternehmen dabei zu helfen, LLMs sicher und effizient auf ihrer eigenen lokalen Infrastruktur oder in einer virtuellen privaten Cloud bereitzustellen“, so Vummadi. „Giga ML vereinfacht den Prozess des Trainings, der Feinabstimmung und des Betriebs von LLMs durch eine benutzerfreundliche API und beseitigt jegliche damit verbundenen Probleme.“ Vummadi betonte die Vorteile in Sachen Datenschutz durch den Offline-Betrieb von Modellen – Vorteile, die für einige Unternehmen überzeugend sein dürften. Eine Studie von Predibase, einer Low-Code KI-Entwicklungsplattform, ergab, dass weniger als ein Viertel der Unternehmen bereit ist, kommerzielle LLMs zu verwenden, da Bedenken hinsichtlich der Weitergabe sensibler oder proprietärer Daten an Anbieter bestehen. Fast 77% der Befragten gaben an, dass sie kommerzielle LLMs entweder nicht nutzen oder nicht planen, über Prototypen hinaus in der Produktion einzusetzen. Dies liegt an Bedenken hinsichtlich Datenschutz, Kosten und mangelnder Anpassungsfähigkeit. Falls Giga ML die Kundenbasis weiter ausbauen möchte, ist ein Teil des eingesammelten Kapitals dafür vorgesehen, wie Vummadi erklärt hat. Zum aktuellen Zeitpunkt zählen “Unternehmen” aus den Bereichen Finanzen und Gesundheitswesen zu den Kunden. Giga ML konnte bisher etwa 3,74 Millionen Dollar an Risikokapital von Nexus Venture Partners, Y Combinator, Liquid 2 Ventures, 8vdx und mehreren anderen einwerben. Langfristig plant das Unternehmen, sein Zwei-Personen-Team weiter auszubauen und die Produktentwicklung voranzutreiben.