Große Sprachmodelle wie GPT-4 oder Gemini benötigen erhebliche Rechenkapazitäten, die für viele kleine und mittlere Unternehmen nur schwer wirtschaftlich abzubilden sind. Genau hier setzen Small Language Models (SLMs) an: kompaktere KI-Modelle mit deutlich weniger Parametern, die je nach Modell und Anwendungsfall auf leistungsfähiger Standardhardware oder in einer vergleichsweise kleinen Cloud-Umgebung betrieben werden können.
Für kleine und mittlere Unternehmen eröffnet sich damit die Möglichkeit, künstliche Intelligenz für klar definierte Aufgaben einzusetzen, ohne eine eigene Infrastruktur aufbauen zu müssen, die mit den Rechenzentren großer Technologieunternehmen vergleichbar wäre.
Small Language Models umfassen je nach Definition Modelle mit deutlich weniger Parametern als die größten Large Language Models. Beispiele aus diesem Bereich sind unter anderem Microsofts Phi-Familie, kleinere Llama-Modelle, Mistral-Modelle oder Googles Gemma.
Die geringere Modellgröße bedeutet nicht automatisch schlechtere Ergebnisse. Bei klar abgegrenzten Aufgaben können kleinere Modelle ausreichend leistungsfähig sein. Dazu gehören beispielsweise Dokumentenanalyse, interne Wissenssuche, Klassifizierung von Texten oder die Vorbereitung von Kundenanfragen.
Ein wesentlicher Vorteil liegt darin, dass ein Modell gezielt auf einen bestimmten Anwendungsbereich abgestimmt werden kann. Dadurch kann ein kleineres Modell bei einer konkreten Aufgabe effizienter arbeiten als ein wesentlich größeres Modell, das für eine Vielzahl unterschiedlicher Aufgaben entwickelt wurde.
Viele mittelständische Unternehmen verfügen über umfangreiche interne Informationen, möchten diese aber nicht ohne Weiteres an externe Dienste übertragen. Dazu gehören beispielsweise technische Dokumentationen, Verträge, interne Prozesse oder Kundendaten.
Ein lokal oder innerhalb einer kontrollierten Unternehmensumgebung betriebenes Modell kann hier Vorteile bieten. Die Daten müssen nicht zwangsläufig für jede Anfrage an einen externen KI-Anbieter übertragen werden.
Auch die Kosten können eine Rolle spielen. Bei regelmäßigem Einsatz cloudbasierter Sprachmodelle entstehen nutzungsabhängige Gebühren. Bei einem lokal betriebenen Modell fallen dagegen zunächst Investitionen für Hardware und Einrichtung an, während die laufenden Kosten stärker von der eigenen Infrastruktur abhängen.
Die tatsächlichen Kosten müssen allerdings für jeden Anwendungsfall separat betrachtet werden. Stromverbrauch, Wartung, Hardware-Erneuerungen und personeller Aufwand gehören ebenfalls zur Gesamtbetrachtung.
SLMs eignen sich insbesondere für wiederkehrende sprachbasierte Aufgaben mit einem klar definierten Anwendungsbereich.
Dazu gehören beispielsweise:
Die Einsatzmöglichkeiten beschränken sich dabei nicht auf klassische Industrieunternehmen. Auch digitale Dienstleister und Plattformbetreiber können kleinere Sprachmodelle für interne Prozesse einsetzen. Ein Beispiel aus einer stark digitalisierten Branche ist Ice Casino Deutschland, bei dem sich grundsätzlich Anwendungsfälle wie automatisierte Supportprozesse oder die strukturierte Auswertung von Nutzeranfragen als mögliche Einsatzfelder für Sprachmodelle betrachten lassen.
Dabei ist die konkrete technische Eignung immer vom jeweiligen Prozess, den verfügbaren Daten und den Anforderungen an Datenschutz und Qualität abhängig.
Der Einstieg in SLMs erfordert keine eigene KI-Abteilung. Ein grundlegendes technisches Verständnis und eine geeignete Infrastruktur sind jedoch notwendig.
Für verschiedene quantisierte Modelle kann bereits ein leistungsfähiger Rechner oder Server mit einer modernen Grafikkarte ausreichend sein. Werkzeuge wie Ollama, LM Studio oder llama.cpp vereinfachen die lokale Ausführung vieler Modelle.
Für den Zugriff auf unternehmenseigene Informationen kommen unter anderem Verfahren wie Retrieval Augmented Generation (RAG) zum Einsatz. Dabei wird das Sprachmodell mit relevanten Informationen aus internen Datenquellen versorgt, ohne dass diese Informationen zwangsläufig Bestandteil des eigentlichen Modelltrainings werden müssen.
Unternehmen sollten nicht versuchen, sämtliche Prozesse gleichzeitig mit KI zu automatisieren. Sinnvoller ist es, zunächst einen konkreten Anwendungsfall auszuwählen.
Dafür können beispielsweise folgende Fragen gestellt werden:
Anschließend können verschiedene Modelle miteinander verglichen werden. Erst wenn ein Pilotprojekt einen nachvollziehbaren Nutzen zeigt, sollte über einen breiteren Einsatz nachgedacht werden.
SLMs sind keine universellen Ersatzlösungen für große Sprachmodelle. Bei komplexen Aufgaben mit umfangreichem Kontext können größere Modelle deutlich leistungsfähiger sein.
Auch kleinere Modelle können sogenannte Halluzinationen erzeugen, also überzeugend formulierte, aber falsche Informationen. Deshalb sollte insbesondere bei geschäftskritischen Anwendungen eine menschliche Kontrolle vorgesehen werden.
Hinzu kommen Wartung, Aktualisierung und Qualitätssicherung. Ein lokal betriebenes Modell ist nicht automatisch wartungsfrei. Auch die zugrunde liegenden Daten müssen gepflegt und regelmäßig überprüft werden.
Small Language Models können den Zugang zu künstlicher Intelligenz für Unternehmen vereinfachen, die keine umfangreiche eigene Recheninfrastruktur aufbauen möchten. Besonders bei klar definierten Aufgaben können kleinere Modelle eine interessante Alternative zu ausschließlich cloudbasierten Lösungen darstellen.
Sie ersetzen große Modelle nicht in jedem Anwendungsfall. Ihre Stärke liegt vielmehr darin, bestimmte Aufgaben effizient, kontrolliert und mit überschaubaren technischen Anforderungen zu bearbeiten.
Für viele Unternehmen dürfte deshalb weniger die Frage entscheidend sein, welches Modell insgesamt das leistungsfähigste ist. Wichtiger ist, welches Modell für den jeweiligen Prozess ausreichend gute Ergebnisse liefert und sich wirtschaftlich, technisch und organisatorisch sinnvoll betreiben lässt.
w-wie-weihnachten.de © 2025 — Eine Plattform der MLK Digital Ltd.
w-wie-weihnachten.de © 2025 – Eine Plattform der
MLK Digital Ltd.
