Kleine Modelle, eigene Daten: Wie KMU mit KI unabhängig bleiben

Offerten, Kundendaten, interne Abläufe: Möchte man das wirklich in eine fremde Cloud hochladen, um KI zu nutzen? Kleine Sprachmodelle zeigen, dass es auch anders geht. Sie laufen lokal, sind sparsam im Betrieb und lassen sich auf die eigenen Bedürfnisse anpassen, sodass KMU die Kontrolle über ihre Daten behalten.

Das effizienteste Modell für einen bestimmten Zweck

ChatGPT hat die Möglichkeiten von KI eindrucksvoll demonstriert, doch für viele Unternehmen entsteht ein Dilemma: Während die Technologie beeindruckt, wächst die Skepsis gegenüber dem Datenschutz. Ein Industriebertrieb möchte beispielsweise Kalkulationen und Kundenprojekte automatisieren, oder ein Treuhandbüro nutzt KI zur Dokumentenanalyse. Beiden ist jedoch bewusst: Das Vertrauen in externe Cloud-Anbieter kann riskant sein, wenn hochsensible Geschäftsgeheimnisse die eigene Infrastruktur verlassen müssen.

Während grosse Sprachmodelle als digitale Alleskönner fungieren, agieren Small Language Models (SLMs) [1] eher als präzise Spezialisten. Sie verfügen über deutlich weniger Parameter und sind daher darauf optimiert, spezifische Aufgaben hocheffizient zu lösen. Ein entscheidender Vorteil ist die Hardware-Anforderung: SLMs passen auf einen gewöhnlichen Server oder sogar einen leistungsstarken Laptop. Ein passender Vergleich hilft beim Verständnis: Für den täglichen Transport kleinerer Waren benötigt man keinen riesigen Lastwagen; hier ist ein wendiger Lieferwagen oft viel effizienter und praktischer.

Selbstbestimmung, auch bei der KI

Digitale Souveränität bedeutet für Unternehmen vor allem Selbstbestimmung: Es geht darum, genau zu kontrollieren, wo eigene Daten liegen, wer Zugriff darauf hat und von welchen Anbietern man technisch abhängig ist. Für KMU ist das keine abstrakte Geopolitik, sondern eine pragmatische Notwendigkeit. Wer die Kontrolle verliert, gerät bei Änderungen der Datenschutzbestimmungen, bei Preissteigerungen oder Lizenzänderungen externer Cloud-Anbieter in einen unkontrollierbaren Handlungsspielraum. Souveränität schützt somit das eigene Geschäftsmodell vor fremder Abhängigkeit. Angesichts möglicher kommender Regulierungen, wie etwa dem EU AI Act, bietet die Nutzung lokaler Modelle zudem den entscheidenden Vorteil der Compliance: Wer die volle Kontrolle über seine KI-Systeme behält, kann regulatorische Anforderungen wesentlich einfacher und proaktiv erfüllen.

Potenziale und Limitationen von kleinen Modellen

Ein entscheidender Vorteil von SLMs ist der lokale Betrieb: Wenn die Daten das Unternehmen nie verlassen, bleibt der Schutz hochsensibler Informationen gewährleistet – zudem funktioniert die KI selbst ohne Internetverbindung zuverlässig. Im Vergleich zu riesigen Modellen sind SLMs deutlich kostengünstiger im Betrieb und verbrauchen weniger Energie, da sie für spezifische Aufgaben optimiert sind. Ein weiterer Pluspunkt ist die Transparenz: Da viele moderne Modelle als Open Source oder unter offenen Lizenzen verfügbar sind – wie etwa Mistral, Gemma oder das Schweizer Modell Apertus [2] -, müssen Unternehmen nicht blind einer „Blackbox“ vertrauen. Man kann nachvollziehen, welche Version genau aktiv ist und teilweise, was genau die Trainingsdaten waren, was die Grundlage für eine verantwortungsvolle und kontrollierbare Nutzung der Technologie bildet.

Ein kleines Modell lässt sich auf die eigene Fachsprache, spezifische Dokumente oder interne Abläufe trainieren oder anbinden. So kann ein Modell im Industriebetrieb für die Beantwortung technischer Garantieanfragen optimiert werden, während ein Treuhandbüro ein SLM nutzt, um komplexe Rapporte konsistent nach eigenen Vorlagen zusammenzufassen. Auch im Kundensupport oder bei der Analyse von Prüfprotokollen ermöglichen sie so hochspezialisierte und zuverlässige KI-gestützte Prozesse.

SLMs sind keine Alleskönner: Bei komplexen oder abstrakten Aufgaben bleiben grosse Modelle weiterhin überlegen. Zudem erfordert der Betrieb von SLMs ein gewisses technisches Know-how bei der Einrichtung und Wartung – eine Hürde, die viele KMU im Alltag vor Herausforderungen stellt.

Fazit

Nicht das grösste Modell ist zwangsläufig das beste, sondern das für den spezifischen Zweck am besten geeignete. Während Giganten beeindrucken mögen, bieten kleine Modelle einen entscheidenden Vorteil: Sie ermöglichen es KMU, die enormen Möglichkeiten der künstlichen Intelligenz voll auszuschöpfen, ohne dabei die Kontrolle über ihre Daten oder ihre digitale Souveränität abzugeben.

Tomyra AI [3], ein Spin-Off der Berner Fachhochschule, unterstützt KMUs und andere Organisationen bei diesem Schritt. Tomyra AI ist eine KI-Umgebung für Organisationen, die mit Klientendaten, Akten oder Geschäftsgeheimnissen arbeiten. Das Modell läuft in einer isolierten Umgebung, in der Schweiz oder direkt bei der Organisation. Die KI kommt zu den Daten, statt umgekehrt. Die Organisationen werden ausserdem dabei unterstützt, ihre Prozesse mit KI so zu gestalten, dass sie den besten Nutzen haben und die nötigen Skills in ihren Teams aufbauen können.

Referenzen

[1] weitergehende Literatur zum Thema: https://learning.oreilly.com/library/view/hands-on-small-language/0642572259877/

[2] https://www.apertus-ai.org/

[3] https://tomyra.ai