Large Language Model: was ein LLM kann und was nicht

Ein Large Language Model (LLM), auf Deutsch großes Sprachmodell, ist ein neuronales Netz, das auf sehr großen Textmengen trainiert wurde und daraus gelernt hat, Sprache fortzusetzen. Es sagt voraus, welche Wortbausteine am wahrscheinlichsten folgen, und erzeugt so Antworten, Zusammenfassungen, Übersetzungen oder Programmcode.

Large Language Model: die Technik dahinter

Grundlage fast aller heutigen Sprachmodelle ist die Transformer-Architektur. Ihr zentraler Mechanismus, die sogenannte Attention, erlaubt es dem Modell, beim Erzeugen jedes Wortes alle bisherigen Wörter der Eingabe zu gewichten. Dadurch erfasst es Bezüge über lange Texte hinweg: welches „er“ sich auf welchen Kunden bezieht, welche Klausel ein Vertrag drei Absätze später einschränkt.

Das Training läuft in zwei Stufen. Zuerst lernt das Modell aus Rohtext, Sprache fortzusetzen. Danach wird es mit Beispielen und menschlichen Bewertungen darauf ausgerichtet, Anweisungen zu befolgen und brauchbare Antworten zu geben. Erst diese zweite Stufe macht aus einem Textvervollständiger einen Assistenten – und sie erklärt auch, warum ein Modell lieber antwortet als schweigt.

Token, Kontextfenster, Parameter

• Token: Das Modell arbeitet nicht mit Wörtern, sondern mit Wortbausteinen. Ein deutsches Wort entspricht grob ein bis drei Token. Anbieter rechnen nach Token ab, daher bestimmt die Länge von Eingabe und Antwort den Aufwand je Aufruf.
• Kontextfenster: die Menge an Token, die das Modell gleichzeitig verarbeiten kann – Anweisung, Dokumente und bisheriger Dialog zusammen. Was nicht ins Fenster passt, existiert für das Modell nicht.
• Parameter: die gelernten Gewichte des Netzes, gezählt in Milliarden. Mehr Parameter bedeuten meist mehr Fähigkeiten, aber auch mehr Rechenbedarf. Kleine Modelle laufen auf einem einzelnen Server, große nur im Rechenzentrum.

Was ein LLM gut kann

Sprachmodelle sind stark bei allem, was sich als Aufgabe von Text zu Text beschreiben lässt:

• Zusammenfassen und Umformulieren – Protokolle, Ticketverläufe, Verträge.
• Strukturierte Daten aus Freitext ziehen – Rechnungspositionen, Adressen, Fristen.
• Einordnen – welche Abteilung, welche Dringlichkeit, welches Thema.
• Übersetzen und Lokalisieren, auch von Software-Oberflächen.
• Programmcode schreiben, erklären und prüfen.

Der Nutzen zeigt sich bei großen Mengen gleichförmiger Arbeit. In einem eigenen Vorhaben wurden 8 677 Oberflächentexte einer Anwendung in rund einer Stunde Arbeitszeit übersetzt und eingebaut – eine Aufgabe, die ohne Modell Tage kostet.

Was ein LLM nicht kann

Ein Large Language Model rechnet nicht, es schätzt. Es hat keinen Zugriff auf aktuelle oder interne Daten, es sei denn, man gibt sie ihm mit – der Weg über Retrieval-Augmented Generation. Es kann Fakten erfinden, die plausibel klingen; das Problem der Halluzinationen bei Sprachmodellen lässt sich eindämmen, aber nicht abschalten. Und es ist nicht deterministisch: Dieselbe Frage kann zweimal leicht unterschiedlich beantwortet werden.

Auch Wissen hat ein Datum. Das Modell kennt nur den Stand seiner Trainingsdaten; neue Gesetze, neue Produkte, neue Preise sind ihm unbekannt, bis man sie mitliefert. Ein Gedächtnis über den einzelnen Aufruf hinaus hat es ebenfalls nicht – was es sich merken soll, speichert ein System außerhalb des Modells und legt es beim nächsten Mal wieder vor. Für Aufgaben, bei denen ein einziger Fehler teuer ist – und dazu zählt fast alles mit Rechtsfolge – – Buchungen, Vertragsfristen, medizinische Angaben –, braucht ein Modell deshalb immer eine Prüfinstanz.

Offene und geschlossene Modelle

• Betrieb: geschlossene Modelle laufen beim Anbieter, offene auf eigenen Servern oder bei einem Hoster in der EU.
• Datenfluss: dort verlassen die Daten das Unternehmen, hier bleiben sie im Haus.
• Fähigkeiten: geschlossene Modelle liegen meist an der Spitze, offene reichen für viele Aufgaben aus.
• Aufwand: dort je Token, hier für Hardware und Betrieb, unabhängig vom Volumen.
• Anpassung: dort Anweisung und teils Nachtraining, hier volle Kontrolle bis zum eigenen Fine-Tuning.

In der Praxis läuft oft beides nebeneinander: ein offenes Modell auf eigener Hardware für Routineaufgaben mit sensiblen Daten, ein geschlossenes für schwierige Fälle mit unkritischem Inhalt. Für die Umwandlung von Sprachaufnahmen in Text etwa genügt ein eigenes Modell.

Large Language Model im Unternehmen

Der Einstieg beginnt selten mit dem Modell, sondern mit dem Prozess: Wo lesen, sortieren oder schreiben Mitarbeiter täglich das Gleiche? Dort wird ein Modell mit klar begrenzter Aufgabe eingesetzt, sein Ergebnis eine Zeit lang gegen die menschliche Arbeit geprüft und erst dann in den Ablauf übernommen. Genau so gehen wir vor – und sagen dazu, wo unser Tempo herkommt: bei umfangreicher, gleichförmiger Arbeit aus KI-gestützten Werkzeugen, bei Architekturfragen aus der Erfahrung des Entwicklers. Wie man ein Modell anweist, beschreibt der Artikel Prompt Engineering; die Auswahl von Modell, Betriebsform und Schutzmaßnahmen gehört zur KI-Beratung für den Mittelstand.