Abnahme eines KI-Systems: wann ein stochastisches Werk als erbracht gilt

Die Abnahme nach § 640 BGB verlangt eine Erklärung darüber, dass ein Werk vertragsgemäß ist — auch dann, wenn dieses Werk ein System mit wahrscheinlichkeitsbasierter Ausgabe ist. Genau daran scheitern KI-Vorhaben: Was ein Modell tut, lässt sich beobachten, aber nicht durch einen einzigen Blick bestätigen.

Wann ein stochastisches System ein Werk ist

Juristisch ist ein Werk jeder herbeigeführte Erfolg, nicht nur ein körperlicher Gegenstand. Die Schwierigkeit bei Sprachmodellen liegt daher nicht im Begriff, sondern im Maßstab: Derselbe Eingabetext kann zweimal leicht verschiedene Antworten erzeugen, und ob eine Antwort brauchbar ist, entscheidet häufig das Urteil eines Fachmitarbeiters. Ein Erfolg, der sich nur im Einzelfall beurteilen lässt, ist kein prüfbarer Erfolg.

Aus dieser Lage folgt eine Umstellung im Vertrag. Geschuldet wird nicht die Ausgabe eines einzelnen Aufrufs, sondern ein nachprüfbarer Zustand des Gesamtsystems: dass die Fachanwendung die Ergebnisse übernimmt, dass unsichere Fälle den vereinbarten Weg zu einem Menschen nehmen, dass jede Entscheidung mit ihrer Begründung nachvollziehbar bleibt. Das Modell ist darin ein austauschbares Bauteil. Den allgemeinen Rahmen dieser Vertragsform beschreibt der Artikel Werkvertrag.

Was die Abnahme rechtlich auslöst

§ 640 BGB verpflichtet den Besteller, ein vertragsgemäßes Werk zu billigen. An diesem Akt hängen vier Folgen, und sie treten gemeinsam ein.

• Vergütung. Der Zahlungsanspruch wird fällig (§ 641 BGB) — vorher nicht, unabhängig davon, wie viel Aufwand bereits geflossen ist.
• Risiko. Die Gefahr für das Werk geht auf den Besteller über (§ 644 BGB); eine spätere Störung im Betrieb wirft das Vorhaben nicht in die Bauzeit zurück.
• Beweislast. Sie kehrt sich um: Ab diesem Tag muss der Besteller den Mangel zeigen, nicht der Unternehmer die Mangelfreiheit.
• Verjährung. Die Fristen für Mängelansprüche setzen ein (§ 634a BGB), und zwar für das gebilligte System in seinem protokollierten Stand.

Für KI-Vorhaben hat der letzte Punkt eine eigene Schärfe. Ein System verhält sich mit neuen Daten anders als am Prüftag, und Anbieter tauschen ihre Basismodelle aus. Wer dazu nichts vereinbart, streitet später darüber, ob eine gesunkene Trefferquote ein Mangel des gelieferten Werks ist oder eine Veränderung der Umwelt. Der Vertrag gehört an dieser Stelle konkret: Wer den Austausch eines Basismodells als Anlass für eine Wiederholungsmessung festschreibt, hat den Streit vorweggenommen.

Fallbestand, Schwelle, Stichprobe: der Maßstab

Ein Kriterium ist brauchbar, wenn es beobachtbar ist und vor dem Start feststeht. Beobachtbar heißt hier: Zwei Prüfer kommen unabhängig voneinander zum selben Urteil. Bei wahrscheinlichkeitsbasierten Systemen wird das über drei Bausteine erreicht.

Der eingefrorene Fallbestand

Echte Vorgänge aus dem Betrieb, gemeinsam ausgewählt, mit der bekannten richtigen Antwort versehen und danach unverändert. Wird der Bestand erst nach dem Start zusammengestellt, enthält er unbewusst jene Fälle, die das System ohnehin beherrscht — er misst dann die eigene Erwartung.

Die Schwelle und die Regel darunter

Eine Zahl allein entscheidet nichts. Zur Schwelle gehört, was mit allem darunter geschieht: Freigabe durch einen Menschen, Rückstellung in eine Warteschlange, Abbruch mit Hinweis. Erst diese Regel macht ein System betriebstauglich, weil sie den Rest der Fälle nicht dem Zufall überlässt.

Die Stichprobe im laufenden Betrieb

Ein einmaliger Prüflauf beschreibt einen Tag. Zur Übergabe gehört deshalb eine Vereinbarung darüber, wie später gemessen wird: welcher Anteil der Vorgänge nachträglich von Hand kontrolliert wird, wer das tut, und was ein Absinken über den ganzen Bestand auslöst. Ein Ausreißer ist kein Mangel; ein Abrutschen der Quote über die gesamte Menge ist einer.

Drei Formulierungen scheitern in diesem Feld regelmäßig: „das Modell erkennt Rechnungen zuverlässig“ nennt keinen Wert, „Genauigkeit von hoher Güte“ nennt kein Verfahren, „das System läuft stabil“ verlagert das Urteil auf den, der zahlt. Wie aus fachlichen Anforderungen eine belastbare Leistungsbeschreibung wird, entscheidet damit über den ganzen Vertrag.

Stillschweigende und fiktive Abnahme

Neben der ausdrücklichen Erklärung kennt das Gesetz zwei Wege, auf denen ein Werk ohne Unterschrift gebilligt wird. Der erste ist schlüssiges Verhalten: Wer ein System produktiv einsetzt, seine Ergebnisse in die Buchhaltung übernimmt und die Rechnung ohne Vorbehalt zahlt, erklärt damit, dass er es als vertragsgemäß ansieht.

Der zweite steht in § 640 Absatz 2 BGB. Der Unternehmer setzt eine angemessene Frist; verweigert der Besteller die Billigung darin nicht unter Angabe mindestens eines Mangels, gilt das Werk als erbracht. In KI-Vorhaben trifft diese Regel auf eine typische Lage — die Fachabteilung will „noch etwas beobachten“, es antwortet niemand, und die Frist läuft. Wer einen Mangel sieht, muss ihn benennen; allgemeine Unzufriedenheit hält die Frist nicht an.

Festgehalten wird das Ergebnis in einem Abnahmeprotokoll: geprüfter Stand des Systems mit Versionsangabe, verwendeter Fallbestand, gemessene Werte, Regel für die Fälle unterhalb der Schwelle, offene Punkte und ausdrückliche Vorbehalte. Wer einen bekannten Mangel ohne Vorbehalt hinnimmt, verliert Rechte daraus (§ 640 Absatz 3 BGB); welche danach bleiben, beschreibt der Artikel Mängelhaftung.

Wie wir den Maßstab vor dem Start festlegen

Bei uns steht der Maßstab vor dem Ergebnis: Fallbestand, Messgröße, Schwelle und die Regel für alles darunter stehen im Angebot, bevor jemand mit dem Bau beginnt. Geprüft wird gemeinsam gegen diese Liste, und protokolliert wird, was tatsächlich gemessen wurde. Modelle, Prompts, Auswertungen und Zugänge bleiben beim Auftraggeber, die fachliche Steuerung liegt bei unserer Projektleitung. Und wir sagen vorher, was ein Prüfbestand nicht hergibt: Er misst die Fälle, die er enthält, und nichts darüber hinaus — für alles andere gilt der beschriebene Ausgang an einen Menschen. Welche Schritte davor und danach liegen, zeigt die Leistung KI-Implementierung.