Softwareentwicklung um das Modell herum: aus der Demo wird ein System
Softwareentwicklung heißt bei einer KI-Anwendung vor allem: alles, was neben dem Modell steht. Individuelle Softwareentwicklung bedeutet hier Daten aufbereiten und versionieren, in eigenen Dokumenten suchen, Aufrufe in eine Warteschlange legen, jede Antwort protokollieren, Rechte und Oberfläche bauen. Das Modell ist ein Bauteil; der Rest entscheidet, ob die Funktion in den Betrieb kommt.
Vertragspartner ist eine deutsche Gesellschaft, es gilt deutsches Recht, AVV und technische Maßnahmen liegen bei, verarbeitet wird auf Servern in Deutschland und der EU. Der Anlass ist meist derselbe: Ein Prototyp überzeugt in der Vorführung und scheitert danach am Alltag – der Anbieter antwortet gerade nicht, niemand kann nachlesen, warum eine Antwort so ausfiel, und bedienen lässt sie sich nur im Terminal des Entwicklers. Eines tun wir nicht: eigene Modelle von Grund auf trainieren. Wir bauen die Anwendung darum herum.
Für wen
- Ein Prototyp überzeugt in der Vorführung, aber niemand weiß, wie er an die Warenwirtschaft kommt und wer ihn bedienen darf.
- Ein Assistent soll in Ihren Handbüchern, Verträgen und Tickets nachsehen, statt aus dem Gedächtnis des Modells zu antworten.
- Die KI-Funktion hängt an einem einzigen Anbieter, und Preisliste, Modellversion oder Verfügbarkeit ändern sich ohne Rückfrage.
- Eine KI-Funktion läuft bereits, aber niemand kann belegen, ob sie heute besser antwortet als vor drei Monaten.
- Software- und SaaS-Häuser, die eine KI-Funktion ins eigene Produkt setzen wollen, deren Entwickler aber im Release gebunden sind.
Was Sie bekommen
Daten, die ein Modell lesen kann
Aus PDF, Scans, Datenbankauszügen und Postfächern wird ein Bestand mit Stand und Herkunft: bereinigt, zerlegt, versioniert. Wird eine Quelle später ersetzt, bleibt nachvollziehbar, welche Fassung eine Antwort erzeugt hat.
Suche in Ihren eigenen Dokumenten
Der Bestand wird durchsuchbar gemacht und dem Modell fallweise vorgelegt. Zu jeder Aussage gehört die Fundstelle, und wer ein Dokument nicht sehen darf, bekommt auch keine Antwort daraus: Berechtigungen wirken auf die Suche, nicht erst auf den Bildschirm.
Softwareentwicklung für den Tag, an dem der Anbieter schweigt
Aufrufe laufen über eine Warteschlange mit Wiederholversuch, Zeitgrenze und Rückfall auf ein zweites Modell, die Kosten über ein Gateway mit Deckel. Der Nutzer sieht eine Wartezeit, keinen Fehlerbildschirm.
Protokoll jeder Modellantwort
Mitgeschrieben werden Auslöser, verwendete Dokumente, Fassung der Anweisung, Modell, Kosten und Ergebnis. Damit lässt sich eine Beschwerde aus dem Fachbereich später nachvollziehen; dieselbe Aufzeichnung beantwortet die Frage des Datenschutzbeauftragten.
Oberfläche und Rechte für die Fachabteilung
Anmeldung über Ihr Verzeichnis, Rollen wie im übrigen Haus, Freigabeschritt für alles, was nach außen geht. Erst damit wird aus einem Skript ein Arbeitsplatz für Leute ohne Entwicklerwissen.
Unsere Arbeitsweise
Gespräch über die eine Funktion
Rund zwanzig Minuten: Welche Aufgabe soll die Anwendung übernehmen, welche Dokumente und Systeme gehören dazu, wer benutzt sie. Wir sagen auch, wenn eine gewöhnliche Abfrage ohne Modell die stabilere Lösung wäre.
Angebot mit Datenwegen und Abnahmekriterien
Beschrieben werden Quellen, Rechte, Verhalten im Störfall und die Fälle, an denen abgenommen wird, dazu Etappen, Vertragsform und Preismodell. Der Zeitrahmen steht im Angebot; was abgenommen wird, ist vor dem Start geklärt.
Softwareentwicklung gegen einen festen Satz Prüffälle
Aus Ihrem Bestand entsteht ein Satz Beispiele mit bekannter Antwort; jede Lieferung läuft dagegen, auch nach einem Modellwechsel. Die Modelle hängen hinter einer eigenen Schicht: Dieselbe Architektur läuft in über vierzig unserer eigenen Dienste, deshalb ist der Weg eingespielt und nicht für Sie erfunden.
Abnahme, Übergabe, Weiterbetrieb
Abgenommen wird gegen die Kriterien aus dem Angebot, danach Dokumentation, Zugänge und Einweisung. Quellcode und Daten haben Sie dabei jederzeit im Zugriff, und jede KI-Funktion lässt sich einzeln abschalten, ohne das übrige System stillzulegen.
Abnahme statt Versprechen
Abgenommen wird die Anwendung, nicht die Klugheit des Modells: gemessen an den Prüffällen aus dem Angebot, am Verhalten bei Ausfall des Anbieters, an Rechten, Protokoll und Datenweg. Geliefert wird in Etappen, jede für sich klickbar; Quellcode, Zugänge und Dokumentation stehen Ihnen vom ersten Tag an offen.
Abgegrenzte Vorhaben laufen als Werkvertrag mit festem Preis je Etappe und Gewährleistung auf Mängel. Wächst der Umfang mit dem Produkt, folgt ein Dienstvertrag nach Tagessatz als Rahmenvertrag mit Einzelaufträgen. Die Arbeit verteilt und verantwortet unsere Projektleitung; fällt jemand aus, übernimmt ein Kollege, der Repository und Verfahren kennt. Welche Daten ein Modell sehen darf, regeln Vertrag, AVV und technische Maßnahmen. Preise und Sätze stehen im Angebot.
Begriffe zum Thema
Halluzinationen bei Sprachmodellen: Ursachen und Gegenmaßnahmen
Ein Sprachmodell füllt Wissenslücken mit Plausiblem. Abschalten lässt sich das nicht – mit Quellenbindung, Prüfschritten und Freigabestufen aber beherrschbar machen.
Large Language Model: was ein LLM kann und was nicht
Ein großes Sprachmodell sagt voraus, welcher Text am wahrscheinlichsten folgt – und erzeugt so Antworten, Zusammenfassungen, Übersetzungen und Programmcode.
Retrieval-Augmented Generation: Antworten mit Quelle
Das Verfahren versorgt ein Sprachmodell zur Laufzeit mit eigenen Dokumenten – so beantwortet es Fragen zu internen Daten und nennt die Stelle, auf die es sich stützt.
Werkvertrag: das geschuldete Ergebnis im KI-Projekt
Wer ein KI-System per Werkvertrag bestellt, braucht vor dem Start einen Maßstab für die Abnahme. Wie sich das Verhalten eines Modells prüfbar beschreiben lässt.
Häufige Fragen
Was kostet eine KI-Anwendung?
Das hängt an Zahl und Zustand der Datenquellen, an den Rechten und daran, wie viele Fälle die Anwendung abdecken soll. Nach dem Gespräch bekommen Sie ein Angebot: Festpreis je Etappe im Werkvertrag oder Tagessatz im Dienstvertrag, beides mit Abnahmekriterien. Der laufende Modellverbrauch bleibt über das Gateway sichtbar und gedeckelt.
Was gehört zu einer KI-Anwendung außer dem Modell?
Der größere Teil: aufbereitete Daten mit Herkunft, eine Suche über Ihre Dokumente, Warteschlange und Wiederholversuch für den Störfall, Protokoll jeder Antwort, Rechte und eine Oberfläche. Das Modell wird eingekauft, alles andere ist gewöhnliche Entwicklungsarbeit.
Können wir das Sprachmodell später wechseln?
Ja, wenn die Anwendung von Anfang an eine eigene Schicht dafür hat: Modellaufruf, Anweisungen und Auswertung liegen an einer Stelle statt verstreut im Code. Ein Wechsel besteht dann aus einem Lauf gegen die Prüffälle und einem Vergleich der Ergebnisse, nicht aus einem Projekt.
Wie verhindern Sie, dass die Anwendung Dinge erfindet?
Durch Suche in Ihren Dokumenten statt freier Antwort: Das Modell bekommt die passenden Stellen vorgelegt und gibt die Fundstelle mit aus. Findet die Suche nichts, ist „nicht gefunden“ die richtige Antwort – auch das steht als Prüffall im Satz und wird gemessen.
Erst der Umfang, dann das Angebot
Zwanzig Minuten genügen für den Anfang: Sie beschreiben den Engpass, wir sagen, ob und wie wir ihn übernehmen – und wenn nicht, auch das.