KI-Features, denen man wirklich vertraut

Die erste Version fast jedes KI-Features, das ich gesehen habe, scheitert auf dieselbe Weise. Das Modell ist gut, die Demo beeindruckend. Dann verwenden es echte Menschen, es liegt einmal selbstbewusst daneben – und ab da glaubt ihm niemand mehr, auch wenn es recht hat.

Das ist kein Problem des Modells, sondern des Interfaces. Wenn ein Feature sich nicht erklären kann, bleiben zwei Möglichkeiten: blind vertrauen oder ignorieren. Die meisten ignorieren.

Wenn ich etwas mit KI baue, verbringe ich deshalb weniger Zeit mit dem Prompt, als man meinen würde, und viel mehr mit den Momenten rund um die Antwort.

Zeig, woher es kommt

Eine Antwort für sich allein ist eine Behauptung. Eine Antwort mit Quellen ist etwas, das man überprüfen kann.

Wenn das Modell drei Dokumente gelesen hat, zeig diese drei Dokumente und verknüpf jede Aussage mit der Stelle, aus der sie stammt. Angeklickt wird das selten. Aber zu wissen, dass man es könnte, verändert, wie sehr man der Antwort vertraut – und die Male, in denen jemand nachsieht, sind genau die, auf die es ankommt.

Es hält einen auch selbst ehrlich: Wenn man nicht zeigen kann, woher eine Antwort kommt, sollte das Feature sie meistens gar nicht geben.

Sag, wie sicher es ist – in Worten

Konfidenzwerte sind verlockend, und „87 %“ wirkt präzise. Nur weiß niemand, was 87 % für die eigene Entscheidung bedeuten.

Worte funktionieren besser. „Auf Basis deiner letzten drei Berichte“ ist stärker als „auf Basis allgemeiner Empfehlungen“. „Dazu habe ich in deinen Dokumenten nichts gefunden“ ist besser als eine vage Antwort. Wenn die Belege dünn sind, sag es – und zwar vor der Antwort, nicht in grauer Schrift darunter.

Gestalte die langsamen Momente

Für Interface-Verhältnisse ist KI langsam. Eine gute Antwort kann fünf oder zehn Sekunden dauern, und vor einem Ladekreis fühlt sich das ewig an.

Die Lösung ist nicht nur, es schneller zu machen (auch wenn das hilft), sondern das Warten nachvollziehbar zu machen:

• Streame die Antwort, während sie entsteht, damit die ersten Wörter nach einer Sekunde da sind.
• Zeig, was gerade passiert: „Lese 3 Dokumente …“, „Vergleiche mit dem Vorjahr …“. Echte Schritte, kein erfundener Fortschrittsbalken.
• Halt die Seite benutzbar, während es arbeitet. Niemand sollte aus dem eigenen Bildschirm ausgesperrt werden, nur weil ein Modell nachdenkt.

Mach Fehler billig

Jedes KI-Feature liegt manchmal falsch. Die Frage ist, was das die Person kostet, die es verwendet.

Ist eine Antwort bearbeitbar, kostet ein Fehler ein paar Sekunden. Wird sie direkt in einen Bericht übernommen, kostet er deutlich mehr. Deshalb setze ich lieber auf Entwürfe als auf Entscheidungen: Das Modell schlägt vor, der Mensch übernimmt, ändert oder verwirft. Alles mit Folgen – senden, speichern, Daten ändern – bekommt eine ausdrückliche Bestätigung und, wo es geht, ein Rückgängig.

Fehler sind ein Zustand, keine Ausnahme

Am meisten geholfen hat mir, den Lebenszyklus einer Antwort ausdrücklich zu modellieren, damit jeder Zustand ein Design bekommt:

type Evidence = "strong" | "partial" | "weak";
type Failure = "timeout" | "no-sources" | "error";
 
type Answer =
  | { state: "thinking"; step: string }
  | { state: "streaming"; text: string; sources: Source[] }
  | { state: "done"; text: string; sources: Source[]; evidence: Evidence }
  | { state: "failed"; reason: Failure; fallback?: string };

So geschrieben ist „keine Quellen gefunden“ kein Sonderfall, den jemand vergisst, sondern ein Zustand mit eigenem Screen, eigenen Worten und meistens einem Ausweg – etwa einem Link, um selbst in den Dokumenten zu suchen. Der Typechecker sorgt dafür, dass jeder Zustand gestaltet wird, nicht nur der Idealfall.

Das Modell ist der einfache Teil

Die Modelle werden weiter besser. Was sich nicht ändert: Menschen müssen wissen, wann sie sich auf sie verlassen können. Das ist eine Interface-Frage, und genau dieser Teil der KI-Arbeit macht mir am meisten Spaß – die Quellen, die Formulierungen, das Warten, das Rückgängig. Es ist dasselbe Handwerk wie bei jedem anderen Interface. Es steht nur ein bisschen mehr auf dem Spiel.