Was bedeutet LLM im Vertrieb?
Im Vertrieb ist ein Large Language Model (LLM) das Modell hinter Texten, Zusammenfassungen und Gesprächen mit Voice AI. Der Begriff bezeichnet das Modell, nicht das Produkt, das es nutzt. Dasselbe Modell kann in vielen Produkten stecken, und deshalb lohnt die Frage nach dem Modell im Angebot.
Welche drei Größen bestimmen die Antwort?
Die drei Größen sind Trainingsstand, Kontextfenster und Temperatur. Die Tabelle erklärt jede so, dass Sie daraus eine Frage an einen Anbieter ableiten können.
| Größe | Was sie bestimmt | Frage an den Anbieter |
|---|---|---|
| Trainingsstand | Welches Wissen das Modell mitbringt | Bis zu welchem Stand reichen die Daten? |
| Kontextfenster | Wie viel Text es gleichzeitig verarbeitet | Passen Protokoll und Quellen hinein? |
| Temperatur | Wie stark die Antwort variiert | Lässt sich die Einstellung für Protokolle senken? |
Warum ist das Kontextfenster für Protokolle wichtig?
Das Kontextfenster begrenzt, wie viel Text das Modell zugleich berücksichtigt. Reicht es nicht, verliert das Modell den Anfang eines Gesprächs. Beispielfall, fiktiv: Ein Protokoll mit 40 Seiten passt nicht in ein Fenster, das nur den letzten Abschnitt sieht, und die Zusammenfassung verschweigt die Einwände vom Anfang. Das Gegenargument: Große Fenster kosten mehr und lösen das Problem nicht vollständig.
Wann ist ein LLM das falsche Werkzeug?
Ein LLM ist das falsche Werkzeug, wenn eine feste Regel genügt. Eine Postleitzahl prüft eine Tabelle genauer als jedes Sprachmodell. Stellen Sie die Frage, ob ein Modell überhaupt nötig ist, vor jedem Einsatz. Wie falsche Angaben entstehen, erklärt der Eintrag zur Halluzination.
- 01
Das Modell mit dem Produkt verwechseln.
Folge: Zwei Angebote mit demselben Modell wirken verschieden, obwohl der Kern gleich ist.
Besser: Nach dem Modell und nach der Einbindung fragen.
- 02
Das Kontextfenster nicht erfragen.
Folge: Lange Protokolle werden nur teilweise verarbeitet.
Besser: Die Länge des größten Dokuments mit dem Fenster abgleichen.
- 03
Eine feste Regel dem Modell überlassen.
Folge: Eine Tabelle prüft die Regel genauer, als jedes Modell es kann.
Besser: Feste Regeln außerhalb des Modells prüfen lassen.
