Warum KI-System-Prompts auf Englisch laufen sollten (auch wenn der Agent Deutsch spricht)

Manchmal steckt der größte Hebel an einer Stelle, an der man ihn nicht sucht. In einem unserer KI-Projekte haben wir eine Optimierung getestet, die sich fast zu einfach anfühlt, um wahr zu sein, und die trotzdem einen der deutlichsten Effekte des ganzen Projekts hatte.

Das Setup

Wir haben einen Sprach-Agenten (Voice Agent) gebaut, der echte Telefonate auf Deutsch führt. Bei Sprache ist Latenz alles: Jede Zehntelsekunde zwischen Aussage und Antwort entscheidet darüber, ob sich ein Gespräch natürlich anfühlt oder roboterhaft. Der System-Prompt, also die Anweisung, die dem Modell sagt, wie es sich verhalten soll, war zunächst komplett auf Deutsch geschrieben.

Das Finding

Wir haben den System-Prompt von Deutsch auf Englisch umgeschrieben. Nur die interne Anweisung. Die gesprochene Sprache des Agenten ist unverändert Deutsch geblieben. Das Ergebnis: Die Latenz fiel um mehr als eine halbe Sekunde. Ohne neues Modell, ohne teurere Infrastruktur, nur durch die Sprache der Anweisung.

Warum das passiert

Der Effekt ist kein Zufall. Große Sprachmodelle sind ganz überwiegend auf englischen Daten trainiert und optimiert. Das schlägt an mehreren Stellen durch:

• Token-Effizienz: Englischer Text wird in weniger Tokens zerlegt als deutscher. Weniger Tokens im Prompt bedeuten weniger zu verarbeitenden Kontext und damit eine schnellere erste Antwort.
• Instruktions-Treue: Die Fein-Abstimmung (RLHF) der Modelle passiert primär auf Englisch. Englische Anweisungen werden präziser und mit weniger „Umweg" befolgt.
• Internes Denken: Modelle „denken" intern eher englischnah. Eine deutsche Anweisung erzeugt zusätzlichen Übersetzungs-Overhead, bevor überhaupt eine Antwort entsteht.

Was das praktisch bedeutet

Die Lektion ist einfach und wird trotzdem selten umgesetzt: Trenne die Sprache der Anweisung von der Sprache der Ausgabe. Der System-Prompt darf auf Englisch laufen, während der Output sauber auf Deutsch bleibt. Gerade bei Voice-Agents, wo Latenz direkt über die Gesprächsqualität entscheidet, ist das ein spürbarer Unterschied. Aber auch bei Chatbots und Automatisierungen sparst Du damit Tokens, Zeit und Kosten.

Die LLMs sind auf Englisch trainiert und perfektioniert. Wer das ignoriert, verschenkt Geschwindigkeit, ohne es zu merken.

Für uns war das einer der Aha-Momente des Projekts, weil er zeigt, wie viel Performance in Details steckt, die auf den ersten Blick nichts mit dem Ergebnis zu tun haben. Genau solche Findings entstehen, wenn man KI nicht nur einkauft, sondern in den Kernprozessen wirklich versteht.