Choco hat eine Inferenzschicht entwickelt, die Bestellwissen kodiert – nicht nur Bestellungen abschreibt

Der Engpass waren unstrukturierte Eingaben; das eigentliche Problem war implizites Wissen

Choco verbindet Restaurants, Lieferanten und Distributoren – über 21.000 Distributoren und 100.000 Einkäufer in den USA, Großbritannien, Europa und den Golfstaaten. Mit wachsendem Volumen kamen Bestellungen weiterhin per E-Mail, SMS, Sprachnachricht, Bild und handschriftlicher Notiz an, die Mitarbeitende manuell in strukturierte ERP-Bestellungen übertrugen.

Das Unternehmen macht deutlich: Diese Formate zu erfassen war der einfache Teil. Was die Skalierung blockierte, war Wissen, das nur in den Köpfen der Mitarbeitenden existierte – welche Artikelnummer ein bestimmter Kunde meint, seine bevorzugten Einheiten, seine Liefermuster.

Die Verarbeitung dieser Eingaben war die erste Hürde, aber nicht die schwierigste. Das eigentliche Problem war impliziter Kontext: kundenspezifische SKU-Zuordnungen, Einheitenpräferenzen, Liefermuster. Dieses Wissen steckte in den Köpfen der Order-Desk-Mitarbeitenden, und wir mussten es in Inferenzschichten kodieren, die Unklarheiten bereits bei der Bestellerfassung auflösen.Montana Labs

Das ist eine nützliche Unterscheidung für alle, die Extraktionssysteme entwickeln. Transkription und OCR sind heute Standardfunktionen. Das Unterscheidungsmerkmal, das Choco nennt, ist die Auflösung von Unklarheiten anhand der Bestellhistorie und des Katalogs jedes einzelnen Kunden – das, was VP Engineering Narbeh Mirzaei als die Grenze zwischen Automatisierung und Intelligenz bezeichnet.

Zwei Agenten, ein multimodaler Stack

Choco hat OrderAgent entwickelt, um multimodale Eingaben – E-Mails, SMS, Bilder, Dokumente – in strukturierte, ERP-fertige Bestellungen umzuwandeln. VoiceAgent, aufgebaut auf der Realtime API von OpenAI, ermöglicht Kunden, Bestellungen telefonisch mit Latenzzeiten unter einer Sekunde aufzugeben – auch außerhalb der Geschäftszeiten.

Der genannte Grund für die Konsolidierung auf einen einzigen Anbieter war pragmatisch: Text, Bild und Audio in einem einheitlichen Ökosystem zu verarbeiten, erlaubte Choco, zuvor getrennte Workflows zusammenzuführen. Das Team integrierte Speech-to-Text, Embeddings und Function Calling über die SDKs von OpenAI, statt separate Speziallösungen pro Modalität zusammenzustückeln.

Die berichteten Ergebnisse sind konkret: über 8,8 Mio. jährlich verarbeitete Bestellungen, über 200 Mrd. Tokens im produktiven Einsatz, bis zu 50 % weniger manuelle Bestellerfassung und doppelte Produktivität im Vertriebsteam ohne zusätzliches Personal.

Konfidenzschwellen und Evaluation schufen das Vertrauen

Die auffälligste Designentscheidung ist Autopilot – ein optionaler Modus, der Verarbeitung nur automatisiert, wenn Konfidenzschwellen erreicht werden, und Grenzfälle zur menschlichen Prüfung weiterleitet. Choco berichtet von Fehlerraten unter 1–5 % bei konfigurierbaren Automatisierungsschwellen und einem System, das im Zeitverlauf aus Korrekturen lernt.

Diese Schwellenwertsteuerung ist wichtig, weil die Bestellerfassung mit LLMs probabilistisch ist, nicht deterministisch. Choco kombiniert sie mit einem rigorosen Evaluationsrahmen: Ground-Truth-Datensätze, kontinuierliches Monitoring und A/B-Tests. Die eigene Erkenntnis der Unternehmensführung: Man sollte bereits am ersten Tag mit auch nur 10–20 Ground-Truth-Beispielen starten und in Observability investieren, die Modell-Eingaben, -Ausgaben und Reasoning-Spuren erfasst – nicht nur klassische Logs.

Sobald Kunden sahen, dass es mit ihren eigenen Bestellungen funktioniert, folgte das Vertrauen schnell. Ab diesem Punkt beschleunigte sich die Akzeptanz wirklich.Montana Labs

Die Akzeptanz profitierte auch davon, dass Kunden ihr Verhalten nicht ändern mussten. Käufer bestellten weiterhin per Telefon, SMS oder E-Mail; das System passte sich an sie an, nicht umgekehrt.

Was Chocos Rollout signalisiert: Agenten-Orchestrierung als Aufgabe für Nicht-Ingenieure

Die zukunftsweisende Aussage dieser Ankündigung ist organisatorisch, nicht technisch. Choco erklärt, damit eine neue Nutzergruppe zu ermöglichen – Nicht-Ingenieure, die als „Agenten-Orchestratoren“ agieren und intelligente Systeme entwerfen und steuern, die Geschäftsergebnisse vorantreiben.

Zusammen mit der Einordnung von CEO Daniel Khachab, es gehe darum, „von Software, die Arbeit unterstützt, zu Systemen, die die Arbeit tatsächlich erledigen“, überzugehen, ergibt sich die konkrete Implikation: Choco behandelt die Bestellerfassung als Aufgabe, die autonom unter von Menschen festgelegten Konfidenzrichtlinien ausgeführt wird – wobei sich die Rolle der Order-Desk-Mitarbeitenden von der Dateneingabe hin zur Festlegung von Schwellenwerten, der Prüfung von Ausnahmefällen und der Korrektur des Systems verschiebt. Ob diese Rolle Bestand hat, während Agenten einen wachsenden Teil des Supply-Chain-Workflows übernehmen, ist die eigentliche Bewährungsprobe, die noch bevorsteht.