News · Choco ha costruito un livello di inferenza per codificare la conoscenza del banco ordini, non solo per trascrivere gli ordini

Jul, 134 min di lettura
Frontend

Choco ha costruito un livello di inferenza per codificare la conoscenza del banco ordini, non solo per trascrivere gli ordini

La piattaforma di distribuzione alimentare ha usato le API di OpenAI per trasformare email, sms, messaggi vocali e note scritte a mano in ordini pronti per l'ERP — ma i suoi stessi ingegneri dicono che la parte difficile era il contesto, non la trascrizione.

Il collo di bottiglia erano gli input disordinati; il vero problema era la conoscenza tacita

Choco collega ristoranti, fornitori e distributori — oltre 21.000 distributori e 100.000 acquirenti tra Stati Uniti, Regno Unito, Europa e area del Golfo. Con la crescita dei volumi, gli ordini continuavano ad arrivare via email, sms, messaggi vocali, immagini e note scritte a mano, che il personale riscriveva manualmente in ordini ERP strutturati.

L'azienda è chiara: acquisire quei formati era la parte facile. A frenare la scalabilità era la conoscenza che risiedeva nella testa delle persone: quale SKU intende un certo cliente, le sue unità di misura preferite, i suoi schemi di consegna.

Elaborare quegli input era il primo ostacolo, ma non il più difficile. Il vero problema era il contesto implicito: mappature SKU specifiche per cliente, preferenze di unità di misura, schemi di consegna. Quella conoscenza risiedeva nella testa degli addetti al banco ordini, e dovevamo codificarla in livelli di inferenza capaci di risolvere le ambiguità nel momento stesso in cui l'ordine viene acquisito.Montana Labs

È una distinzione utile per chiunque costruisca sistemi di estrazione. Trascrizione e OCR sono ormai capacità di base. Il vero elemento distintivo, secondo Choco, è risolvere le ambiguità confrontandole con la storia degli ordini e il catalogo di ciascun cliente — quella che il VP Engineering Narbeh Mirzaei definisce la linea che separa l'automazione dall'intelligenza.

Due agenti, un solo stack multimodale

Choco ha costruito OrderAgent per convertire input multimodali — email, sms, immagini, documenti — in ordini strutturati e pronti per l'ERP. VoiceAgent, basato sulla Realtime API di OpenAI, permette ai clienti di ordinare per telefono con latenza inferiore al secondo, anche fuori dagli orari di ufficio.

Il motivo dichiarato per consolidare su un unico fornitore è pratico: gestire testo, immagini e audio in un unico ecosistema ha permesso a Choco di unificare flussi di lavoro prima frammentati. Il team ha integrato speech-to-text, embedding e function calling tramite gli SDK di OpenAI, invece di assemblare fornitori specializzati diversi per ogni modalità.

I risultati riportati sono concreti: oltre 8,8 milioni di ordini elaborati all'anno, oltre 200 miliardi di token in produzione, fino al 50% di riduzione nell'inserimento manuale degli ordini, e una produttività del team vendite raddoppiata senza aumentare l'organico.

Le soglie di confidenza e la valutazione hanno costruito la fiducia

La scelta progettuale che spicca è Autopilot — una modalità opzionale che automatizza l'elaborazione solo quando vengono raggiunte determinate soglie di confidenza, indirizzando i casi limite alla revisione umana. Choco riporta tassi di errore sotto l'1-5%, con soglie di automazione configurabili e un sistema che impara dalle correzioni nel tempo.

Questo filtro conta perché l'inserimento ordini basato su LLM è probabilistico, non deterministico. Choco lo affianca a un framework di valutazione rigoroso: dataset di riferimento verificati, monitoraggio continuo e test A/B. La lezione della leadership è partire già dal primo giorno con anche solo 10-20 esempi verificati, e investire in observability che catturi input, output e catene di ragionamento del modello — non solo i log tradizionali.

Non appena i clienti hanno visto il sistema funzionare con i loro stessi ordini, la fiducia è arrivata rapidamente. È a quel punto che l'adozione ha davvero accelerato.Montana Labs

L'adozione ha beneficiato anche del fatto di non chiedere ai clienti di cambiare abitudini. Gli acquirenti hanno continuato a ordinare per telefono, sms o email; è il sistema che si è adattato a loro, non il contrario.

Cosa segnala il lancio di Choco: l'orchestrazione di agenti come lavoro per non ingegneri

L'affermazione più significativa in questo annuncio riguarda l'organizzazione, non la tecnologia. Choco dice di stare abilitando una nuova categoria di utenti — persone senza background tecnico che agiscono come 'orchestratori di agenti', progettando e gestendo sistemi intelligenti che guidano i risultati di business.

Letta insieme all'idea del CEO Daniel Khachab di passare 'da software che supporta il lavoro a sistemi che il lavoro lo fanno davvero', l'implicazione concreta è che Choco tratta l'acquisizione degli ordini come un compito da eseguire in autonomia sotto politiche di confidenza stabilite dall'uomo — con il ruolo dell'addetto al banco ordini che si sposta dall'inserimento dati alla definizione delle soglie, alla revisione delle eccezioni e alla correzione del sistema. Se questo ruolo resterà tale man mano che gli agenti assorbiranno sempre più il flusso di lavoro della supply chain è la vera prova che ci attende.

Find this story relevant to you?

Contact us to find a unique solution

Contact us

Cerchi un partner di ingegneria AI capace di costruire davvero?

Aiutiamo le aziende a integrare l AI nei prodotti, automatizzare i flussi di lavoro ad alto valore e modernizzare i sistemi software che sostengono la crescita.

Get in touch

Letture correlate

Altre analisi su delivery di prodotto, IA operativa e il lavoro sui sistemi che fa reggere il deployment alla prova dei fatti.

Jul, 134 min di lettura
Frontend

DNP ha messo ChatGPT Enterprise davanti a dieci dipartimenti e ha trattato la finestra di chat come interfaccia

Jul, 134 min di lettura
Frontend

AdventHealth distribuisce ChatGPT in nove stati trattando l'adozione come il vero prodotto

Jul, 134 min di lettura
Frontend

AP+ usa Codex per costruire prototipi di pagamento che si comportano come il sistema reale, non solo schermate cliccabili