News · A Choco criou uma camada de inferência para codificar o conhecimento da mesa de pedidos, não apenas transcrever pedidos

Jul, 134 min de leitura
Frontend

A Choco criou uma camada de inferência para codificar o conhecimento da mesa de pedidos, não apenas transcrever pedidos

A plataforma de distribuição de alimentos usou as APIs da OpenAI para transformar e-mails, mensagens de texto, mensagens de voz e anotações manuscritas em pedidos prontos para o ERP — mas os próprios engenheiros da empresa dizem que a parte difícil foi o contexto, não a transcrição.

O gargalo eram as entradas confusas; o problema real era o conhecimento tácito

A Choco conecta restaurantes, fornecedores e distribuidoras — mais de 21 mil distribuidoras e 100 mil compradores nos EUA, Reino Unido, Europa e no Golfo (GCC). Com o crescimento do volume, os pedidos continuavam chegando por e-mail, mensagens de texto, mensagens de voz, imagens e anotações manuscritas, que a equipe redigitava manualmente em pedidos estruturados no ERP.

A empresa é clara: processar esses formatos era a parte fácil. O que travava a escala era o conhecimento que existia só na cabeça das pessoas: qual SKU um determinado cliente quer dizer, suas unidades preferidas, seus padrões de entrega.

Processar essas entradas foi a primeira barreira, mas não a mais difícil. O problema real era o contexto implícito: mapeamentos de SKU específicos de cada cliente, preferências de unidade, padrões de entrega. Esse conhecimento estava na cabeça dos atendentes da mesa de pedidos, e precisávamos codificá-lo em camadas de inferência que resolvessem ambiguidades no momento da captura do pedido.Montana Labs

Essa é uma distinção útil para quem constrói sistemas de extração. Transcrição e OCR já são commodities. O diferencial que a Choco aponta é resolver ambiguidades cruzando o histórico de pedidos e o catálogo de cada cliente — o que o VP de Engenharia Narbeh Mirzaei chama de linha que separa automação de inteligência.

Dois agentes, uma stack multimodal

A Choco criou o OrderAgent para converter entradas multimodais — e-mails, SMS, imagens, documentos — em pedidos estruturados e prontos para o ERP. Já o VoiceAgent, construído sobre a Realtime API da OpenAI, permite que clientes façam pedidos por telefone com latência abaixo de um segundo, inclusive fora do horário comercial.

O motivo declarado para consolidar em um único fornecedor foi prático: lidar com texto, visão e áudio em um único ecossistema permitiu à Choco unificar fluxos de trabalho que antes eram desconectados. A equipe integrou speech-to-text, embeddings e function calling via os SDKs da OpenAI, em vez de costurar provedores especializados diferentes para cada modalidade.

Os resultados relatados são concretos: mais de 8,8 milhões de pedidos processados por ano, mais de 200 bilhões de tokens em produção, redução de até 50% na entrada manual de pedidos e produtividade 2x maior da equipe de vendas sem aumento de headcount.

Limiares de confiança e avaliação garantiram a confiança do sistema

A escolha de design que se destaca é o Autopilot — um modo opcional que automatiza o processamento apenas quando os limiares de confiança são atingidos, direcionando casos de borda para revisão humana. A Choco relata taxas de erro abaixo de 1–5%, com limiares de automação configuráveis e um sistema que aprende com as correções ao longo do tempo.

Esse controle importa porque a entrada de pedidos via LLM é probabilística, não determinística. A Choco combina isso com um framework de avaliação rigoroso: datasets com ground-truth, monitoramento contínuo e testes A/B. A lição que a própria liderança destaca é começar com apenas 10 a 20 exemplos de ground-truth já no primeiro dia, e investir em observabilidade que capture entradas do modelo, saídas e traços de raciocínio — não só os logs convencionais.

Depois que os clientes viram funcionando com os próprios pedidos, a confiança veio rápido. Foi aí que a adoção realmente decolou.Montana Labs

A adoção também se beneficiou do fato de não pedir que os clientes mudassem de comportamento. Os compradores continuaram fazendo pedidos por telefone, texto ou e-mail; o sistema se adaptou a eles, e não o contrário.

O que a implementação da Choco sinaliza: orquestração de agentes como função para não-engenheiros

A afirmação mais voltada para o futuro nesse anúncio é organizacional, não técnica. A Choco diz estar habilitando uma nova categoria de usuários — não-engenheiros que atuam como 'orquestradores de agentes', projetando e gerenciando sistemas inteligentes que geram resultados de negócio.

Lendo isso junto com a visão do CEO Daniel Khachab de migrar 'de softwares que apoiam o trabalho para sistemas que realmente fazem o trabalho', a implicação específica é que a Choco está tratando a captura de pedidos como uma tarefa a ser executada de forma autônoma sob políticas de confiança definidas por humanos — com o papel do atendente da mesa de pedidos mudando da digitação de dados para a definição de limiares, revisão de exceções e correção do sistema. Se esse papel se sustenta conforme os agentes assumem mais partes do fluxo da cadeia de suprimentos é o verdadeiro teste que vem a seguir.

Find this story relevant to you?

Contact us to find a unique solution

Contact us

Precisa de um parceiro de engenharia de IA que consiga construir de verdade?

Ajudamos empresas no Brasil a integrar IA, acelerar produtos com IA, automatizar operações e modernizar os sistemas de software por trás do negócio.

Get in touch

Leituras relacionadas

Mais análises sobre entrega de produto, IA operacional e o trabalho de sistemas que faz a implantação se sustentar na prática.

Jul, 134 min de leitura
Frontend

A DNP colocou o ChatGPT Enterprise à disposição de dez departamentos e tratou a janela de chat como a interface

Jul, 134 min de leitura
Frontend

AdventHealth implementa o ChatGPT em nove estados tratando a adoção como o produto

Jul, 134 min de leitura
Frontend

A AP+ usa o Codex para criar protótipos de pagamento que realmente funcionam, não só telas clicáveis