A vitrina do Llama da Meta, através das suas três interfaces

Três interfaces, um único modelo

A publicação da Meta de 13 de janeiro identifica três organizações que utilizam o Llama: WriteSea, The Washington Post e Nanome. O que é relevante aqui não é o modelo partilhado por trás — é o facto de cada empresa ter criado uma interface visivelmente diferente sobre ele.

O Job Search Genius, da WriteSea, transcreve entrevistas simuladas em vídeo e devolve métricas de desempenho. O 'Ask The Post', do The Washington Post, é um chatbot de texto que responde com a voz do jornal e liga a artigos-fonte. O MARA, da Nanome, permite que cientistas questionem uma estrutura molecular e obtenham respostas em texto e em formato visual 3D. A mesma base, três superfícies de utilizador completamente distintas.

O que a ferramenta de entrevistas realmente apresenta

O produto da WriteSea é o que tem mais carga de interface dos três. Segundo a fonte, ajuda candidatos a emprego a escrever currículos personalizados, a realizar entrevistas simuladas e a ensaiar negociações salariais — e a sua interface trata de entrevistas em vídeo, transcreve as respostas faladas do candidato e apresenta métricas para o ajudar a melhorar.

Trata-se de um conjunto de desafios de frontend que o Llama não resolve por si só: captar vídeo, alimentar áudio para transcrição e apresentar feedback pontuado de forma acionável para um candidato nervoso. O CEO Brandon Mitchell justifica a escolha em termos económicos — o open source permite-lhes evitar custos de chamadas à API e escalar para mais de 100 000 utilizadores — mas o motivo pelo qual esses utilizadores permanecem é o design da interação em torno do modelo, não o modelo em si.

Transparência incorporada no formato da resposta

A escolha de design do The Washington Post é a mais instrutiva para quem constrói uma interface fiável. O 'Ask The Post' responde a partir do arquivo de artigos do jornal desde 2016, responde com a voz do próprio jornal e liga aos artigos-fonte por detrás de cada resposta.

Esse último detalhe é tanto um compromisso de frontend como de dados. Apresentar citações diretamente no texto — e limitar a resposta a reportagens publicadas — transforma um chatbot aberto em algo que uma redação pode defender. O CTO Vineet Khosla resume claramente a motivação:

A AI (keep the English acronym) de código aberto está a ajudar as pessoas a manterem-se à frente, sem as limitações e restrições de custo de outros modelos de AI (keep the English acronym) proprietários.Montana Labs

Quando a interface é uma cena 3D

O MARA, da Nanome, é o caso mais claro de um modelo ao serviço de uma visualização especializada. Os cientistas veem estruturas moleculares em 3D, fazem perguntas ao MARA sobre a estrutura que têm à frente e obtêm respostas ligadas ao que está no ecrã. O chat não é o produto na totalidade — é um assistente sobreposto a uma ferramenta de visualização espacial.

O fundador Steve McCloskey associa isto à redução do custo e do tempo do desenvolvimento de fármacos, um trabalho que descreve como podendo demorar anos e custar milhares de milhões. A Nanome destaca o desempenho e a adaptabilidade do Llama, além da colaboração que possibilita entre universidades e investigadores — mas o que um cientista realmente percebe como diferenciador é um modelo ancorado na molécula exata que está a rodar no ecrã.

A implicação: os exemplos da Meta valorizam o trabalho de interface, não apenas o acesso ao modelo

Vistos em conjunto, estes três casos fazem uma observação discreta sobre os pesos abertos (open weights). O acesso gratuito ao Llama é o fator habilitador que cada empresa invoca em termos de custo, mas é a superfície que cada equipa construiu — feedback de vídeo transcrito, respostas de jornal com citações, uma estrutura 3D interrogável — que determina se a ferramenta vale a pena utilizar.

Para equipas que avaliam AI (keep the English acronym) de código aberto, a conclusão da própria vitrina da Meta é que o modelo é o ponto de partida e o frontend é onde o produto realmente vive. O argumento económico leva-nos até ao Llama; a interface é que decide o que os utilizadores efetivamente obtêm dele.