News · O Llama 3.2 da Meta corre na ISS sem ligação à Terra

Apr, 25Leitura de 4 min
Plataforma

O Llama 3.2 da Meta corre na ISS sem ligação à Terra

A Booz Allen ajustou um modelo de pesos abertos para funcionar offline no Spaceborne Computer-2 da HPE — uma implementação definida pela ausência de internet, não pela sua presença.

A restrição que escolheu o modelo

O facto mais importante no anúncio da Meta é uma limitação, não uma funcionalidade: não há internet na Estação Espacial Internacional. Essa única condição determina todas as escolhas técnicas aqui.

Como o Llama 3.2 é distribuído sob a forma de pesos de modelo descarregáveis, a Booz Allen conseguiu carregar uma cópia ajustada em hardware em órbita e executar a inferência localmente. Nenhum pedido sai da estação, nenhum dado passa por um serviço de AI (keep the English acronym) alojado, e não é necessária qualquer ligação à Terra para o modelo responder. A Meta apresenta isto como uma questão de segurança e custo, mas a vantagem real é mais simples — o sistema funciona quando não há nada a que se ligar.

Este é o caso que os modelos de API fechada estruturalmente não conseguem servir. Um endpoint pago por utilização pressupõe uma via de rede de volta aos servidores de um fornecedor. A ISS elimina esse pressuposto e, com ele, todo o padrão de implementação de que depende a maior parte da AI (keep the English acronym) comercial.

O que a stack realmente é

O Space Llama é mais um projeto de integração do que um projeto de modelo. A Meta forneceu as capacidades de visão do Llama; a Booz Allen contribuiu com as suas ferramentas A2E2 (AI for Edge Environments); a computação é feita pelo Spaceborne Computer-2 da HPE com hardware acelerado da NVIDIA.

A afirmação sobre o desempenho é específica e merece destaque: a equipa diz ter reduzido tarefas de AI (keep the English acronym) que demoravam minutos para pouco mais de um segundo, recorrendo a modelos ajustados com o software NVIDIA CUDA e as suas bibliotecas de aceleração cuDNN e cuBLAS. É uma história de otimização de edge — comprimir um sistema compacto, de classe satélite e com restrições energéticas até obter resposta em tempo real, em vez de escalar para um modelo maior.

A Meta descreve a combinação como sendo, tanto quanto se sabe, a primeira do género utilizada fora da Terra. A novidade está na conjugação de pesos abertos, ferramentas de edge e computação com classificação espacial, e não em qualquer componente isolado.

Uma primeira tarefa restrita: recuperação de documentos

O uso descrito é modesto e concreto. O Space Llama é generativo e multimodal — entrada de texto, visual e auditiva — e o exemplo dado é ajudar investigadores a extrair informação de documentos técnicos de referência e instruções sem ligação à internet.

Trata-se, essencialmente, de recuperação e resposta a perguntas offline sobre documentação a bordo, aplicada a reparações e manutenção. É uma primeira tarefa sensata: elevado valor, âmbito limitado e tolerante a um modelo pequeno a correr em hardware restrito.

Bill Vass, diretor de tecnologia da Booz Allen, liga isto a uma trajetória mais ampla:

A inovação no espaço tem sido historicamente limitada devido à dependência de conectividade terrestre para capacidades de computação e comunicações. O Space Llama traz ferramentas diretamente para o limiar do espaço, permitindo realizar rapidamente reparações críticas e manter o ISS National Lab.Montana Labs

O caminho que tornou isto possível

O anúncio remete para duas etapas anteriores. Em agosto de 2024, a Booz Allen já tinha executado um LLM generativo no espaço, no mesmo Spaceborne Computer-2. Em novembro de 2024, a Meta abriu os seus modelos Llama a agências do governo dos EUA e a parceiros do setor privado, algo que a empresa aponta como o que tornou o Space Llama possível.

Trata-se, portanto, de uma evolução incremental sobre hardware anterior e uma decisão de licenciamento, e não de um avanço isolado. O modelo de distribuição — pesos que se podem descarregar, ajustar e implementar sob uma licença orientada para o governo — é o ingrediente que tudo permite.

A implicação: o offline-first é uma classe de implementação real, e os pesos abertos dominam-na

O Space Llama é um exemplo extremo de uma categoria que também importa na Terra: ambientes desligados, isolados (air-gapped) ou com ligação intermitente, onde não é possível chamar uma API alojada. Submarinos, sensores remotos, operações no terreno e instalações seguras partilham a restrição central da ISS, mesmo que nenhum deles partilhe a sua altitude.

Para as equipas que constroem nesses contextos, a conclusão é prática. Quando não se pode contar com a rede, a capacidade de descarregar pesos, ajustá-los e executar inferência no próprio hardware acelerado não é uma preferência — é a única arquitetura que funciona. Esta implementação mostra esse padrão a funcionar de ponta a ponta em hardware espacial restrito, o que eleva a fasquia credível daquilo que a AI (keep the English acronym) de edge com pesos abertos consegue alcançar mais perto de casa.

Find this story relevant to you?

Contact us to find a unique solution

Contact us

Precisa de um parceiro de engenharia de IA que saiba executar?

Ajudamos equipas em Portugal a integrar IA em produtos, automatizar processos de alto valor e modernizar os sistemas que suportam o negocio.

Get in touch

Leitura relacionada

Mais análises sobre entrega de produto, AI operacional e o trabalho de sistemas que faz com que a implementação funcione na prática.

Jul, 134 min de leitura
Plataforma

A Doppel automatiza a remoção de sites de phishing com um pipeline de cinco fases baseado em GPT-5 e RFT

Jul, 13Leitura de 4 min
Plataforma

A aposta da Deutsche Telekom em transformar as redes de voz na interface de AI

Jul, 134 min de leitura
Plataforma

A expansão de 5GW da Meta na Louisiana é anunciada através de bónus a professores, não de teraflops