News · Metas Llama 3.2 läuft auf der ISS ohne Verbindung zur Erde

Apr, 254 Min. Lesezeit
Plattform

Metas Llama 3.2 läuft auf der ISS ohne Verbindung zur Erde

Booz Allen hat ein offenes Modell für den Offline-Betrieb auf HPEs Spaceborne Computer-2 feinabgestimmt – ein Einsatz, der gerade durch das Fehlen von Internet definiert ist, nicht durch dessen Vorhandensein.

Die Einschränkung, die das Modell bestimmte

Die wichtigste Tatsache in Metas Ankündigung ist eine Einschränkung, kein Feature: Auf der Internationalen Raumstation gibt es kein Internet. Diese eine Bedingung bestimmt jede technische Entscheidung hier.

Da Llama 3.2 als herunterladbare Modellgewichte verteilt wird, konnte Booz Allen eine feinabgestimmte Kopie auf Hardware im Orbit laden und die Inferenz lokal ausführen. Keine Anfrage verlässt die Station, keine Daten laufen über einen gehosteten KI-Dienst, und für die Antwort des Modells ist keine Verbindung zum Boden erforderlich. Meta stellt das als Sicherheits- und Kostenvorteil dar, doch der eigentliche Nutzen ist simpler – das System funktioniert auch dann, wenn es nichts gibt, mit dem es sich verbinden könnte.

Genau das ist der Fall, den geschlossene API-Modelle strukturell nicht bedienen können. Ein abgerechneter Endpunkt setzt einen Netzwerkpfad zurück zu den Servern eines Anbieters voraus. Die ISS hebt diese Annahme auf – und damit das gesamte Einsatzmuster, auf dem der Großteil der kommerziellen KI beruht.

Was der Stack tatsächlich ist

Space Llama ist eher ein Integrationsprojekt als ein Modellprojekt. Meta lieferte die Vision-Fähigkeiten von Llama; Booz Allen brachte sein A2E2-Tooling (AI for Edge Environments) ein; die Rechenleistung stammt von HPEs Spaceborne Computer-2 mit beschleunigter NVIDIA-Hardware.

Die Leistungsangabe ist konkret und bemerkenswert: Das Team gibt an, KI-Aufgaben, die zuvor Minuten dauerten, auf etwas mehr als eine Sekunde verkürzt zu haben – mithilfe von Modellen, die mit NVIDIA-CUDA-Software sowie den Beschleunigungsbibliotheken cuDNN und cuBLAS feinabgestimmt wurden. Das ist eine Geschichte der Edge-Optimierung – ein kompaktes, satellitentaugliches, energiebegrenztes System auf Echtzeitreaktion zu trimmen, statt auf ein größeres Modell zu skalieren.

Meta beschreibt diese Kombination als vermutlich die erste ihrer Art, die jenseits der Erde eingesetzt wird. Die Neuheit liegt in der Zusammenstellung aus offenen Gewichten, Edge-Tooling und weltraumtauglicher Rechenleistung, nicht in einer einzelnen Komponente.

Erster Einsatzbereich: das Abrufen von Dokumenten

Der beschriebene Anwendungsfall ist bescheiden und konkret. Space Llama ist generativ und multimodal – Text-, Bild- und Audioeingaben –, und als Beispiel dient die Unterstützung von Forschenden beim Abrufen von Informationen aus technischen Referenzdokumenten und Anleitungen, ohne Internetverbindung.

Im Kern handelt es sich um offline durchgeführtes Retrieval und Frage-Antwort-Verarbeitung anhand von Bordunterlagen, angewendet auf Reparaturen und Wartung. Das ist eine sinnvolle erste Aufgabe: hoher Nutzen, klar begrenzter Umfang, und tolerant gegenüber einem kleinen Modell auf begrenzter Hardware.

Bill Vass, Chief Technology Officer von Booz Allen, ordnet dies in eine größere Entwicklung ein:

Weltrauminnovation war historisch dadurch begrenzt, dass Rechenleistung und Kommunikation auf erdbasierte Konnektivität angewiesen waren. Space Llama bringt Tools direkt an den Rand des Weltraums, um kritische Reparaturen schnell durchzuführen und das ISS National Lab instand zu halten.Montana Labs

Der Weg, der das ermöglicht hat

Die Ankündigung verweist auf zwei frühere Schritte. Im August 2024 hatte Booz Allen bereits ein generatives LLM auf demselben Spaceborne Computer-2 im Weltraum betrieben. Im November 2024 öffnete Meta seine Llama-Modelle für US-Regierungsbehörden und Partner aus der Privatwirtschaft – laut Unternehmen genau das, was Space Llama erst möglich gemacht hat.

Es handelt sich also um eine schrittweise Weiterentwicklung auf Basis vorhandener Hardware und einer Lizenzentscheidung, nicht um einen eigenständigen Durchbruch. Das Verteilungsmodell – Gewichte, die man herunterladen, feinabstimmen und unter einer für Regierungsbehörden zugänglichen Lizenz einsetzen kann – ist der entscheidende Faktor.

Die Implikation: Offline-first ist eine echte Einsatzkategorie, und offene Gewichte beherrschen sie

Space Llama ist ein Extrembeispiel für eine Kategorie, die auch auf der Erde relevant ist: getrennte, abgeschottete oder nur zeitweise verbundene Umgebungen, in denen man keine gehostete API aufrufen kann. U-Boote, entfernte Sensoren, Feldeinsätze und sicherheitskritische Einrichtungen teilen die zentrale Einschränkung der ISS, auch wenn keine von ihnen deren Höhe erreicht.

Für Teams, die in solchen Umgebungen entwickeln, ist die Erkenntnis praktisch: Wenn man sich nicht auf ein Netzwerk verlassen kann, ist die Fähigkeit, Gewichte herunterzuladen, feinabzustimmen und die Inferenz auf eigener beschleunigter Hardware auszuführen, keine Option unter vielen – es ist die einzige Architektur, die überhaupt funktioniert. Dieser Einsatz zeigt, dass dieses Muster auf begrenzter Weltraum-Hardware durchgängig funktioniert, was die glaubwürdige Messlatte dafür anhebt, was offene KI-Modelle am Edge auch näher an der Erde leisten können.

Find this story relevant to you?

Contact us to find a unique solution

Contact us

Brauchen Sie einen KI-Engineering-Partner, der auch liefern kann?

Wir helfen Unternehmen dabei, KI in Produkte und Prozesse zu integrieren, wertvolle Workflows zu automatisieren und die zugrunde liegenden Softwaresysteme zu modernisieren.

Get in touch

Weiterführende Beiträge

Weitere Analysen rund um Produktbereitstellung, operative KI und die Systemarbeit, die dafür sorgt, dass der Einsatz in der Praxis Bestand hat.

Jul, 134 Min. Lesezeit
Plattform

Deutsche Telekoms Wette: Sprachnetze werden zur KI-Schnittstelle

Jul, 134 Min. Lesezeit
Plattform

Metas 5-GW-Expansion in Louisiana wird mit Lehrer-Boni angekündigt, nicht mit Teraflops

Jul, 94 Min. Lesezeit
Plattform

OpenAI teilt Echtzeit-Sprache in drei Modelle auf: Reasoning, Übersetzung und Transkription