知名國防外包商Booz Allen本周宣布與Meta和HPE合作，將Llama模型搬上太空站，在最遠的邊緣協助科學研究。

Booz Allen將在國際太空站（International Space Station，ISS）上部署以Llama為基礎的AI模型，稱為Space Llama。這是奠基於該公司和HPE合作於去年在太空站成功部署的邊緣AI系統之上以支援月球或火星探測任務。2024年1月團隊在HPE的Spaceborne Computer-2上安裝邊緣AI系統，可執行即時AI資料分析，像是衛星影像等。

最新的任務下，Booz Allen在HPE Spaceborne-2上部署了以Llama 3.2微調的多模態AI模型，稱為Space Llama，結合Booz Allen自有LLM容器軟體A2E2（AI for Edge Environments）建立成LLM Retrieval Augmented Generation（LLM RAG）系統。Space Llama包含生成式及多模態能力，可處理文字、影像與聲音資料。團隊另外還利用Nvidia CUDA軟體及加速函式庫cuDNN及cuBLAS微調Llama 3.2，使執行AI任務的時間縮短到僅1秒多。研究團隊相信這是第一個在地球以外執行的多模態AI系統。

ISS上的HPE Spaceborne-2伺服器硬體採用HPE Edgeline和ProLiant Windows系列。登上太空站時已搭載130TB的KIOXIA快閃記憶體儲存系統，可執行AI與機器學習。此外它還加入美國太空總署（NASA）的太空飛行支援軟體及新的系統安全軟體，以監控系統運行穩定性。

本系統可在不連網情況下執行AI任務。研究團隊指出，本系統的回應品質經過近一年改進，可讓在無網路能力的太空站上提供科學家足以信任的答案，從關鍵技術參考文件和指示中擷取資訊，以加速任務執行。

本系統協助ISS國際實驗室執行多項科學研究，推進月亮與火星探索任務。團隊的下一步目標之一是讓不同衛星和地球之間的LLM能彼此協同。他們希望，這套多模態AI系統有一天能安裝在太空船上，提供即時分析洞見、協助太空人決策，並且在資料繁複、快速變動的太空環境下，降低太空任務的風險。