華碩發表 ASUS UGen Intel Arc Pro B70 32GB 推論加速卡,搭載 32GB 容量的 GDDR6 記憶體,提供 ECC 保護,並採用針對推論需求最佳化的硬體架構,主要面向企業地端代理式 AI(Agentic AI)應用;華碩將降低價格門檻與提供大容量記憶體列為產品訴求,使用對象涵蓋專業消費者、獨立 AI 開發者、小型企業、創意工作室及企業部門級 AI 團隊。

長上下文與多代理部署推升 VRAM 需求

長上下文推論會增加 KV 快取用量,多代理部署則可能需要同時執行多個模型,兩者都會提高 VRAM 占用,依華碩說明,當加速卡記憶體不足、資料必須卸載至主記憶體時,推論效能可能下降超過 10 倍;ASUS UGen Intel Arc Pro B70 32GB 推論加速卡可將多數 27B 參數以下的模型完整保留於加速卡記憶體中,搭配 Llama 3.1 8B 時,上下文視窗最高可達 128K token,以對應較長內容的推論需求。
支援 INT4 / FP8 線上量化與多種 AI 軟體工具
軟體支援方面,ASUS UGen Intel Arc Pro B70 32GB 推論加速卡內建 INT4 / FP8 線上量化功能,支援 Intel LLM Scaler 、 vLLM XPU 、 llama.cpp 的 SYCL / Vulkan 後端,以及 Ollama 、 Intel OpenVINO 、 oneAPI 與 PyTorch XPU,也涵蓋用於影像生成的 ComfyUI,讓開發者可依模型、推論框架及應用類型選擇部署工具。
驗證模型涵蓋語言、語音與視覺應用
依華碩提供的驗證資訊,ASUS UGen Intel Arc Pro B70 32GB 推論加速卡支援的模型涵蓋 Llama 3.1 / 3.2(8B 至 70B)、 Qwen 3.x 、 DeepSeek-R1 Distill(7B 至 70B)、 Mistral / Mixtral 、 OpenAI gpt-oss(20B / 120B)、 Whisper-large-v3 與 InternVL3.5,應用範圍包括語言模型、語音辨識及視覺相關任務;華碩另提供雙卡配置的推論數據,執行 80B 等級模型時可達每秒 43.4token 。
單卡至多卡配置對應不同導入規模
ASUS UGen Intel Arc Pro B70 32GB 推論加速卡提供單卡 32GB 、雙卡 64GB 及多卡 128GB 的配置選擇,其中單卡鎖定專業消費者與獨立 AI 開發者,提供比主流 16GB AI 加速卡更大的模型記憶體空間,雙卡配置則面向小型企業與創意工作室,在支援更大規模部署的同時,讓敏感資料保留於企業內部;針對企業部門級 AI 團隊,華碩以多卡 128GB 系統作為部署方案,訴求降低長期成本,並對應法律、醫療、政府與金融等領域的資料合規需求。
