首頁 » ASUS UGen Intel Arc Pro B70 32GB 推論加速卡亮相,雙卡 64GB 可執行 80B 等級模型

ASUS UGen Intel Arc Pro B70 32GB 推論加速卡亮相,雙卡 64GB 可執行 80B 等級模型

華碩發表 ASUS UGen Intel Arc Pro B70 32GB 推論加速卡,搭載 32GB 容量的 GDDR6 記憶體,提供 ECC 保護,並採用針對推論需求最佳化的硬體架構,主要面向企業地端代理式 AI(Agentic AI)應用;華碩將降低價格門檻與提供大容量記憶體列為產品訴求,使用對象涵蓋專業消費者、獨立 AI 開發者、小型企業、創意工作室及企業部門級 AI 團隊。

 

 

長上下文與多代理部署推升 VRAM 需求

 

 

長上下文推論會增加 KV 快取用量,多代理部署則可能需要同時執行多個模型,兩者都會提高 VRAM 占用,依華碩說明,當加速卡記憶體不足、資料必須卸載至主記憶體時,推論效能可能下降超過 10 倍;ASUS UGen Intel Arc Pro B70 32GB 推論加速卡可將多數 27B 參數以下的模型完整保留於加速卡記憶體中,搭配 Llama 3.1 8B 時,上下文視窗最高可達 128K token,以對應較長內容的推論需求。

 

支援 INT4 / FP8 線上量化與多種 AI 軟體工具

 

軟體支援方面,ASUS UGen Intel Arc Pro B70 32GB 推論加速卡內建 INT4 / FP8 線上量化功能,支援 Intel LLM Scaler 、 vLLM XPU 、 llama.cpp 的 SYCL / Vulkan 後端,以及 Ollama 、 Intel OpenVINO 、 oneAPI 與 PyTorch XPU,也涵蓋用於影像生成的 ComfyUI,讓開發者可依模型、推論框架及應用類型選擇部署工具。

 

驗證模型涵蓋語言、語音與視覺應用

 

依華碩提供的驗證資訊,ASUS UGen Intel Arc Pro B70 32GB 推論加速卡支援的模型涵蓋 Llama 3.1 / 3.2(8B 至 70B)、 Qwen 3.x 、 DeepSeek-R1 Distill(7B 至 70B)、 Mistral / Mixtral 、 OpenAI gpt-oss(20B / 120B)、 Whisper-large-v3 與 InternVL3.5,應用範圍包括語言模型、語音辨識及視覺相關任務;華碩另提供雙卡配置的推論數據,執行 80B 等級模型時可達每秒 43.4token 。

 

單卡至多卡配置對應不同導入規模

 

ASUS UGen Intel Arc Pro B70 32GB 推論加速卡提供單卡 32GB 、雙卡 64GB 及多卡 128GB 的配置選擇,其中單卡鎖定專業消費者與獨立 AI 開發者,提供比主流 16GB AI 加速卡更大的模型記憶體空間,雙卡配置則面向小型企業與創意工作室,在支援更大規模部署的同時,讓敏感資料保留於企業內部;針對企業部門級 AI 團隊,華碩以多卡 128GB 系統作為部署方案,訴求降低長期成本,並對應法律、醫療、政府與金融等領域的資料合規需求。