平台

支援的平台

同一套能力運行在不同架構的晶片上。上層用法一致,差別在於底層如何充分利用各類硬體。

x86
桌上型電腦、工作站與小型伺服器。有獨立顯示卡時更快。
實測過的配置單卡 32 GB 顯存 · 128 GB 記憶體雙卡 32 GB + 24 GB 顯存
ARM
Apple 晶片的 Mac,以及 ARM 架構的邊緣裝置。
實測過的配置128 GB 統一記憶體的邊緣 AI 裝置
RISC-V預覽
面向新一代本機 AI 晶片。
實測過的配置適配中,還沒有實測配置
預覽RISC-V 仍在適配中,可用功能與效能將隨版本逐步完善。
僅列出我們實際執行過的機器;最低配置仍在測試,完成後補充。
底層是什麼

成熟的開源引擎。

使用 llama.cpp、ONNX Runtime、MLX,按晶片選擇後端與量化方式,無需手動設定。

沒有你的裝置?

告訴我們。

我們在逐款適配。歡迎說明你的裝置型號與使用場景。

告訴我們