プラットフォーム

対応プラットフォーム

同じ機能が、アーキテクチャの異なるチップの上で動きます。上のレイヤーの使い方は同じで、違いは下のレイヤーがハードウェアをどこまで使い切るかです。

x86

デスクトップ、ワークステーション、小型サーバー。単体 GPU があればさらに高速。

検証済みの構成GPU 1 枚(VRAM 32 GB)· メモリ 128 GBGPU 2 枚(VRAM 32 GB + 24 GB)

ARM

Apple シリコン搭載の Mac と、ARM ベースのエッジデバイス。

検証済みの構成128 GB ユニファイドメモリのエッジ AI デバイス

RISC-Vプレビュー

次世代のローカル AI チップ向け。

検証済みの構成対応中。検証済みの構成はまだありません

プレビューRISC-V は対応作業中です。使える機能と性能は、リリースを重ねながら順次整えていきます。

実際に動かした機種だけを載せています。最小構成は検証中で、完了しだい追記します。

中身

成熟したオープンソースエンジン。

llama.cpp・ONNX Runtime・MLX を使い、チップに応じてバックエンドと量子化方式を選びます。手動での設定は不要です。

お使いのデバイスがない?

機種ごとに順次対応しています。お使いのデバイスと用途をお知らせください。