Plattformen

Plattformen

Dieselben Funktionen laufen auf Chips verschiedener Architekturen. Die Bedienung oben ist identisch; unterschiedlich ist, wie vollständig die jeweilige Hardware darunter ausgenutzt wird.

x86
Desktop-PCs, Workstations und kleine Server. Mit dedizierter Grafikkarte schneller.
Getestete KonfigurationenEine GPU mit 32 GB VRAM · 128 GB RAMZwei GPUs, 32 GB + 24 GB VRAM
ARM
Macs mit Apple Silicon und ARM-basierte Edge-Geräte.
Getestete KonfigurationenEdge-KI-Gerät mit 128 GB einheitlichem Speicher
RISC-VVorschau
Für die nächste Generation lokaler KI-Chips.
Getestete KonfigurationenIn Arbeit; noch keine getestete Konfiguration
VorschauDie Unterstützung für RISC-V ist noch in Arbeit; verfügbare Funktionen und Leistung werden mit den kommenden Versionen ausgebaut.
Aufgeführt sind nur Geräte, auf denen wir es tatsächlich betrieben haben; Mindestanforderungen werden noch getestet und später ergänzt.
Unter der Haube

Bewährte Open-Source-Engines.

Aufgebaut auf llama.cpp, ONNX Runtime und MLX, wobei Backend und Quantisierung je nach Chip gewählt werden. Keine manuelle Konfiguration nötig.

Ihr Gerät fehlt?

Sagen Sie es uns.

Wir ergänzen die Unterstützung Modell für Modell. Nennen Sie uns Ihr Gerät und was Sie damit vorhaben.

Mitteilen