Which LLM runs on
your hardware?Welches LLM läuft auf
Ihrer Hardware?
How many users, how fast, how good: an honest estimate before the first GPU is ordered.Wie viele Nutzer, wie schnell, wie gut: eine ehrliche Schätzung, bevor die erste GPU bestellt ist.
01The machineDie Hardware
Several Macs can be joined into a cluster with exo. That makes room for larger models. It does not make answers much faster.Mehrere Macs lassen sich mit exo zu einem Cluster verbinden. Das schafft Platz für größere Modelle, macht Antworten aber kaum schneller.
For a card that is not listed, choose "Other" and enter its memory.Für eine nicht gelistete Karte „Andere“ wählen und den Speicher eintragen.
02PurposeZiel
03The workloadDie Nutzung
03The modelDas Modell
Details and settingsDetails und Einstellungen
German text needs about 30% more tokens than English, so the same machine serves fewer German-speaking users.Deutscher Text braucht etwa 30 % mehr Tokens als englischer, dieselbe Hardware bedient also weniger deutschsprachige Nutzer.