Modelle
Vergleich
Llama 3.1 8B vs. Llama 3.1 70B
Llama 3.1 8B und Llama 3.1 70B im direkten Vergleich auf Silicon Network: Kontextlänge, Fähigkeiten, Parameter und der Preis pro Token.
| Llama 3.1 8B | Llama 3.1 70B | |
|---|---|---|
| Modell-ID in der API | llama-3.1-8b | llama-3.1-70b |
| Basismodell | Llama 3.1 8B | Llama 3.1 70B |
| Familie | Llama | Llama |
| Parameter | 8B | 70B |
| Größenklasse | Mittel (6B bis 40B) | Groß (40B bis 200B) |
| Kontextlänge | 131.072 Tokens (128K) | 131.072 Tokens (128K) |
| Fähigkeiten | Text | Text |
| Bereitgestellte Gewichte | 4 Bit | 4 Bit |
| Größe der Gewichte | 4,64 GB | 40,7 GB |
| Preis Eingabe | Nicht verfügbar | Nicht verfügbar |
| Preis Ausgabe | Nicht verfügbar | Nicht verfügbar |
Die veröffentlichten Preise ließen sich gerade nicht laden. Die Preisseite liest sie live.
Unterschiede
- Beide haben ein Kontextfenster von 131.072 Tokens.
- Llama 3.1 70B ist nach Gesamtparametern das größere Modell: 70B gegenüber 8B.
- Beide haben dieselben Fähigkeiten: Text.
Welche Modelle gerade auf einem Node geladen sind, ändert sich im Laufe des Tages; die Preisseite zeigt es live. Ein Modell, das nicht geladen ist, antwortet mit 404, bis ein Betreiber es lädt.
Zu diesen Angaben
Kontextlänge, Fähigkeiten und Größe der Gewichte stammen aus der Modellkarte, mit der die jeweilige ID bereitgestellt wird. Die Preise sind die veröffentlichten Preise pro Token und werden alle paar Minuten aktualisiert. Geschwindigkeitswerte gibt es hier nicht: Das Netzwerk veröffentlicht den Durchsatz pro Modell noch nicht.