Serving del modello di base Mosaic AI
Due modalità di acquisto
Access and query state-of-the-art open foundation models and use them to quickly and easily build applications that leverage a high-quality generative AI model without maintaining your own model deployment.
Seleziona un piano
aiutami a scegliereSeleziona un cloud
Select model
Select
Seleziona una regione
Select
Loading...
Prezzi modelli di base on-demand
| Modello | Prezzo / 1 milione di token di INPUT (Prezzo effettivo per gli Stati Uniti orientali) | Prezzo / 1 milione di token di OUTPUT (Prezzo effettivo per gli Stati Uniti orientali) | DBU / 1 milione di token per tutte le regioni |
|---|---|---|---|
| DBRX | $2,25 | $6,75 | 32,143 (input) / 96,429 (output) |
| LLaMa-2-70B | $2,00 | $2,00 | 28,571 |
| Mixtral-8-7B | $1,50 | $1,50 | 21,429 |
| MPT-30B | $1,00 | $1,00 | 14,286 |
| LLaMa-2-13B | $0,95 | $0,95 | 13,571 |
| MPT-7B | $0,50 | $0,50 | 7,143 |
| BGE-L | $0,10 | $0,10 | 1,429 |
Esempi di prezzi on-demand (per token)
| Modello | Token di input | Token di output | Regione | Prezzo serving/DBU | Prezzo totale |
|---|---|---|---|---|---|
| DBRX | 4.000.000 | 1.000.000 | USA Est | $0,070 | $15,75 |
| LLaMa-2-70B | 4.000.000 | 1.000.000 | USA Est | $0,070 | $10,00 |
| Mixtral-8-7B | 4.000.000 | 1.000.000 | AP (Sydney) | $0,088 | $9,43 |
Esempi di prezzi per throughput fornito
| Modello | ore/mese | Regione | Prezzo serving/DBU | Prezzo mensile* |
|---|---|---|---|---|
| DBRX | 720 | USA Est | $0,070 | $10,692 |
| LLaMa-2-70B | 720 | USA Est | $0,070 | $7,920 |
| Mixtral-8-7B | 720 | AP (Sydney) | $0,088 | $18.429 |
* Per banda di throughput
Pay as you go with a 14-day free trial or contact us for committed-use discounts or custom requirements.
Domande frequenti su Mosaic AI Model Serving
I nostri prezzi variano perché si basano sui costi locali del'infrastruttura che supporta i nostri prodotti serverless.