Kostenlose APILLMAPI-SchlüsselOffiziell
Cloudflare Workers AI
40+ Open Models am Edge mit einem kostenlosen täglichen Neuron-Budget betreiben
Workers AI stellt Open Models (Llama, Mistral, Qwen, Embeddings, Image, ASR) von Cloudflares Edge aus bereit und ist aus einem Worker heraus oder direkt über die REST API mit Account-ID und API-Token aufrufbar. Der kostenlose Plan enthält eine tägliche Zuteilung gemessen in Neurons, einer Einheit für GPU-Rechenleistung.
Free Tier
Kostenlose Zuteilung von 10.000 Neurons/Tag im Workers Free Plan (keine Kreditkarte zum Einstieg). Darüber hinaus 0,011 $ pro 1.000 Neurons im Workers Paid Plan. Täglicher Reset um 00:00 UTC.Ratenlimits
Begrenzt durch das tägliche kostenlose Budget von 10.000 Neurons, nicht durch ein festes RPM. Verbrauchte Neurons pro Anfrage hängen von Modell und Tokens ab; eine ~500-Token-Llama-3-Antwort kostet ungefähr 400–600 Neurons.Auth
API-SchlüsselBasis-URL
https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/runWas du damit bauen kannst
- Inferenz zu einem Edge-Worker hinzufügen, ohne zusätzlichen Cold-Start-Round-Trip zu einem externen Anbieter
- Kostenlose Embeddings + Vectorize für eine kleine RAG-App innerhalb des Cloudflare-Stacks
- Whisper-Transkription und Bildmodelle zusammen mit Text auf einer Plattform
- Automationen mit geringem Volumen, die komfortabel in 10k Neurons/Tag passen
Wichtige Endpunkte
- POST
/@cf/meta/llama-3.1-8b-instructTextgenerierung auf Llama 3.1 8B ausführen - POST
/@cf/baai/bge-base-en-v1.5Text-Embeddings generieren - POST
/@cf/openai/whisperSpeech-to-Text-Transkription
Mitglieder
Mitglieder erhalten das ausführbare Rezept
Melde dich kostenlos an, um die Beispielanfrage zu kopieren, eine Beispielantwort zu sehen und die Stolperfallen zu lesen.
Tags
llmedgeinferenceembeddingsopen-weights