API ម៉ូឌែល AI
Serverless Inference
ដាក់ឱ្យដំណើរការម៉ូឌែល AI ដោយមិនបាច់គ្រប់គ្រងហេដ្ឋារចនាសម្ព័ន្ធ។ Llama 3.3, DeepSeek V3, Mistral, Whisper និង Stable Diffusion។ បង់តែអ្វីដែលអ្នកប្រើប្រាស់ប៉ុណ្ណោះ។
មុខងារសំខាន់ៗ
ម៉ូឌែល LLM
Llama 3.3 70B, Llama 3.1 405B, Mistral 7B, DeepSeek V3។ endpoint API ដែលឆបគ្នាជាមួយ OpenAI។
បង់តាមការប្រើប្រាស់ជាក់ស្ដែង
បង់តែចំនួន tokens និងសំណើដែលបានប្រើប្រាស់ជាក់ស្ដែងប៉ុណ្ណោះ។ គ្មានថ្លៃរៀបចំ គ្មានការជាប់កិច្ចសន្យា។
API ឆបគ្នាជាមួយ OpenAI
ជំនួសដោយផ្ទាល់សម្រាប់ OpenAI API។ ប្តូរពី GPT ទៅម៉ូឌែល open-source បានយ៉ាងរលូន។
សំឡេង និងរូបភាព
Whisper Large v3 សម្រាប់ speech-to-text។ Stable Diffusion XL សម្រាប់បង្កើតរូបភាព។
រួចរាល់សម្រាប់កម្រិតសហគ្រាស
ការគ្រប់គ្រង API key, កម្រិត rate limiting និងការតាមដានការប្រើប្រាស់។ ធានា SLA សម្រាប់បន្ទុកការងារ production។
កម្រិត Latency ទាប
inference ប្រកបដោយប្រសិទ្ធភាពខ្ពស់លើ A100/H100 GPUs។ ឆ្លើយតបបែប Streaming សម្រាប់កម្មវិធី real-time។
លក្ខណៈបច្ចេកទេស
ករណីប្រើប្រាស់
Chatbot និងជំនួយការនិម្មិត
បង្កើត chatbot ឆ្លាតវៃជាមួយ Llama 3.3 ឬ DeepSeek V3។ ការឆ្លើយតបបែប Streaming ធានាបាននូវ UX ដ៏រលូន។
ការបង្កើតមាតិកា
បង្កើតមាតិកាទីផ្សារ អត្ថបទប្លុក និងអ៊ីមែលដោយស្វ័យប្រវត្តិជាមួយម៉ូឌែល LLM។
ការបង្កើតរូបភាព
បង្កើតរូបភាពប្រកបដោយភាពច្នៃប្រឌិតពី text prompts ជាមួយ Stable Diffusion XL។
ការបំប្លែងសំឡេងជាអត្ថបទ
បំប្លែងសំឡេងទៅជាអត្ថបទជាមួយ Whisper Large v3។ រួមបញ្ចូលទាំងការគាំទ្រភាសាវៀតណាម។
តម្លៃ
Llama 3.3 70B
- Meta Llama 3.3 70B
- API ឆបគ្នាជាមួយ OpenAI
- Context 128K tokens
- គាំទ្រ Streaming
- ពហុភាសា
DeepSeek V3
- DeepSeek V3
- API ឆបគ្នាជាមួយ OpenAI
- Coding & Reasoning
- គាំទ្រ Streaming
- សន្សំសំចៃការចំណាយ
Stable Diffusion XL
- Stability AI SDXL
- REST API
- កម្រិតបង្ហាញ 1024x1024
- គាំទ្រ LoRA
- Negative prompts
រួចរាល់ក្នុងការដាក់ឱ្យដំណើរការហើយឬនៅ?
ចុះឈ្មោះថ្ងៃនេះ ដើម្បីចាប់ផ្ដើមប្រើប្រាស់ Serverless Inference។