Mỗi trợ lý cấu hình được một model dự phòng
Bên cạnh model chính, bạn chỉ định thêm một model ở trạng thái sẵn sàng. Đây là một phần cấu hình của trợ lý và được lưu cùng phiên bản khi xuất bản.
Tuỳ chọn model
Doanh nghiệp lựa chọn model, không bị áp đặt từ nhà cung cấp
Phần lớn nền tảng chatbot ràng buộc khách hàng vào một model duy nhất với mức giá do họ ấn định. Tại đây, bạn chọn model cho từng trợ lý, cấu hình model dự phòng, hoặc sử dụng khoá API của chính doanh nghiệp mình.
Các model đang được cung cấp
Danh sách dưới đây lấy trực tiếp từ danh mục model của hệ thống, phản ánh đúng những gì bạn có thể chọn.
| Model | Hạ tầng | Ngữ cảnh | Phạm vi phù hợp |
|---|---|---|---|
| Gemma 3 12BTiết kiệm | Máy chủ đặt tại Việt Nam | 128 nghìn token | Model mã nguồn mở do chúng tôi tự vận hành. Chi phí thấp nhất và dữ liệu lưu trữ trong nước. Phù hợp với các câu hỏi về giá, giờ mở cửa và chính sách đổi trả. |
| Claude Haiku 4.5Tối ưu tốc độ | Anthropic | 200 nghìn token | Tốc độ phản hồi cao, văn phong tiếng Việt tự nhiên, chi phí hợp lý. Phù hợp với các kênh có lưu lượng tin nhắn lớn. |
| Claude Sonnet 5Cân bằng | Anthropic | 1 triệu token | Lựa chọn mặc định cho phần lớn doanh nghiệp: xử lý tốt câu hỏi phức tạp, bám sát tài liệu và hạn chế trả lời lan man. |
| Claude Opus 4.8Cao cấp | Anthropic | 1 triệu token | Dành cho tư vấn nhiều bước và các đơn hàng giá trị cao, khi thiệt hại từ một câu trả lời sai lớn hơn nhiều so với phần chênh lệch chi phí. |
Đã có trong danh mục, đang chờ kích hoạt
Ba model dưới đây đã được khai báo trong hệ thống nhưng chưa mở cho khách hàng lựa chọn. Chúng tôi áp dụng nguyên tắc chỉ kích hoạt một model sau khi đã đối chiếu và cập nhật chính xác bảng giá từ nhà cung cấp, nhằm bảo đảm mức phí công bố luôn đúng với thực tế.
- ChatGPT (GPT-5) · OpenAI
- Gemini 2.5 Flash · Google
- Grok 4 · xAI
Vì sao quyền lựa chọn model lại quan trọng
Đây không phải một tính năng mang tính hình thức. Nó ảnh hưởng trực tiếp tới chi phí hàng tháng và tới nơi dữ liệu của doanh nghiệp được xử lý.
- Không phải kênh nào cũng cần cùng một năng lực xử lý
- Câu hỏi về giờ đóng cửa được model chi phí thấp nhất trả lời chính xác. Ngược lại, một yêu cầu đặt 12 sản phẩm giao Đà Nẵng trong tuần kèm điều kiện thanh toán sau xứng đáng với một model có năng lực cao hơn. Áp dụng chung một model cho mọi hội thoại dẫn tới hoặc lãng phí chi phí, hoặc giảm chất lượng trả lời.
- Doanh nghiệp quyết định dữ liệu có ra nước ngoài hay không
- Model do chúng tôi tự vận hành đặt tại Việt Nam. Khi lựa chọn phương án này, nội dung hội thoại và tài liệu không đi qua hạ tầng của nhà cung cấp nước ngoài. Với các ngành y tế, giáo dục và tài chính, đây thường là điều kiện bắt buộc.
- Thay đổi model không ảnh hưởng tới dữ liệu hiện có
- Kho tri thức, lịch sử hội thoại và các kênh đã kết nối đều được giữ nguyên. Việc đổi model chỉ là điều chỉnh cấu hình trợ lý và xuất bản lại. Vì mỗi lần xuất bản được lưu thành một phiên bản, bạn có thể khôi phục ngay nếu model mới cho kết quả kém hơn.
- Model chưa kích hoạt sẽ bị chặn ở bước xuất bản
- Một model chỉ được mở cho khách hàng lựa chọn sau khi bảng giá đã được đối chiếu và cập nhật chính xác vào hệ thống. Nếu chọn model chưa kích hoạt, hệ thống chặn ngay tại bước xuất bản kèm lý do cụ thể thay vì để trợ lý ngừng phản hồi khi khách hàng liên hệ.
Model dự phòng cho tình huống gián đoạn
Không nhà cung cấp nào duy trì được mức sẵn sàng tuyệt đối. Vấn đề là khách hàng của bạn có tiếp tục được phục vụ trong những thời điểm đó hay không.
Kích hoạt khi model chính không đáp ứng được
Model tự vận hành có giới hạn về số phiên xử lý đồng thời, còn nhà cung cấp nước ngoài có thể quá tải hoặc gián đoạn. Model dự phòng bảo đảm khách hàng vẫn được phản hồi trong những tình huống đó.
Kết hợp phương án tiết kiệm và phương án cao cấp
Nhiều doanh nghiệp sử dụng model đặt tại Việt Nam làm model chính cho phần lớn câu hỏi và một model cloud làm dự phòng cho giờ cao điểm. Cách này giữ chi phí ở mức thấp mà vẫn bảo đảm khách hàng luôn được phục vụ.
Mọi lượt gọi đều ghi nhận model đã sử dụng
Lịch sử sử dụng lưu từng lượt kèm tên model, số token đầu vào, số token đầu ra và số tiền đã trừ, cho phép đối chiếu độc lập.
Sử dụng khoá API của doanh nghiệp (BYOK)
Nếu doanh nghiệp đã có hợp đồng riêng với nhà cung cấp model, bạn không cần thanh toán chi phí model thêm một lần nữa.
- Khai báo khoá API sẵn có của doanh nghiệp vào mục khoá riêng
- Các lượt gọi thực hiện bằng khoá riêng không trừ credits trong ví
- Nhà cung cấp tính phí trực tiếp theo hợp đồng bạn đang có
- Lịch sử sử dụng được gắn nhãn "Khoá riêng" để phân biệt
- Khoá được mã hoá trước khi lưu, không lưu ở dạng văn bản thuần
- Gỡ khoá bất kỳ lúc nào, trợ lý tự động quay lại sử dụng hạ tầng của chúng tôi
Giới hạn hiện tại
Những nội dung hệ thống chưa hỗ trợ
- Chưa tự động chuyển model theo độ phức tạp của từng câu hỏi. Model được cấu hình ở cấp trợ lý, không phải cấp tin nhắn.
- Chưa có báo cáo so sánh chất lượng trả lời giữa các model trên dữ liệu của doanh nghiệp. Bạn có thể tự đánh giá bằng tính năng chạy thử trong bảng điều khiển.
- Model embedding dùng cho kho tri thức là cấu hình riêng của kho, không thay đổi theo model chat.
- Chưa hỗ trợ model tự triển khai trên hạ tầng riêng của khách hàng.
Nội dung liên quan
Đánh giá các model trên chính câu hỏi của khách hàng bạn
Cách lựa chọn model chính xác nhất là kiểm thử thực tế. Đăng ký, nạp tài liệu, đặt ba câu hỏi khó và so sánh kết quả.