Thay thế OpenRouter: chọn API AI giá rẻ theo cấu trúc chi phí
Điểm chính
- Phần lớn người tìm một nền tảng thay thế OpenRouter đang muốn thứ rẻ hơn hoặc miễn phí. Cách đặt vấn đề đó che mất lựa chọn quan trọng hơn: bạn muốn tự vận hành tầng định tuyến, hay mua nó từ người khác.
- Hai sản phẩm khác nhau dùng chung một cái tên. Gateway tự dựng là phần mềm bạn chạy, và bạn phải tự cấp một khóa cho từng nhà cung cấp phía sau. Nền tảng tổng hợp có thu phí là dịch vụ bạn mua, và một khóa dùng được cho mọi model mà họ bán lại.
- Với nền tảng tổng hợp, con số niêm yết là thông tin ít giá trị nhất. Ba thứ quyết định chi phí thật: đơn giá từng model được suy ra thế nào, yêu cầu lỗi có bị trừ phí không, và có bản ghi usage theo từng yêu cầu để đối chiếu không.
- Tương thích giao thức là thứ làm việc chuyển đổi trở nên rẻ. Nếu nền tảng mới nhận cùng dạng yêu cầu, việc di chuyển là hai giá trị — base URL và khóa — chứ không phải viết lại code.
Hai sản phẩm, một cái tên
Từ "thay thế" đang gánh quá nhiều nghĩa trong truy vấn này. Kết quả trả về trộn hai nhóm hỏng theo hai cách hoàn toàn khác nhau.
Gateway tự dựng là tầng định tuyến do bạn triển khai và kiểm soát. Nó chuẩn hoá yêu cầu giữa các nhà cung cấp, nhưng nó không tạo ra hạn mức: mọi model phía sau vẫn cần khóa riêng, hạn mức riêng và quan hệ thanh toán riêng. Bạn đổi lấy quyền kiểm soát, và nhận về phần vận hành.
Nền tảng tổng hợp có thu phí là đánh đổi ngược lại. Bạn giữ một khóa, còn nhà vận hành giữ quan hệ với các nhà cung cấp. Bạn được một điểm tích hợp và một khoản phải trả, đồng thời chấp nhận rằng chất lượng định tuyến và sổ sách là việc của người khác.
Không cái nào là bản hạ cấp của cái kia. Chúng giải hai bài toán khác nhau, và phần lớn nhầm lẫn trong truy vấn này đến từ việc đem hai nhóm so với nhau chỉ bằng giá.
| Câu hỏi | Gateway tự dựng | Nền tảng tổng hợp |
|---|---|---|
| Ai cấp khóa cho từng model | Bạn, mỗi nhà cung cấp một khóa | Nhà vận hành, một khóa cho bạn |
| Prompt của bạn đi qua đâu | Do hạ tầng của bạn quyết định | Do định tuyến của nhà vận hành quyết định |
| Bạn trả tiền cho ai | Từng nhà cung cấp, riêng lẻ | Một số dư duy nhất với nhà vận hành |
| Thứ hỏng trước tiên | Cấu hình của bạn và tài khoản các nhà cung cấp | Hạn mức phía sau của nhà vận hành |
| Thứ bạn tự kiểm được | Mọi thứ, vì bạn chạy nó | Chỉ những gì nhà vận hành công khai |
Điều gì quyết định chi phí thật
Nếu bạn đang so các nền tảng có thu phí với nhau, đơn giá mỗi triệu token chỉ là điểm khởi đầu. Ba câu hỏi dưới đây mới làm con số đó thay đổi:
- Đơn giá từng model được suy ra thế nào? Một con số công khai chỉ có nghĩa khi bạn biết nó là bội số của cái gì. Nền tảng nói rõ đơn giá là bội số của một mức tham chiếu được nêu tên là đang cho bạn xem cách tính; nền tảng chỉ đưa một con số trần là đang đề nghị bạn tin.
- Yêu cầu lỗi có bị trừ phí không? Vòng lặp agent vốn thử lại. Nếu một yêu cầu trả về lỗi vẫn bị trừ phí, một tuyến chập chờn âm thầm biến thành vấn đề chi phí thay vì vấn đề khả dụng.
- Có bản ghi usage theo từng yêu cầu không? Số token, số tiền bị trừ, và mã định danh yêu cầu. Không có nó thì bạn không đối chiếu được giữa đã trả và đã dùng, nghĩa là cũng không kiểm được hai điểm trên.
Cách tự kiểm tra: gửi một yêu cầu lỗi có chủ đích — sai tên model là cách đơn giản nhất — rồi tìm nó trong bản ghi usage. Có hay không có nó cho bạn biết yêu cầu lỗi có bị trừ phí, và bản ghi có tồn tại hay không.
So theo cấu trúc, đừng so theo giá niêm yết
Một đơn giá bạn không tách được thì bạn không so được. Hai nền tảng có thể niêm yết cùng một con số và cho ra tổng chi phí mỗi tháng rất khác nhau, vì khác biệt nằm ở ba chỗ:
- Mức tham chiếu. Cùng một model có thể được tính theo các mốc gốc khác nhau. Nếu nền tảng không nêu mốc gốc, hai nền tảng "rẻ" chưa chắc so được với nhau.
- Cách chia token. Token đầu vào, đầu ra và token đọc từ cache thường có đơn giá khác nhau. Dịch vụ chỉ công bố một con số cho cả ba đã bỏ khỏi phép so phần quan trọng nhất.
- Quy tắc làm tròn. Mức tối thiểu mỗi yêu cầu và quy tắc làm tròn nhỏ ở từng lần gọi và lớn ở từng tháng. Chúng thuộc về phép so, mà ít khi có trên trang giá.
Cách tự kiểm tra: chọn một model bạn thật sự dùng, gửi một yêu cầu mà bạn kiểm soát được kích thước đầu vào và đầu ra, rồi so số token do response tự báo với số tiền bị trừ. Làm hai lần, một lần đầu vào lớn và một lần đầu vào nhỏ. Hai điểm dữ liệu là đủ để thấy cách chia token có được áp dụng hay bị làm phẳng.
Quy trình kiểm chứng trong một buổi
Bạn không cần thời gian dùng thử để đánh giá một nền tảng tổng hợp. Bạn cần một khóa và khoảng hai mươi phút.
- Gửi một yêu cầu ngắn và ghi lại số token đầu vào, đầu ra mà response báo.
- Mở bản ghi usage của chính yêu cầu đó trên nền tảng, đối chiếu cả số token và số tiền bị trừ.
- Gửi một yêu cầu chắc chắn lỗi, rồi xem nó có xuất hiện như một khoản bị trừ hay không.
- Gửi một yêu cầu có đầu vào lớn, đo được, và xác nhận phần đầu vào cùng phần đọc từ cache được tính khác với phần đầu ra.
Bước 2 và 3 là phần lõi. Một nền tảng khớp ở cả hai bước là đang cho bạn xem sổ sách của chính họ, và sổ sách là thứ kiểm chứng được. Một nền tảng không có bản ghi theo từng yêu cầu là đang để bạn tự tìm hiểu sau.
Câu hỏi thường gặp
Gateway tự dựng có phải là nền tảng tổng hợp không? Không, và khác biệt nằm ở chỗ hạn mức đến từ đâu. Gateway định tuyến những yêu cầu mà bạn đã có quyền gọi. Nền tảng tổng hợp bán cho bạn quyền gọi đó. Bạn hoàn toàn có thể chạy gateway trên khóa của một nền tảng tổng hợp, và đó là lý do hai thứ này hay bị lẫn.
Chuyển sang nền tảng khác có phải sửa code không? Thường là không, nếu nền tảng mới hiện thực cùng dạng yêu cầu. Thứ phải đổi là base URL và khóa; SDK, prompt và công cụ phía trên giữ nguyên. Hãy xác nhận đúng đường dẫn endpoint trước khi di chuyển, vì cam kết tương thích nói về giao thức chứ không nói về mọi trường tuỳ chọn.
Vì sao lựa chọn rẻ nhất chưa chắc rẻ nhất theo tháng? Vì đơn giá từng lần gọi che mất hành vi theo tháng. Trừ phí cho yêu cầu lỗi, mức tối thiểu mỗi yêu cầu và cách tính phần đọc từ cache đều tăng theo lưu lượng chứ không tăng theo đơn giá. Một phép so chỉ nhìn đơn giá sẽ xếp hạng nền tảng khác với chi phí thật của bạn.
Làm sao biết nền tảng đang định tuyến tới hạn mức thật? Từ bên ngoài thì không biết được, và đó là lý do bản ghi usage quan trọng hơn mọi lời tuyên bố. Một bản ghi theo từng yêu cầu kèm số token và số tiền bị trừ được tạo ra bởi một hệ thống sổ sách, và sổ sách là thứ kiểm chứng được. Cách kiểm tra theo cộng đồng — hỏi thẳng model "bạn là ai" — là bằng chứng yếu, nhưng vẫn hơn không có gì.
Việc cần làm tiếp
Hai trang công khai trả lời phần lớn câu hỏi còn lại trước khi bạn quyết định. model plaza công khai đơn giá từng model và hệ số từng nhóm mà không cần đăng nhập, để bạn tách một đơn giá ra thay vì so một con số niêm yết. Trang trạng thái cho thấy từng nhóm đang chạy thế nào, kể cả lúc chạy không tốt.
Nếu bạn còn đang chọn giữa hai nhóm, Mua API key giá rẻ: 7 điều cần kiểm tra đi qua các câu hỏi ở mức nhà vận hành, còn Một khóa cho mọi model nói về phần cấu hình phía client. Phần endpoint và khóa được ghi trong tài liệu tiếng Việt, và trang hoàn tiền ghi rõ quy trình cùng thời hạn xử lý.