Bảo mật API Key AI và kiểm soát chi phí
Bảo vệ workload bằng khóa riêng, quota, hết hạn, giới hạn mô hình, IP allowlist và chính sách định tuyến có thể kiểm tra.
AI API Key nên xác định một workload có thể kiểm soát, không đại diện toàn bộ tổ chức mãi mãi. Tách khóa giúp quản lý độc lập quyền, quota, định tuyến, luân chuyển và chi phí mà không dùng chung một Secret cho các ứng dụng không liên quan.
Một khóa cho mỗi workload
Tách production API, background worker, development, CI, coding agent, ứng dụng khách hàng, cộng tác viên tạm thời và batch tốn kém. Tên như prod-support-agent mô tả môi trường và mục đích mà không lộ Secret.
Giữ toàn bộ khóa trong Secret Manager phía server. Không đặt trong JavaScript trình duyệt, gói mobile, repository, image, ảnh chụp, ticket, analytics, log, URL hoặc ví dụ thật. Trình duyệt nên gọi backend riêng, nơi xác thực người dùng và giữ khóa. Nếu có thể bị lộ, tạo khóa thay thế, chuyển traffic rồi thu hồi khóa cũ.
Kết hợp quota, hết hạn và mô hình
Quota hữu hạn giới hạn usage quy cho khóa; ngày hết hạn giới hạn tuổi thọ; revoke dừng quyền truy cập mới ngay lập tức. Khóa development, đánh giá và tạm thời thường cần cả quota và ngày. Production có thể cần mức lớn hơn nhưng vẫn nên có phân bổ riêng và kế hoạch luân chuyển.
Giới hạn mô hình tránh vô tình dùng lựa chọn không tương thích hoặc đắt tiền và tạo ranh giới 403 rõ. Thấy mô hình không đảm bảo endpoint hỗ trợ định dạng; kiểm tra Mô hình & Giá.
Chỉ dùng IP với egress ổn định
Allowlist so sánh địa chỉ Modelflare quan sát với IP hoặc CIDR. Thay đổi NAT, proxy, IPv4/IPv6 hoặc mạng có thể chặn traffic. Xác minh egress thật và giữ đường luân chuyển khẩn cấp. IP không thay thế bảo vệ Secret.
Chọn định tuyến có chủ đích
| Loại | Hành vi | Phù hợp |
|---|---|---|
| API Key thường | Nhóm chính và dự phòng có thứ tự | Workload cần thứ tự và policy cố định |
| Smart API Key | Đánh giá nhóm theo cân bằng, ổn định hoặc giá thấp | Cần lựa chọn tự động rộng hơn |
Định tuyến chọn nhóm phù hợp cho mô hình được yêu cầu, không đảm bảo mọi tính năng. Thử tương thích, độ trễ và giá theo định tuyến ổn định.
Luân chuyển an toàn
- Tạo khóa mới với giới hạn dự kiến.
- Cài vào hệ thống Secret và deploy khi vẫn giữ khóa cũ.
- Xác minh quyền, một request thật và bản ghi mới.
- Xóa khóa cũ khỏi mọi deployment.
- Thu hồi và theo dõi truy cập còn sót.
Khi tách khóa, có thể so sánh mô hình, nhóm, input, output, status, retry và chi phí. Quota dừng usage tiếp theo; bản ghi giải thích phần đã dùng. Xem Theo dõi chi phí AI API.
Ma trận hạn mức, hiệu lực và thu hồi
Mỗi biện pháp giới hạn điều gì
| Biện pháp | Mục đích chính |
|---|---|
| Hạn mức hữu hạn | Giới hạn tổng mức sử dụng quy cho khóa |
| Hạn mức không giới hạn | Chỉ bỏ trần của khóa; các chính sách khác vẫn áp dụng |
| Ngày hết hạn | Kết thúc quyền truy cập sau ngày đã định |
| Vô hiệu hóa hoặc thu hồi | Dừng ngay quyền truy cập mới |
Hạn mức không giới hạn điều gì
Hạn mức không thay thế giới hạn song song, kiểm soát thử lại hay bảo vệ secret. Đợt tăng tải hoặc vòng lặp lỗi có thể nhanh chóng dùng hết phần còn lại.
Giới hạn mô hình cho workload cụ thể
Danh sách mô hình được phép ngăn việc dùng lựa chọn không tương thích hoặc đắt bất ngờ và tạo ranh giới 403 rõ ràng. Danh sách phải khớp endpoint; nhìn thấy mô hình không bảo đảm cùng giao thức và tính năng.
Nối chính sách khóa với rà soát chi phí
Lọc bản ghi theo khóa rồi so sánh mô hình, nhóm, đầu vào, đầu ra, trạng thái, lần thử lại và chi phí. Hạn mức có thể dừng sử dụng tiếp theo; bản ghi giải thích phần đã tiêu thụ.
Danh sách kiểm tra khóa API
- Một khóa cho mỗi ứng dụng, môi trường hoặc workload chịu trách nhiệm.
- Không có secret trong trình duyệt, repository, log, URL hoặc ảnh chụp.
- Hạn mức hữu hạn và ngày hết hạn cho mục đích tạm thời hoặc thử nghiệm.
- Giới hạn mô hình cho workload cụ thể.
- Quy tắc IP chỉ dùng với egress ổn định đã xác minh.
- Thứ tự tuyến dự phòng rõ ràng hoặc chiến lược Smart được chọn có chủ đích.
- Kiểm tra luân chuyển trước khi bỏ khóa cũ.
- Rà soát sử dụng và chi phí sau mỗi thay đổi chính sách.
Câu hỏi thường gặp
Khóa không giới hạn hạn mức có bỏ mọi giới hạn chi tiêu không?
Không. Nó chỉ bỏ trần ở cấp khóa. Số dư tài khoản, giá mô hình, chính sách nhóm và giới hạn yêu cầu vẫn áp dụng.
Nhiều khóa có thể vượt rate limit không?
Không nhất thiết. Giới hạn có thể áp dụng cho tài khoản, nhóm hoặc tuyến. Khóa dùng để tách quyền và phân bổ, không phải cách vượt giới hạn chưa được kiểm chứng.
Chỉ thêm allowlist IP sau khi khóa bị lộ đã đủ chưa?
Chưa đủ. Đường mạng và cấu hình có thể thay đổi. Hãy luân chuyển thông tin xác thực đã lộ và bảo vệ nơi lưu trữ cùng quá trình deployment.