Khi mới bắt đầu với AI, nhiều người thường chọn mô hình mạnh nhất cho mọi việc. Cách này vẫn hiệu quả, nhưng thường chậm hơn và tốn kém hơn mức cần thiết. Tại phòng lab, chúng tôi xem việc chọn mô hình là một quyết định kỹ thuật, cân nhắc theo từng công việc.
Chia công việc thành từng bước
Một quy trình thường bao gồm nhiều loại công việc rất khác nhau:
- Phân loại và trích xuất — phân loại email, lấy số hóa đơn từ tệp PDF.
- Soạn thảo — viết thư phản hồi hoặc bản tóm tắt theo giọng văn của doanh nghiệp.
- Suy luận — so sánh phương án, phát hiện điểm mâu thuẫn, lập kế hoạch nhiều bước.
Việc phân loại và trích xuất thường có thể giao cho các mô hình nhỏ, nhanh hơn. Những bước cần suy luận phức tạp mới cần đến mô hình mạnh hơn. Kết hợp nhiều mô hình trong cùng một quy trình là điều hoàn toàn bình thường.
Kiểm tra trên chính dữ liệu của bạn
Các bảng xếp hạng chỉ mang tính tham khảo; điều quan trọng là tài liệu và khách hàng của chính bạn. Chúng tôi xây dựng một bộ kiểm tra nhỏ từ các ví dụ thực tế (đã ẩn danh) và so sánh các lựa chọn theo ba tiêu chí:
- Chất lượng — kết quả có chính xác và đúng định dạng không?
- Độ ổn định — mô hình có phản hồi nhất quán qua nhiều lần chạy không?
- Chi phí và tốc độ — mỗi tác vụ tốn bao nhiêu và người dùng phải chờ bao lâu?
Sẵn sàng cho thay đổi
Mô hình AI được cải tiến và giá cả thay đổi sau mỗi vài tháng. Chúng tôi thiết kế để việc lựa chọn mô hình chỉ là một thiết lập đơn giản, nhờ đó việc chuyển đổi sau này chỉ cần thay đổi cấu hình thay vì xây dựng lại — và luôn chạy lại bộ kiểm tra để xác nhận lựa chọn mới thực sự tốt hơn.
Mục tiêu rất rõ ràng: phương án tiết kiệm nhất mà vẫn đáp ứng ổn định tiêu chuẩn chất lượng — không phải phương án ấn tượng nhất.
