Jev: Mô hình AI phản hồi thần tốc

Trong khi hầu hết các mô hình AI hiện nay đều tập trung tạo ra văn bản, một startup tên TypeSafe đã giới thiệu Jev – mô hình AI hoạt động theo hướng hoàn toàn khác.

Jev không tạo ra câu chữ; thay vào đó, nó nhận dữ liệu và câu hỏi, trả về xác suất cho từng phương án có sẵn. Nhờ cách tiếp cận này, Jev có thể đưa ra các phán đoán nhanh, rẻ, có thể đo lường độ tin cậy, những yếu tố nhiều mô hình ngôn ngữ lớn (LLM) vẫn còn hạn chế.

Jev là gì mà tính nhanh dữ?

Jev được mô tả là “System 1 AI model”, lấy cảm hứng từ cách phân loại tư duy của nhà tâm lý học Daniel Kahneman trong cuốn Thinking, Fast and Slow. Tư duy System 1 là tư duy nhanh, tự động, chẳng hạn khi bạn thấy “2 x 2” lập tức biết đáp án là 4. Ngược lại, System 2 là tư duy chậm, có tính toán và suy luận từng bước.

Theo cách so sánh này, chatbot thông thường gần với System 1 khi tạo câu trả lời token theo token; còn các reasoning model – vốn viết ra chuỗi suy nghĩ trước khi kết luận – giống System 2 hơn.

Jev được thiết kế riêng cho những phán đoán nhanh kiểu System 1: phân loại email, đánh giá mức độ khẩn cấp, chọn bộ phận xử lý, hoặc nhận diện yêu cầu hoàn tiền.

Hoạt động khác LLM ra sao?

Điểm đặc biệt của Jev là nó không tạo ra văn bản. Người dùng cung cấp hai loại đầu vào: state – tức dữ liệu liên quan đến quyết định, ví dụ email chăm sóc khách hàng và lịch sử giao dịch, cùng các câu hỏi cần phân loại. Sau đó Jev trả về xác suất cho từng lựa chọn trong một lần xử lý.

Ví dụ, với email “Tôi bị trừ tiền hai lần trong tháng này, vui lòng xử lý”, Jev có thể trả lời:

• Xác suất đây là yêu cầu hoàn tiền: 90%.
• Xác suất email thuộc nhóm thanh toán: 85%.
• Mức độ khẩn cấp: khá cao hoặc nghiêm trọng.

Khác LLM phải viết kết quả dạng JSON từng token một, Jev trả kết quả gần như ngay lập tức. Chính vì không phải “viết”, mô hình này nhanh hơn, chi phí thấp hơn với những tác vụ phân loại lặp lại.

Điểm mạnh: xác suất được hiệu chỉnh

Jev được huấn luyện bằng phương pháp RLCD – reinforcement learning for calibrated decisions, tức học tăng cường cho các quyết định được hiệu chỉnh.

Nếu Jev nói một dự đoán có độ tin cậy 80%, thì trong thực tế, dự đoán đó sẽ đúng khoảng 80% số lần.

Đây là điểm quan trọng. Nhiều LLM có thể trả lời rất tự tin, nhưng mức tự tin (thái quá) không phải lúc nào cũng tương ứng với xác suất thực. Trong khi đó, với Jev, doanh nghiệp có thể đặt ngưỡng rõ ràng: nếu xác suất trên 90%, hệ thống tự xử lý; nếu nằm trong vùng không chắc chắn, chuyển cho con người; nếu quá thấp, bỏ qua hoặc xử lý theo luồng khác.

Ứng dụng thực tế

Jev phù hợp với các quyết định nhỏ nhưng xuất hiện liên tục trong phần mềm. Ví dụ điển hình là hệ thống chăm sóc khách hàng: mô hình có thể phân loại email là yêu cầu hoàn tiền hay không, chọn đúng đội xử lý và đánh giá mức độ ưu tiên.

Ngoài ra, Jev có thể đóng vai trò “hàng rào an toàn” cho chatbot. Trước khi một câu hỏi hoặc câu trả lời được đưa vào luồng hội thoại, Jev có thể kiểm tra nguy cơ jailbreak, nội dung nhạy cảm hoặc hành vi bất thường.

Không thay thế LLM

Tuy vậy, Jev không phải “vũ khí toàn năng”. Hiện mô hình chỉ nhận đầu vào là văn bản, không mạnh về toán học hay đếm số, vẫn có thể bị đánh lừa bởi hướng dẫn ẩn trong dữ liệu đầu vào. Vì vậy, nó không thay thế hoàn toàn LLM.

Cách dùng hợp lý là kết hợp cả hai: Jev làm các phán đoán nhanh ở đầu quy trình, chẳng hạn phân loại email khách hàng; sau đó LLM đảm nhận phần cần sáng tạo hoặc lập luận sâu hơn, như soạn nội dung trả lời cho khách. Cuối cùng, Jev có thể quay lại phân loại phản hồi tiếp theo. Đây chính là mô hình kép “nhanh – chậm” trong AI: xử lý phần lớn công việc bằng System 1, chỉ gọi System 2 khi thật sự cần.