Thuật ngữ
Temperature (độ ngẫu nhiên)
Temperature là thiết lập điều chỉnh cách AI chọn từ ngữ: để thấp thì câu trả lời ổn định, an toàn; để cao thì đa dạng, sáng tạo hơn nhưng cũng dễ lệch và bịa hơn.
Bên dưới lớp vỏ, một LLM không chọn duy nhất một “từ tiếp theo”; nó cân nhắc rất nhiều từ ứng viên cùng lúc. Temperature quyết định cách nó chọn trong số đó. Gần bằng không: luôn chọn phương án an toàn nhất, nên cùng một câu hỏi sẽ cho gần như cùng một câu trả lời mỗi lần. Để cao hơn: những từ ít gặp cũng có cơ hội xuất hiện, nên câu trả lời đa dạng và bất ngờ hơn.
Hãy hình dung hai đầu bếp. Temperature thấp là người làm theo công thức từng gram một, rất hợp khi bạn cần bản tóm tắt hóa đơn chính xác và lặp lại được y hệt. Temperature cao là người hay ngẫu hứng: đúng kiểu bạn muốn khi nhờ “cho mình mười cái tên lạ tai đặt cho các vị kem”, nhưng lại là người bạn không muốn nhờ làm sổ sách thuế.
Bạn không chỉnh được temperature trong ứng dụng chat thông thường của ChatGPT hay Claude; các nền tảng đã chọn sẵn giá trị hợp lý cho bạn. Đây là một núm xoay dành cho người lập trình dùng API. Dù vậy vẫn nên biết, vì nó giải thích vì sao cùng một câu lệnh lại cho câu trả lời khác nhau mỗi lần, và vì sao bấm “tạo lại” là một cách làm hợp lý.
Bạn gặp thuật ngữ này ở đâu
- Dưới dạng thanh trượt (thường từ 0 đến 1 hoặc 2) trong các bảng thử nghiệm API của OpenAI, Anthropic, Google và Mistral.
- Trong phần cài đặt của các ứng dụng AI dành cho người lập trình.
- Trong tài liệu kỹ thuật và hướng dẫn dành cho lập trình viên ở khắp nơi.