Biến môi trường

Biến Boolean chấp nhận 1, on, yes hoặc true ở bất kỳ kiểu chữ hoa/thường nào. Mọi giá trị khác, bao gồm cả khi chưa được đặt, đều là false.

Hầu hết các biến này chỉ được đọc một lần, khi Transformers được import. Hãy đặt chúng trong shell của bạn trước khi khởi động Python, hoặc bằng os.environ trước khi import. Việc thay đổi chúng sau đó sẽ không có hiệu lực.

TRANSFORMERS_VERBOSITY=info python run.py

Caching và truy cập Hub được cấu hình bởi các biến HF_* do huggingface_hub quản lý, chẳng hạn như HF_HOME và HF_HUB_OFFLINE. Xem Cài đặt để biết quy trình làm việc ngoại tuyến.

Ghi nhật ký

Transformers ghi log ở mức warning. Ghi log mô tả API Python tương đương, bao gồm logging.set_verbosity().

Biến	Giá trị	Mô tả
`TRANSFORMERS_VERBOSITY`	`detail`, `debug`, `info`, `warning`, `error`, `critical`	Mức độ nhật ký của thư viện. `detail` khớp với `debug` và thêm tên tệp cùng số dòng vào mỗi thông báo. Một giá trị không được công nhận sẽ cảnh báo và quay về `warning`.
`TRANSFORMERS_NO_ADVISORY_WARNINGS`	boolean	Tắt các cảnh báo tư vấn, những gợi ý về thực hành tốt nhất không chỉ ra một vấn đề nào.

Tải mô hình

Các shard checkpoint được tải song song theo mặc định.

Biến	Giá trị	Mô tả
`HF_DEACTIVATE_ASYNC_LOAD`	boolean	Tải các shard trên luồng chính thay vì trên một nhóm luồng. Chậm hơn, nhưng bộ nhớ đỉnh dễ suy luận hơn. Việc tải vốn đã tuần tự khi `device_map` offload ra đĩa hoặc khi lượng tử hóa trực tiếp, nên điều này chỉ ảnh hưởng đến các lần tải vốn song song.
`DISABLE_SAFETENSORS_CONVERSION`	boolean	Ngăn Transformers yêu cầu bot chuyển đổi của Hub một phiên bản safetensors cho kho chỉ chứa trọng số `.bin` của PyTorch. Đáng để cấu hình trong CI, nơi yêu cầu này làm tăng độ trễ và gây ra sự không ổn định của mạng.

Kernels và backends

Các kernel tối ưu được tải xuống từ Hub khi kernels được cài đặt và phần cứng hỗ trợ chúng. Tắt chúng đi để cô lập một sự khác biệt về số học hoặc một sự cố crash.

Biến	Giá trị	Mô tả
`USE_HUB_KERNELS`	boolean, được bật theo mặc định	Đặt thành giá trị false để quay lại các cài đặt tham chiếu.
`TRANSFORMERS_DISABLE_DEEPGEMM_LINEAR`	`1`	Buộc sử dụng phương án dự phòng Triton thay vì DeepGEMM cho các lớp tuyến tính FP8 trong lượng tử hóa FP8 chi tiết.
`TRANSFORMERS_DISABLE_TORCH_CHECK`	`1`	Bỏ qua việc kiểm tra phiên bản PyTorch tối thiểu khi import.
`TRANSFORMERS_SDPA_FORCE_GQA`	`1`	Buộc PyTorch SDPA sử dụng `enable_gqa=True` cho grouped-query attention. Nếu không, Transformers sẽ chọn giữa việc đặt `enable_gqa=True` và việc lặp lại các đầu key/value.

TRANSFORMERS_DISABLE_TORCH_CHECK loại bỏ một lớp bảo vệ thay vì thay đổi hành vi. Trên phiên bản PyTorch không được hỗ trợ, bạn sẽ gặp lỗi import hoặc kết quả sai một cách im lặng thay vì một thông báo rõ ràng.

Update on GitHub