Transformers documentation
Variables d'environnement
Variables d'environnement
Les variables booléennes acceptent 1, on, yes ou true, quelle que soit la casse. Toute autre valeur, y compris l'absence de valeur, est fausse.
La plupart de ces variables sont lues une seule fois, lors de l’importation de Transformers. Définissez-les dans votre shell avant de lancer Python, ou avec os.environ avant l’importation. Toute modification ultérieure n’a aucun effet.
TRANSFORMERS_VERBOSITY=info python run.py
La mise en cache et l'accès au Hub sont configurés par les variables HF_* gérées par huggingface_hub, telles que HF_HOME et HF_HUB_OFFLINE. Consultez Installation pour le flux de travail hors ligne.
Journalisation
Transformers journalise au niveau warning. Journalisation documente l’API Python équivalente, y compris logging.set_verbosity().
| Variable | Valeurs | Description |
|---|---|---|
TRANSFORMERS_VERBOSITY | detail, debug, info, warning, error, critical | Niveau de journalisation de la bibliothèque. detail correspond à debug et ajoute le nom du fichier et le numéro de ligne à chaque message. Une valeur non reconnue déclenche un avertissement et bascule sur warning. |
TRANSFORMERS_NO_ADVISORY_WARNINGS | boolean | Silence les avertissements de conseil, ces conseils de bonnes pratiques qui ne signalent pas de problème. |
Chargement du modèle
Les shards de checkpoint sont chargés en parallèle par défaut.
| Variable | Valeurs | Description |
|---|---|---|
HF_DEACTIVATE_ASYNC_LOAD | boolean | Charge les shards sur le thread principal plutôt que sur un pool de threads. Plus lent, mais la mémoire de pointe est plus facile à évaluer. Le chargement est déjà séquentiel lorsque device_map décharge sur le disque ou lors d’une quantification à la volée, de sorte que cela n’affecte que les chargements autrement parallèles. |
DISABLE_SAFETENSORS_CONVERSION | boolean | Empêche Transformers de demander au bot de conversion du Hub une version safetensors d’un dépôt qui ne fournit que des poids PyTorch .bin. Utile à configurer dans les pipelines CI, où cette requête ajoute de la latence et une instabilité réseau. |
Kernels et backends
Les noyaux optimisés sont téléchargés depuis le Hub lorsque kernels est installé et que le matériel les prend en charge. Désactivez-les pour isoler une différence numérique ou un plantage.
| Variable | Valeurs | Description |
|---|---|---|
USE_HUB_KERNELS | booléen, activé par défaut | Définissez une valeur fausse pour revenir aux implémentations de référence. |
TRANSFORMERS_DISABLE_DEEPGEMM_LINEAR | 1 | Force le repli sur Triton au lieu de DeepGEMM pour les couches linéaires FP8 dans la quantification FP8 fine. |
TRANSFORMERS_DISABLE_TORCH_CHECK | 1 | Ignore la vérification de la version minimale de PyTorch lors de l'importation. |
TRANSFORMERS_SDPA_FORCE_GQA | 1 | Force PyTorch SDPA à utiliser enable_gqa=True pour l'attention à requêtes groupées. Sinon, Transformers choisit entre définir enable_gqa=True et répéter les têtes de clé/valeur. |
Update on GitHub
TRANSFORMERS_DISABLE_TORCH_CHECKsupprime une garde-fou plutôt que de modifier le comportement. Sur une version de PyTorch non prise en charge, vous obtiendrez des erreurs d’importation ou des résultats incorrects sans avertissement, au lieu d’un message clair.