Nœud Hugging Face Inference Model n8nConfigurer Hugging Face Inference Model dans n8n.

Désigne le modèle qui génère la complétion. Tout le reste du panneau ne fait que sculpter son comportement, c'est donc le premier champ à remplir et celui qu'on change quand la qualité part dans le décor.

• Model : un champ texte qui porte l'identifiant du modèle ; fixe-le une fois pour un modèle unique, ou pilote-le par une expression {{ $json.model }} quand un nœud précédent décide du modèle item par item.

Oriente le nœud vers une URL de point d'inférence personnalisée au lieu du service par défaut. Laisse le champ vide en usage courant, remplis-le seulement quand le modèle tourne sur une infrastructure que tu maîtrises.

• Custom Inference Endpoint : l'URL du point d'inférence personnalisé, saisie en clair ou récupérée d'un nœud précédent par {{ $json.endpoint }} quand la recette et la production diffèrent.

Les valeurs positives pénalisent les nouveaux tokens en fonction de leur fréquence déjà présente dans le texte, ce qui réduit la probabilité que le modèle répète la même ligne mot pour mot. On y touche quand un texte généré se met à tourner en rond.

• Frequency Penalty : un nombre ; monte-le quand une réponse longue recycle sans arrêt les mêmes formules, laisse-le tranquille sur une sortie factuelle courte où la répétition ne menace personne.

Plafonne le nombre de tokens utilisés par la complétion. Un token est un morceau de texte, à peu près un mot court ou un fragment de mot, et ce réglage décide si la réponse tient en une phrase ou en une page.

• Maximum Number of Tokens : un nombre borné par la longueur de contexte du modèle, qui vaut 2048 tokens pour la plupart d'entre eux, les plus récents montant nettement plus haut.

Ici la pénalité se déclenche dès qu'un token a été vu une fois, ce qui pousse le modèle à ouvrir des sujets nouveaux. Levier différent de Frequency Penalty : l'un combat la répétition, l'autre combat l'enfermement sur un seul sujet.

• Presence Penalty : un nombre ; monte-le quand une sortie de brainstorming tourne autour d'une seule idée, laisse-le au repos quand la consigne est de ne pas s'écarter du sujet.

Contrôle le hasard. En la baissant, les complétions deviennent moins aléatoires, et quand la température approche de zéro le modèle devient déterministe et répétitif. C'est le premier paramètre à toucher quand un workflow a besoin de réponses reproductibles.

• Sampling Temperature : un nombre ; proche de 0 pour du classement ou de l'extraction où la même entrée doit rendre la même sortie, plus haut quand il s'agit d'écrire du neuf.

Fixe le nombre de tokens candidats que le modèle considère dans l'opération d'échantillonnage pour créer le texte suivant. Rétrécir ce vivier maintient la sortie près de la suite la plus évidente.

• Top K : un nombre qui règle la taille de ce vivier de candidats ; une petite valeur serre la génération, une grande laisse revenir des tokens moins probables.

Règle la diversité par échantillonnage du noyau : 0.5 signifie que la moitié des options pondérées par leur vraisemblance sont prises en compte. La recommandation officielle est de modifier ce paramètre ou la température, mais pas les deux ensemble.

• Top P : un nombre ; baisse-le pour ignorer les options les moins probables, et tranche entre lui et Sampling Temperature au lieu de régler les deux en même temps.