Grace
Guides

Activer la pertinence

Réduire les tokens servis en filtrant les talents pertinents pour la tâche.

Par défaut, grace_resolve_context compile tous les talents actifs et pertinents pour le rôle — la tâche ne sert qu'au tri, pas à l'inclusion. Pour une tâche front sur un projet backend, le resolve peut donc renvoyer beaucoup de talents inutiles. Le filtrage par pertinence sémantique ne garde que les talents pertinents pour la tâche.

Activer le flag

La pertinence est derrière un feature flag (par défaut off, repli sans régression) :

GRACE_RELEVANCE=embeddings   # off (défaut) | embeddings

Quand off, le moteur n'est pas chargé et le comportement est strictement inchangé.

Comment ça marche

Le moteur combine trois signaux (modèle Xenova/multilingual-e5-small via Transformers.js, in-process) :

  1. Embeddings centrés — similarité cosinus entre la tâche et chaque talent, après soustraction du centroïde (anti-anisotropie).
  2. Boost structurel — recouvrement de stems entre la tâche et les tags + triggers + task_types du talent.
  3. Double-porte hors-domaine + marge + budget tokens — une tâche sans aucun recouvrement ni proximité sémantique ne retient aucun talent ; sinon on garde le cluster sous le pic, plafonné en tokens.

Sur le banc d'essai (7 tâches réelles, 17 talents), l'approche retenue économise 64–100 % de tokens selon la tâche, sans dégrader les tâches on-topic.

Paramètres

Quatre paramètres ajustent la sélection (valeurs par défaut entre parenthèses) :

VariableRôleDéfaut
GRACE_RELEVANCE_FLOORseuil de similarité sous lequel une tâche est jugée hors-domaine0.18
GRACE_RELEVANCE_BETApoids du boost structurel (recouvrement de stems)0.12
GRACE_RELEVANCE_MARGINlargeur du cluster gardé sous le meilleur score0.15
GRACE_RELEVANCE_BUDGETplafond de tokens des talents retenus2000
GRACE_RELEVANCE_MODELmodèle d'embeddingsXenova/multilingual-e5-small
  • Augmenter FLOOR → plus de tâches jugées hors-domaine (moins de talents servis).
  • Augmenter MARGIN → cluster plus large (plus de talents servis).
  • Augmenter BUDGET → plafond de tokens plus haut.

Cache du modèle

Le modèle (~110 Mo) est téléchargé au premier boot puis réutilisé. Pointe TRANSFORMERS_CACHE (ou HF_HOME) vers un volume persistant pour éviter de le re-télécharger à chaque redémarrage. Impact RAM : ~150–250 Mo quand le flag est actif.

→ Détail de l'algorithme dans Architecture → Pertinence sémantique.

On this page