embedding (plongement)

En profondeur

Le principe tient dans la géométrie. Chaque texte devient un point dans un espace à plusieurs centaines ou milliers de dimensions, et la distance entre deux points mesure leur parenté de sens. Une question et le paragraphe qui y répond se retrouvent ainsi voisins même sans partager un seul mot : « comment résilier mon abonnement » trouve « procédure de fin de contrat ». C’est exactement ce qu’une recherche par mots-clés ne sait pas faire, et c’est ce qui rend le procédé si utile pour retrouver de l’information mal indexée.

La contrepartie est que la ressemblance de sens n’est pas la pertinence. Deux textes peuvent être très proches et pourtant sans rapport avec le besoin : une clause qui interdit quelque chose et une clause qui l’autorise se ressemblent beaucoup, puisqu’elles parlent du même objet. C’est pourquoi les systèmes sérieux ne s’arrêtent pas au plus proche voisin : ils combinent la recherche par sens et la recherche par mots exacts, puis font trier les résultats une seconde fois par un modèle plus coûteux mais plus fin.

Deux règles pratiques évitent les erreurs les plus fréquentes. La première : les embeddings d’un modèle ne sont comparables qu’entre eux ; changer de modèle oblige à tout recalculer, car les espaces n’ont aucune raison de coïncider. La seconde : le découpage du texte avant calcul détermine la qualité de la recherche autant que le modèle lui-même. Un paragraphe entier donne un point moyen, donc flou ; un fragment trop court perd son contexte. C’est un réglage éditorial autant que technique.