Faits vérifiés
- Le modèle de deux milliards de paramètres utilise ColGrep, une recherche sémantique multivecteur, lit les fichiers prometteurs et suit leurs références.
- Sur 52 questions dans treize dépôts non vus à l’entraînement, LightOn rapporte 34 % de tokens API et 40 % de coût API en moins face à grep, cache pris en compte.
- Le billet fournit modèle, variante GGUF, code et article ; aucune différence statistiquement significative d’exactitude n’est rapportée dans ce protocole.
Ce qui change
La recherche dans le dépôt devient une tâche délégable avec un budget propre.
Implication pratique
Mesurer rappel, latence et coût complet face à grep et à la recherche sémantique seule.
Disponibilité
Exécution locale proposée et artefacts publics ; vérifier licence, ressources matérielles et configuration avant adoption.
Limites et incertitudes
Le test est limité et publié par les concepteurs. Les économies API ne signifient pas un gain de temps, ni un coût total nul pour le modèle local.