Circuit court
Inférence locale
Les modèles tournent ici, en Corrèze. Aucun cloud entre votre prompt et la réponse.
Corrèze (19) · inférence locale · modèles ouverts
Des modèles d'IA qui tournent ici, au milieu des prés. Vos données ne partent pas, ne sont pas conservées, et votre prototype ne vous coûtera pas 500 $ de clé API.
01 — Le droit à l'erreur
Un prototype, ça boucle. Ça se trompe de prompt, ça relance un agent toute la nuit, ça réessaie dix mille fois avant de marcher une fois. Sur une clé cloud, chaque essai a un prix, et le compteur tourne pendant que vous dormez. Ici, pas de compteur au token : le pré est déjà payé.
02 — Ce qui pousse ici
Circuit court
Les modèles tournent ici, en Corrèze. Aucun cloud entre votre prompt et la réponse.
Sans conservateurs
Ni prompts ni réponses ne sont gardés. Vos données traversent le pré, elles n'y restent pas.
Sélection de race
On part d'un modèle ouvert et on l'élève pour votre besoin : votre vocabulaire, vos formats, vos cas limites. Comme la Limousine, mais pour du texte.
Le bouvier
Des agents qui travaillent en troupeau, et un chien de garde qui sait où ils vont et quand les rentrer.
De la fourche à la fourchette
Latence, coût, qualité : tout ce qui compte est mesuré, sans garder vos contenus. Chaque modèle passe ses évals avant de sortir du pré.
Clôture électrique
Une clé par projet, l'accès au strict nécessaire, et une clôture qui pique pour tout le reste.
Conseils du producteur
Je ne loue pas des GPU : je vous aide à faire le prototype, de l'idée à la démo. Le pré est fourni.
Et oui, ça cause aussi : chatbots, assistants, RAG. Mais ce n'est pas le plus intéressant du pré.
03 — Passeport du troupeau
Des modèles ouverts, connus, élevés ici. Le troupeau change avec les saisons.
Qwen · 27 B
Bon pour : code et raisonnement
Qwen
Bon pour : généraliste rapide
GLM
Bon pour : agents et outils
DeepSeek
Bon pour : raisonnement
Qwen · 35 B (3 B actifs)
Bon pour : généraliste léger
Qwen · 9 B
Bon pour : petites tâches, vite
Le veau du troupeau.
Le modèle qu'il vous faut n'est pas au pré ? S'il est ouvert et que les machines le portent, on le fait venir : petit ou costaud, pour l'inférence comme pour le fine-tuning.
Non filtré · À consommer avec discernement
Ce n'est pas aux géants, dans leurs tours de verre, de décider de ce que vous avez le droit de demander. Sur demande, des modèles débridés (abliterated) : pour le red teaming de vos propres systèmes, pour éprouver vos garde-fous, ou pour des réponses franches, sans sermon.
Ils restent dans leur enclos : une clé à part, un usage convenu avec vous. La barrière reste fermée : lâchés dans vos champs, ils dévoreraient toute la récolte.
GPU grand public · 240 Go de VRAM · électricité verte, solaire en cours d'installation
04 — Qui garde le troupeau
Je suis Michel Tomas, CTO externalisé et architecte cloud & IA depuis quinze ans, sous l'enseigne TSBWC. Limousia, c'est le pré derrière l'atelier : là où je prototype, pour moi et avec mes clients. Vous avez une idée qui mérite un prototype ? Ça se passe sur tsbwc.com.
Passer à la ferme