Lancer un prototype d'IA générative en entreprise ne consiste plus à chercher le meilleur modèle du moment. Le classement change tous les deux mois, alors que les contraintes qui décident vraiment, elles, ne bougent pas : quelles données sortent de chez vous, combien coûte un cas traité, et qui exploitera la machine dans deux ans. Voici comment trancher en quelques jours plutôt qu'en quelques mois.

Un modèle ne se choisit pas pour un projet, mais pour une tâche

La première erreur de cadrage consiste à raisonner par application. Un prototype d'IA générative enchaîne presque toujours trois ou quatre tâches de nature différente : classer un document entrant, en extraire des champs structurés, rechercher un passage dans une base documentaire, puis rédiger un texte relu par un humain. Ces tâches n'ont ni les mêmes exigences ni le même prix.

Le classement et le routage se contentent d'un petit modèle rapide, avec une sortie contrainte par un schéma. Seule la rédaction ouverte justifie réellement un grand modèle. Choisir un modèle unique pour l'ensemble de l'application revient à payer le tarif du plus exigeant sur la totalité du volume. Commencez donc par lister les tâches, la nature de la sortie attendue (structurée ou libre) et le volume quotidien de chacune : cette liste tient sur une page et vaut mieux qu'un comparatif de benchmarks.

Trois voies, trois profils de risque

Pour un prototype, trois options se présentent, et le choix se joue plus sur le risque que sur la performance brute.

  • L'API d'un grand éditeur international : mise en route la plus rapide, catalogue le plus large, mais dépendance à une grille tarifaire et à une juridiction que vous ne maîtrisez pas.
  • L'API d'un fournisseur européen : la même simplicité d'intégration, des données traitées dans l'Union et un contrat en français, avec un catalogue plus resserré.
  • Un modèle à poids ouverts auto-hébergé : maîtrise complète du flux et coût prévisible, mais vous devenez l'exploitant de la machine, avec les mises à jour, la supervision et la capacité à absorber les pics.

Si votre secteur impose un hébergement qualifié, vérifiez la liste officielle des offres SecNumCloud publiée par l'ANSSI sur cyber.gouv.fr plutôt que les pages commerciales : une dizaine d'offres sont qualifiées et le mouvement continue, Numspot ayant annoncé le 1er septembre 2026 la qualification de son offre d'infrastructure. Ne confondez pas les niveaux : la qualification porte sur l'hébergeur, pas sur le modèle que vous y faites tourner.

Poids ouverts n'est pas logiciel libre : lisez la licence dès la première semaine

C'est le point le plus souvent découvert trop tard. Beaucoup de modèles présentés comme open source sont en réalité à poids ouverts : les fichiers sont téléchargeables, mais la licence encadre l'usage commercial. La licence communautaire de Llama impose ainsi de demander une licence distincte à Meta au-delà de 700 millions d'utilisateurs actifs mensuels, accordée ou refusée à sa seule discrétion ; l'Open Source Initiative comme la Free Software Foundation estiment pour cette raison qu'il ne s'agit pas d'une licence open source. Du côté de Mistral, la page de tarification consultée le 20 septembre 2026 indique que l'auto-hébergement est possible partout, que les modèles à poids ouverts comme Mistral 7B sont sous Apache 2.0 pour la recherche et l'usage individuel, mais qu'un déploiement commercial requiert une licence Mistral, avec des conditions distinctes pour les modèles dérivés et la mise en production.

La vérification des licences est une tâche de trente minutes en semaine 1. Menée en semaine 20, elle se transforme en réécriture.

Le coût réel : le prix du jeton n'est pas le coût du cas traité

Les grilles tarifaires s'expriment au million de jetons, ce qui ne dit rien de votre facture. Pour fixer un ordre de grandeur relevé le 20 septembre 2026 sur la page de tarification de Mistral, Mistral Large est facturé 0,50 dollar par million de jetons en entrée et 1,50 dollar en sortie. Trois mécanismes déplacent fortement ce chiffre : le traitement par lots réduit le prix de 50 %, les jetons d'entrée mis en cache font baisser le coût d'entrée jusqu'à 90 % sur des instructions répétées, et certaines briques obéissent à une autre unité (l'océrisation se facture par tranche de 1 000 pages, les modèles vocaux à la minute, certaines API d'outils à l'appel).

Ce qu'il faut calculer n'est donc pas un prix au jeton mais un coût complet par cas traité : le document moyen, ses instructions, les reprises éventuelles et le temps de relecture humaine. En auto-hébergé la logique s'inverse, le coût devenant fixe et indépendant du volume. Sur un prototype à faible volume, l'API gagne presque toujours ; sur un traitement de masse récurrent, la machine dédiée reprend l'avantage.

Quatre questions qui décident, aucune ne porte sur le classement des modèles

  1. Quelles données sortent de chez vous, et sous quelle juridiction ? Répondez document par document, pas application par application.
  2. Le volume est-il régulier ou par à-coups ? Un compteur à l'usage convient aux volumes irréguliers, un coût fixe aux volumes réguliers.
  3. Qui exploite la machine dans deux ans ? L'auto-hébergement n'a de sens que si une personne nommée en assume la charge.
  4. Que se passe-t-il si ce modèle est retiré ou si son prix double ? Isolez les appels derrière une couche d'accès unique pour pouvoir changer de fournisseur sans toucher à la logique métier.

Mesurer sur un jeu d'épreuve, jamais sur une démonstration

Une démonstration réussie ne prouve rien. Constituez un jeu de 30 à 50 cas réels, incluant volontairement les documents pénibles, puis rejouez exactement le même jeu sur chaque candidat. Appliquez au passage les recommandations de la CNIL sur le développement des systèmes d'IA, finalisées le 22 juillet 2025 sous la forme de treize fiches pratiques couvrant tout le cycle de vie : en phase de prototype, on travaille sur des données fictives ou anonymisées.

Trois indicateurs suffisent : le taux de réponse exacte, le taux d'abstention (un modèle qui dit ne pas savoir vaut mieux qu'un modèle qui invente) et le coût par cas. Figez la version exacte du modèle et de vos instructions, sinon vos mesures ne sont pas comparables d'une semaine à l'autre.

Côté conformité, gardez en tête le calendrier du règlement européen sur l'IA : obligations des fournisseurs de modèles à usage général depuis le 2 août 2025, transparence sur les agents conversationnels et les contenus générés depuis le 2 août 2026, obligations relatives aux systèmes à haut risque repoussées au 2 décembre 2027 pour l'annexe III et au 2 août 2028 pour l'annexe I. Les cinq erreurs que nous voyons le plus souvent : choisir le modèle avant d'avoir décrit la tâche, tester sur des cas faciles, oublier la licence, laisser le modèle écrire directement en production, et ouvrir le compte fournisseur au nom du prestataire plutôt qu'au nom de l'entreprise.

Questions fréquentes

Faut-il un modèle open source pour garder la maîtrise de ses données ?

Non. Ce qui protège vos données, c'est le lieu de traitement et le contrat, pas la licence du modèle. Une API européenne avec un engagement contractuel clair peut être plus protectrice qu'un modèle à poids ouverts hébergé n'importe où.

Combien coûte un prototype d'IA générative en entreprise ?

Le poste dominant n'est presque jamais la consommation de jetons, qui reste faible sur un prototype, mais le temps de cadrage, la constitution du jeu d'épreuve et l'intégration au système existant. Raisonnez en semaines de travail plutôt qu'en dollars par million de jetons.

Peut-on utiliser des données clients réelles pendant le prototype ?

Par principe non. Les recommandations de la CNIL privilégient des données fictives ou anonymisées en développement et en test, le recours à des données réelles restant une exception encadrée, dans un environnement sécurisé au niveau de la production.

Faut-il entraîner un modèle sur mesure ?

Rarement au stade du prototype. Un bon découpage des tâches, des instructions précises et une recherche documentaire bien construite règlent la majorité des cas. L'ajustement fin se justifie quand un format ou un vocabulaire métier très particulier résiste malgré tout.

Comment éviter de se retrouver enfermé chez un fournisseur ?

Trois précautions dès le premier jour : une couche d'accès unique qui isole les appels au modèle, des instructions et des jeux d'épreuve conservés dans votre dépôt de code, et les comptes fournisseurs ouverts au nom de l'entreprise avec deux administrateurs internes.

Vous hésitez entre une API et un modèle auto-hébergé pour votre premier cas d'usage ? Nous cadrons et mesurons ce choix sur vos propres documents, dans le cadre d'un prototype court. Parlons de votre projet.