Principe
Les modèles peuvent produire des erreurs plausibles (hallucinations) : les sorties doivent être vérifiées. Les données confidentielles (prix, clients, contrats) ne doivent être saisies que dans des outils validés par l'entreprise (versions professionnelles avec engagement de non-réutilisation). Le règlement européen sur l'IA (AI Act) impose des obligations selon le niveau de risque des usages.
Comprendre pas à pas
1. La situation
Un acheteur demande à une IA générative les taux de droits de douane d'un produit et la réglementation applicable. Il obtient une réponse assurée… avec un taux inventé et un règlement qui n'existe pas. Question : quelles sont les limites des IA génératives et comment s'en protéger ?
2. Les principales limites
| Limite | Exemple | Parade |
|---|---|---|
| Hallucinations | référence réglementaire ou chiffre inventé, présenté avec assurance | vérifier dans les sources officielles |
| Connaissances datées | ignore une réglementation récente | demander les sources, vérifier les dates |
| Calculs | erreurs arithmétiques sur de gros tableaux | refaire les calculs dans un tableur ou demander du code |
| Confidentialité | données clients transmises à un service externe | utiliser les outils autorisés par l'entreprise |
| Biais | recommandations reflétant des données d'apprentissage déséquilibrées | garder le jugement humain |
| Responsabilité | décision prise sur une réponse non vérifiée | l'humain reste responsable |
3. L'idée
Une IA générative produit un texte plausible, pas nécessairement vrai. Elle est très utile pour rédiger, résumer, structurer, coder, explorer ; elle doit être vérifiée pour tout fait, chiffre ou référence. L'Union européenne encadre ces usages (règlement sur l'IA) et l'entreprise doit fixer ses propres règles.
4. Les règles adoptées par le service achats
Usages encouragés. Rédaction de cahiers des charges, synthèse d'offres, préparation de négociation.
Vérification obligatoire. Tout chiffre, taux ou référence réglementaire vérifié dans la source officielle (TARIC pour les droits).
Données. Pas de données fournisseurs confidentielles dans des outils publics ; outil interne autorisé.
Effet. Gains de temps conservés, plus d'erreurs factuelles dans les documents.
5. À vous de jouer : vos pratiques
6. Ce qu'il faut retenir
- Plausible n'est pas vrai : vérifier faits, chiffres et références.
- Protéger les données sensibles.
- L'humain reste responsable de la décision.
Mise en œuvre
- Acteurs
- Direction, informatique, juridique, utilisateurs
- Durée
- —
- Livrables
- Charte d'usage
- Rédiger une charteDonnées autorisées et interdites, outils validés.
- Choisir des outils professionnelsAvec engagement de confidentialité.
- Former les utilisateursLimites, hallucinations, vérification.
- Suivre le cadre réglementaireAI Act selon les usages.
Exemple d'application
Charte interne : interdiction de saisir des données clients nominatives dans des outils grand public ; utilisation d'une version entreprise pour l'analyse des contrats.
Points de vigilance
- Diffuser des données confidentielles dans un outil public