1.8 — Confidentialité, biais et décisions humaines

Savoir obtenir une belle réponse ne suffit pas. Un utilisateur professionnel doit aussi savoir quelles données il peut transmettre et quelles décisions il ne doit pas déléguer.

Avant de copier-coller, classez l’information

Utilisez cette grille simple :

Type d’information	Exemple	Réflexe initial
Publique	page déjà publiée	généralement utilisable
Interne	procédure non publique	vérifier l’outil et la politique de l’entreprise
Personnelle	nom, e-mail, commande	minimiser ou anonymiser
Très sensible	santé, paiement, mot de passe, secret	ne pas transmettre sans cadre explicitement autorisé

Une donnée utile n’est pas forcément nécessaire. Pour classer une demande en « produit endommagé », le nom complet et l’adresse de la cliente ne sont probablement pas nécessaires.

La minimisation en pratique

Au lieu de transmettre :

Nora Martin, 14 rue Exemple, numéro de téléphone…, commande LUM-2048…

vous pouvez tester avec :

Cliente A, commande de test 2048, produit arrivé endommagé.

Pour une formation, utilisez toujours des données fictives ou correctement anonymisées.

Un modèle peut reproduire des biais

Un biais est un écart systématique qui défavorise certains cas ou certaines personnes. Il peut venir des données d’entraînement, de la consigne, des critères choisis ou de la façon dont on utilise la sortie.

Exemple : un outil classe comme « agressifs » davantage de messages contenant certaines tournures régionales. Même si l’intention n’était pas discriminatoire, l’effet doit être mesuré et corrigé.

Toutes les décisions ne se valent pas

L’IA peut facilement préparer une décision. Elle ne doit pas forcément la prendre.

Usage	Niveau de prudence
reformuler un paragraphe interne	faible
proposer une réponse à un client	relecture nécessaire
refuser un remboursement	validation responsable
écarter automatiquement un candidat	risque élevé, cadre juridique et humain indispensable

Exercice — nettoyer une demande

Vous devez tester un assistant avec un e-mail contenant nom, adresse, numéro de commande, photographie du produit et quatre derniers chiffres d’une carte.

1. Quelles données sont indispensables pour tester le ton du brouillon ?
2. Lesquelles pouvez-vous remplacer par des valeurs fictives ?
3. Quelle action doit rester humaine ?

Éléments de correction

Le texte du problème suffit souvent pour tester le ton. Le nom, l’adresse, la commande et les chiffres de carte peuvent être retirés ou remplacés. Une décision de remboursement et toute action financière restent soumises à une personne autorisée.

✅ Réflexe professionnel : si vous ne savez pas si une donnée peut être utilisée, ne la transmettez pas. Demandez le cadre de votre organisation avant de continuer.

À ajouter à votre carnet

Créez trois colonnes : « nécessaire », « à anonymiser » et « interdit ». Classez les données de votre tâche.