FR
Se connecterCommencer
Glossaire

Spécialiste de l'assurance qualité IA

Qu’est-ce que Spécialiste de l'assurance qualité IA ?

Un spécialiste de l'assurance qualité IA vérifie que les applications d'IA fonctionnent de manière fiable, exacte et appropriée. Son travail comprend des questions de test et des benchmarks, la comparaison de modèles, l'analyse des évaluations des utilisateurs et la détection d'hallucinations ou de dégradations dans le temps. Par exemple, avant de passer à un nouveau modèle, on fait répondre les deux modèles à 50 demandes clients typiques et on compare les réponses selon des critères fixes.

Ce que fait KI.ordo

Dans KI.ordo, le modèle « Comparer des modèles (benchmark) » et les évaluations 👍/👎 des réponses soutiennent ce travail ; les évaluations servent à améliorer les connaissances et les instructions, pas à entraîner des modèles.

En savoir plus →: Spécialiste de l'assurance qualité IA

Modèles adaptés

Thèmes

  • Qualité
  • Tests
  • Métier

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo
← Tous les termes

Termes associés

Benchmarking

En IA, le benchmarking désigne la comparaison systématique de modèles ou de systèmes à partir de tâches et de critères définis. Les benchmarks publics mesurent par exemple les connaissances générales, le raisonnement ou la programmation ; pour un usage concret, ce sont surtout des cas de test issus de votre propre activité qui comptent. On compare généralement exactitude, exhaustivité, temps de réponse et coût. Cela permet de savoir si un modèle plus petit et moins cher suffit pour une tâche.

  • Comparaison de modèles
  • Évaluation
  • +1
Modèle

Hallucination

On parle d’hallucination lorsqu’un modèle d’IA produit une réponse convaincante mais fausse ou inventée de toutes pièces, par exemple une décision de justice inexistante, un chiffre erroné ou une source fictive. La cause : les modèles de langage produisent des formulations probables ; ils ne vérifient pas automatiquement les faits. Le risque diminue lorsque les réponses s’appuient sur des sources vérifiées, citent leurs références et que des personnes contrôlent les résultats importants.

  • Modèles de langage
  • Fiabilité
  • +1
Modèle

Précision et stabilité des modèles d’IA

La précision décrit la fréquence à laquelle un modèle d’IA fournit des résultats corrects ; la stabilité, la fiabilité de cette performance face à des entrées légèrement modifiées, à de nouvelles données ou dans le temps. Un modèle peut être très précis en test et pourtant instable si une simple reformulation de la question change la réponse. En production, on vérifie ces deux propriétés avec des cas de test fixes, la validation croisée et une surveillance continue.

  • Qualité du modèle
  • Robustesse
  • +1

Dérive de modèle (model drift)

La dérive de modèle (model drift) désigne la baisse progressive de la qualité des prédictions d’un modèle en production, parce que la réalité évolue par rapport aux données d’entraînement. On distingue les changements dans les données d’entrée (data drift) et ceux dans la relation entre entrées et résultat (concept drift). Exemple : un modèle de détection de fraude ne repère plus de nouveaux schémas de fraude. Les remèdes sont la surveillance continue des indicateurs et un réentraînement régulier.

  • MLOps
  • qualité du modèle
  • +1