La perte logarithmique (log loss) mesure dans quelle mesure les probabilités prédites par un modèle de classification correspondent aux résultats réels. Les prédictions sûres mais erronées sont pénalisées très fortement ; une valeur proche de zéro indique des prévisions bien calibrées. Exemple : si un modèle estime à 95 % le départ d’un client qui reste, la perte augmente nettement. Mathématiquement, elle équivaut à l’entropie croisée binaire.
Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.
Lancer la démoL'entropie croisée est une mesure issue de la théorie de l'information qui indique à quel point une distribution de probabilité prédite s'écarte de la distribution réelle. En apprentissage automatique, c'est la fonction de perte la plus courante pour la classification, ainsi que pour les modèles de langage qui prédisent le token suivant. Elle pénalise surtout les erreurs commises avec une grande confiance : attribuer 99 % à la mauvaise classe coûte bien plus qu'attribuer 60 %.
La régression logistique est une méthode statistique qui prédit la probabilité de l’un de deux résultats, par exemple « achète » ou « n’achète pas ». Elle pondère les variables d’entrée et transforme leur somme en une valeur comprise entre 0 et 1 au moyen d’une fonction en forme de S. Ses poids étant faciles à interpréter, elle est très utilisée pour l’évaluation du crédit, en médecine et en marketing, souvent comme référence pour des modèles plus complexes.
Un classifieur est un modèle ou une méthode qui attribue une entrée à l'une de plusieurs catégories prédéfinies. Les variantes classiques, comme les arbres de décision ou le Naive Bayes, sont entraînées sur des exemples étiquetés ; les modèles de langage peuvent aussi classer des textes à partir d'une description des catégories. Usages typiques : détection de spam, tri des demandes clients par thème ou classement de justificatifs. La qualité se mesure avec des indicateurs comme l'exactitude, la précision et le rappel.
Une matrice de confusion est un tableau qui compare les prédictions d'un classifieur aux classes réelles. Avec deux classes, elle indique les vrais positifs, faux positifs, vrais négatifs et faux négatifs. On en déduit des indicateurs comme la précision, le rappel et le score F1, et l'on voit quelles erreurs surviennent. Exemple : un filtre anti-spam qui classe beaucoup de vrais e-mails comme spam produit de nombreux faux positifs, souvent plus coûteux qu'un spam non détecté.
