MoyenneChoix unique

Question d'entraînement AIF-C01

Une équipe entraîne un modèle de classification binaire à l'aide d'Amazon SageMaker. Elle remarque que la précision d'entraînement est de 99%, mais que la précision de test n'est que de 70%. Quelle technique doit-elle appliquer en premier pour résoudre ce problème ?

Choisissez la meilleure réponse.

Bonne réponse

  • BAppliquer une régularisation

Explication

La précision d'entraînement élevée (99%) associée à une précision de test nettement inférieure (70%) est un symptôme classique de surapprentissage (overfitting), où le modèle mémorise les données d'entraînement au lieu d'apprendre des motifs généralisables. La régularisation (Option B) est la technique de première ligne pour lutter contre le surapprentissage en ajoutant une pénalité à la fonction de perte (par exemple, la régularisation L1 ou L2), ce qui décourage des frontières de décision trop complexes. Dans Amazon SageMaker, cela peut être implémenté via des hyperparamètres tels que `l1` ou `l2` dans les algorithmes intégrés ou en ajoutant des couches de dropout dans un framework personnalisé.

Pourquoi chaque option est juste ou fausse

A

Fausse

Réduire les données d'entraînement

Réduire les données d'entraînement aggrave l'écart entraînement-test de 99% par rapport à 70%, car le surapprentissage provient de la mémorisation des motifs par le modèle ; moins de données lui donnent moins d'exemples généralisables. C'est tentant car la réduction des données accélère l'expérimentation, et ce serait correct lorsque le jeu de données contient des enregistrements mal étiquetés ou bruités qui nuisent activement à l'apprentissage.

B

Juste

Appliquer une régularisation

La régularisation ajoute une pénalité pour les grands poids, ce qui aide à réduire le surapprentissage.

C

Fausse

Augmenter le taux d'apprentissage

Augmenter le taux d'apprentissage amène l'optimiseur à faire des pas plus grands, ce qui peut aggraver l'écart de surapprentissage ou déstabiliser la convergence plutôt que de régulariser le modèle. C'est tentant car le taux d'apprentissage est un paramètre de réglage initial courant, et l'augmenter serait correct lorsque la perte d'entraînement stagne trop lentement parce que les pas sont trop petits.

D

Fausse

Augmenter la complexité du modèle

Augmenter la complexité du modèle ajoute des paramètres, permettant au réseau de mémoriser encore plus les données d'entraînement et élargissant l'écart de 99% à 70%. C'est tentant car les augmentations de capacité sont associées à une plus grande précision, et l'ajout de complexité serait correct lorsque la précision d'entraînement et celle de test sont toutes deux faibles, indiquant un sous-apprentissage (underfitting) plutôt qu'un surapprentissage.

Pour aller plus loin

Un écart de 99% à l'entraînement contre 70% au test est un surapprentissage classique : le modèle a mémorisé le bruit d'entraînement au lieu d'apprendre des motifs généralisables. La régularisation contraint la capacité du modèle en ajoutant une pénalité à la fonction de perte, telle que L2 (weight decay) ou L1, ou en utilisant le dropout dans les réseaux de neurones, ce qui force le réseau à distribuer les représentations plutôt qu'à dépendre de neurones spécifiques. Dans SageMaker, cela est exposé via des hyperparamètres comme weight_decay dans les estimateurs intégrés XGBoost ou Linear Learner. C'est la première étape présentant le risque le plus faible car elle ne nécessite pas plus de données ni une architecture différente, et elle cible directement la composante de variance de l'erreur, tandis que l'augmentation de la complexité aggraverait l'écart.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.