MoyenneChoix unique

Question d'entraînement AI-900

Un data scientist entraîne un réseau de neurones profond sur un petit jeu de données. Le modèle atteint une précision de 100 % sur les données d'entraînement mais seulement de 60 % sur un jeu de validation. Quelle technique est la plus adaptée pour résoudre ce problème ?

Choisissez la meilleure réponse.

Bonne réponse

  • CAppliquer une régularisation

Explication

La précision parfaite du modèle à l'entraînement (100 %) associée à une mauvaise précision de validation (60 %) est un signe classique de surapprentissage (overfitting), où le modèle a mémorisé les données d'entraînement au lieu d'apprendre des motifs généralisables. Les techniques de régularisation (par exemple, régularisation L1/L2, dropout) pénalisent les poids importants ou suppriment aléatoirement des neurones pendant l'entraînement, ce qui force le réseau à apprendre des caractéristiques plus simples et plus robustes et réduit le surapprentissage sur de petits jeux de données.

Pourquoi chaque option est juste ou fausse

A

Fausse

Augmenter le nombre d'époques d'entraînement

Plus d'époques aggravent le problème : le réseau mémorise déjà le jeu d'entraînement, de sorte que des passages supplémentaires accentuent le surapprentissage et la précision de validation reste basse. C'est tentant car un entraînement supplémentaire améliore généralement l'ajustement, et ce serait correct lorsque la précision d'entraînement et celle de validation augmentent encore ensemble.

B

Fausse

Ajouter des couches cachées supplémentaires

L'ajout de couches cachées augmente la capacité du modèle, permettant au réseau de mémoriser le petit jeu de données d'entraînement de manière encore plus approfondie et d'élargir l'écart de 100 % par rapport à 60 %. Une profondeur supplémentaire est tentante lorsque la précision d'entraînement et de validation est faible, ce qui indique un sous-apprentissage (underfitting), mais ici le modèle s'adapte déjà parfaitement aux données d'entraînement.

C

Juste

Appliquer une régularisation

La régularisation ajoute des contraintes au modèle pour empêcher le surapprentissage en décourageant les motifs trop complexes.

D

Fausse

Augmenter le taux d'apprentissage

L'augmentation du taux d'apprentissage aggrave l'écart de surapprentissage en poussant les poids plus loin d'un minimum généralisable, provoquant souvent une divergence plutôt que de combler la différence de 40 points entre entraînement et validation. C'est tentant car un taux plus élevé accélère la convergence lorsque la perte d'entraînement stagne tôt, mais la régularisation ou davantage de données résolvent ce problème de mémorisation.

Pour aller plus loin

L'écart entre 100 % de précision à l'entraînement et 60 % de précision à la validation est un surapprentissage classique : le réseau a mémorisé le bruit et les particularités d'un petit échantillon au lieu d'apprendre des motifs généralisables. La régularisation restreint la complexité du modèle, par exemple les pénalités de poids L1 ou L2, le dropout ou l'arrêt anticipé, ce qui réduit la variance et réduit généralement l'écart entre entraînement et validation. L'ajout d'époques ou de couches cachées augmente la capacité et aggrave le surapprentissage, et l'augmentation du taux d'apprentissage peut déstabiliser l'entraînement. Un scénario réaliste est un classificateur d'imagerie médicale entraîné sur quelques centaines de scans qui obtient un score parfait sur les données d'entraînement mais échoue sur de nouveaux patients ; la régularisation, ainsi que plus de données ou l'augmentation, restaure des performances de validation utiles avant le déploiement.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.