MoyenneChoix unique

Question d'entraînement AI-900

Un data scientist entraîne un modèle de régression pour prédire les prix des logements dans Azure Machine Learning. Le modèle utilise des caractéristiques telles que la surface habitable, le nombre de chambres et l'emplacement (code postal). Le data scientist remarque que le modèle a une très faible erreur sur les données d'entraînement mais une erreur élevée sur les données de test. Quelle technique le data scientist doit-il appliquer lors de l'entraînement du modèle pour réduire le surapprentissage en pénalisant les grands coefficients ?

Choisissez la meilleure réponse.

Bonne réponse

  • CUtiliser un algorithme de régularisation tel que Lasso (L1).

Explication

La régularisation Lasso (L1) ajoute une pénalité égale à la valeur absolue de l'amplitude des coefficients, ce qui peut réduire certains coefficients à zéro, effectuant ainsi efficacement une sélection de caractéristiques et réduisant le surapprentissage. Cela résout directement le problème des grands coefficients faisant en sorte que le modèle s'adapte au bruit dans les données d'entraînement, ce qui entraîne une erreur de test élevée.

Pourquoi chaque option est juste ou fausse

A

Fausse

Utiliser un ensemble de test plus petit.

Réduire l'ensemble de test diminue la fiabilité de l'évaluation et laisse les coefficients du modèle intacts, de sorte que le surapprentissage persiste. C'est tentant car un ensemble de retenue plus petit semble modifier l'erreur rapportée, mais l'exigence est une pénalité sur les grands coefficients ; un ensemble de test plus petit ne serait défendable que lorsque la collecte de données est réellement limitée.

B

Fausse

Appliquer uniquement la mise à l'échelle des caractéristiques.

La mise à l'échelle des caractéristiques égalise les plages d'entrée pour la descente de gradient mais n'ajoute aucun terme de pénalité à la fonction de perte, de sorte que l'amplitude des coefficients reste non contrainte. C'est tentant car la mise à l'échelle est une étape de prétraitement standard, pourtant ce serait le bon choix lorsque les caractéristiques diffèrent considérablement en échelle et que la convergence est lente, et non lorsque la variance est élevée.

C

Juste

Utiliser un algorithme de régularisation tel que Lasso (L1).

Lasso ajoute une pénalité L1 proportionnelle à la valeur absolue des coefficients, réduisant certains à zéro et contraignant la complexité du modèle. Cette pénalisation réduit le surapprentissage provoquant une faible erreur d'entraînement mais une erreur de test élevée sur la régression du prix des logements.

D

Fausse

Augmenter le nombre d'époques d'entraînement.

L'ajout d'époques continue d'ajuster l'ensemble d'entraînement, aggravant l'écart entre entraînement et test plutôt que de réduire les coefficients. C'est tentant car un plus grand nombre d'itérations améliore souvent les modèles sous-ajustés, mais le scénario nécessite une régularisation, qui ajoute un terme de pénalité à la perte ; les époques ne seraient le bon levier que lorsque les erreurs d'entraînement et de validation restent élevées.

Pour aller plus loin

Le surapprentissage apparaît comme un grand écart entre une faible erreur d'entraînement et une erreur de test élevée parce que le modèle a mémorisé le bruit et les interactions de caractéristiques à haute variance plutôt que le signal sous-jacent. La régression Lasso ajoute une pénalité L1 égale à la valeur absolue des coefficients multipliée par alpha, ce qui réduit les coefficients et en pousse certains exactement à zéro, effectuant une sélection implicite des caractéristiques ; cela réduit la variance et améliore souvent la généralisation. Ridge utilise une pénalité L2 qui réduit les coefficients mais les annule rarement, tandis que Elastic Net combine les deux. Dans Azure Machine Learning, la force de la pénalité est réglée en tant qu'hyperparamètre, généralement avec HyperDrive balayant alpha sur une division de validation. Un ensemble de test plus petit ou plus d'époques aggraverait le diagnostic, et la mise à l'échelle des caractéristiques seule ne contraint pas l'amplitude des coefficients.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.