Bonne réponse
- ALe debug hook ne collecte pas la perte de validation
Explication
SageMaker Debugger surveille l'entraînement en collectant des tenseurs (par exemple, perte, précision) via un debug hook. La règle de détection du surapprentissage compare généralement la perte d'entraînement à la perte de validation. Si le hook n'est pas configuré pour collecter les tenseurs de perte de validation, la règle n'a aucune donnée à évaluer et ne se déclenchera jamais, même si un surapprentissage se produit. C'est la raison la plus probable car la règle dépend de l'enregistrement de noms de tenseurs spécifiques.
Pour aller plus loin
Les règles SageMaker Debugger telles que la règle de surapprentissage comparent la perte d'entraînement à la perte de validation ou d'évaluation, la configuration du hook doit donc émettre les deux tenseurs. Si le script d'entraînement n'enregistre que la perte d'entraînement, la règle n'a rien à comparer et reste silencieuse même lorsque le modèle est clairement en surapprentissage. Le hook est configuré via la bibliothèque smdebug, et les collections telles que les pertes et les métriques doivent être enregistrées avec save_scalar ou un appel similaire à l'étape appropriée. Un comportement subtil est qu'une règle peut également ne pas se déclencher si le tenseur est enregistré sous un nom que la règle n'attend pas, ou si l'étape de début de la règle est postérieure à la dernière étape enregistrée. En pratique, un data scientist qui débogue cela devrait inspecter la sortie de Debugger dans S3 pour confirmer que les pertes d'entraînement et de validation sont présentes avant de suspecter l'image de la règle ou la taille de l'instance.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement MLA-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.