FacileChoix unique

Question d'entraînement MLA-C01

Exhibit

Refer to the exhibit.
```
2024-01-15 10:23:45,123 [INFO] Starting inference at endpoint ...
2024-01-15 10:23:45,456 [ERROR] Model output contains NaN values.
2024-01-15 10:23:45,457 [WARN] Input feature x has value -9999.0 which is unusual.
```

Se référer à l'image. Un data scientist examine les CloudWatch Logs d'un point de terminaison en temps réel Amazon SageMaker. Quelle est la cause racine LA PLUS probable de la sortie NaN ?

Choisissez la meilleure réponse.

Bonne réponse

  • BLes données d'entrée contiennent des valeurs hors plage non vues pendant l'entraînement, ce qui amène le modèle à produire NaN.

Explication

La sortie NaN (Not a Number) d'un point de terminaison en temps réel SageMaker est le plus souvent causée par des données d'entrée contenant des valeurs situées en dehors de la plage observée lors de l'entraînement. Cela peut entraîner une instabilité numérique lors de la passe avant (forward pass) du modèle, telle qu'une division par zéro, un log de zéro ou un dépassement de capacité d'exposant, qui se propage à travers les couches et se traduit par des prédictions NaN.

Pourquoi chaque option est juste ou fausse

A

Fausse

Les poids du modèle ont été corrompus en raison d'une erreur d'écriture sur le disque.

Des erreurs d'écriture sur le disque corrompant les poids se manifesteraient par des échecs de chargement ou de somme de contrôle (checksum) au démarrage du point de terminaison, et non par des prédictions NaN provenant d'un point de terminaison par ailleurs en cours d'exécution. La corruption est la bonne cause lorsque les journaux montrent des erreurs d'intégrité des artefacts, mais l'image indique des valeurs de caractéristiques malformées transmises au moment de l'inférence.

B

Juste

Les données d'entrée contiennent des valeurs hors plage non vues pendant l'entraînement, ce qui amène le modèle à produire NaN.

Les entrées hors plage violent la distribution des caractéristiques apprise par le modèle, de sorte que les activations ou les gradients débordent (overflow) et produisent NaN. Cela correspond directement au scénario de point de terminaison en temps réel de l'énoncé : les CloudWatch Logs capturent les anomalies au moment de l'inférence, et les valeurs extrêmes non vues sont le déclencheur le plus probable plutôt que des pannes d'entraînement ou d'infrastructure.

C

Fausse

Le point de terminaison est surchargé et renvoie une réponse NaN par défaut.

La surcharge produit du throttling, des expirations de délai (timeouts) ou des réponses 5xx, et non des valeurs NaN ; SageMaker ne remplace pas NaN par défaut. La surcharge est le bon diagnostic lorsque les journaux affichent des pics de latence et des erreurs de capacité, tandis qu'une sortie NaN provient de l'entrée d'inférence elle-même ou du calcul du modèle.

D

Fausse

L'artefact du modèle n'a pas pu être chargé correctement, ce qui a entraîné des poids NaN.

Un échec de chargement d'artefact entraîne généralement l'échec direct de l'appel au point de terminaison ou renvoie une erreur, au lieu d'émettre silencieusement des prédictions NaN. Le chargement des artefacts est le suspect idéal lorsque les journaux affichent des erreurs de démarrage de conteneur ou de désérialisation, mais l'image pointe vers des données d'entrée contenant des valeurs nulles atteignant le modèle.

Pour aller plus loin

Les points de terminaison en temps réel SageMaker consignent les erreurs d'inférence et les problèmes de charge utile dans CloudWatch Logs. Une sortie NaN apparaît le plus souvent lorsque les caractéristiques d'entrée se situent en dehors de la distribution sur laquelle le modèle a été entraîné, produisant une instabilité numérique telle qu'un dépassement (overflow), une division par zéro ou des opérations indéfinies dans le graphe du modèle. Des poids corrompus ou un échec de chargement d'artefact empêcheraient généralement le point de terminaison de servir des requêtes ou produiraient des erreurs cohérentes au moment du chargement, et non des NaN dépendants de l'entrée. La surcharge renvoie une limitation du débit (throttling) ou des erreurs 5xx, et non des NaN. En pratique, validez les plages de caractéristiques entrantes, ajoutez une validation ou un écrêtage des entrées (clipping) et surveillez la dérive des données. Si seules certaines requêtes génèrent des NaN, les données d'entrée en sont la cause probable, c'est pourquoi les valeurs hors plage sont la cause racine la plus probable.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement MLA-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.