Bonne réponse
Explication
Amazon Bedrock est un service entièrement géré qui donne accès à des foundation models (FMs) provenant de fournisseurs d'AI de premier plan via une API simple, éliminant ainsi le besoin de gérer l'infrastructure sous-jacente. Il est conçu pour créer des applications d'AI générative telles que des chatbots avec une faible latence, car il gère automatiquement l'hébergement des modèles, la mise à l'échelle et l'optimisation de l'inférence. Cela en fait le choix idéal pour répondre au besoin de l'entreprise d'obtenir des réponses à faible latence sans gestion d'infrastructure.
Pour aller plus loin
Amazon Bedrock est un service entièrement géré qui expose des foundation models de fournisseurs tels qu'Anthropic, Meta et Amazon via une API unique, de sorte que vous ne provisionnez jamais d'instances GPU et ne gérez jamais la mise à l'échelle. Il prend en charge les réponses en streaming, ce qui réduit la latence perçue pour le chat, et offre des fonctionnalités telles que Knowledge Bases pour la génération augmentée par récupération et Guardrails pour le filtrage de contenu. Comme il est sans serveur, la capacité est prise en charge par AWS, bien que vous puissiez toujours rencontrer de la limitation de débit sur le débit à la demande et que vous puissiez demander un débit provisionné pour des performances plus stables. Un scénario réaliste est un bot de support client qui doit répondre en une ou deux secondes ; appeler l'API InvokeModel ou Converse de Bedrock évite les démarrages à froid et la surcharge de gestion de cluster qu'entraînerait l'exécution d'un modèle sur EC2 ou sur des points de terminaison SageMaker.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.