FacileChoix unique

Question d'entraînement AIF-C01

Une entreprise souhaite créer un chatbot qui répond aux requêtes des clients à l'aide d'un foundation model. Elle a besoin d'une faible latence et souhaite éviter la gestion d'infrastructure. Quel service AWS doit-elle utiliser ?

Choisissez la meilleure réponse.

Bonne réponse

  • CAmazon Bedrock

Explication

Amazon Bedrock est un service entièrement géré qui donne accès à des foundation models (FMs) provenant de fournisseurs d'AI de premier plan via une API simple, éliminant ainsi le besoin de gérer l'infrastructure sous-jacente. Il est conçu pour créer des applications d'AI générative telles que des chatbots avec une faible latence, car il gère automatiquement l'hébergement des modèles, la mise à l'échelle et l'optimisation de l'inférence. Cela en fait le choix idéal pour répondre au besoin de l'entreprise d'obtenir des réponses à faible latence sans gestion d'infrastructure.

Pourquoi chaque option est juste ou fausse

A

Fausse

Amazon EC2

EC2 nécessite une gestion complète de l'infrastructure.

B

Fausse

AWS Lambda

Lambda exécute la logique applicative mais n'héberge pas de foundation models ; l'invocation d'un modèle nécessite toujours un service distinct et les démarrages à froid ajoutent de la latence. Il est tentant en tant que couche de calcul sans serveur, ce qui est correct pour du code de liaison événementiel, mais pas pour l'inférence du modèle elle-même.

C

Juste

Amazon Bedrock

Amazon Bedrock offre un accès sans serveur aux foundation models via une API unique, de sorte que l'entreprise évite de provisionner ou de mettre à l'échelle l'infrastructure tout en obtenant l'inférence à faible latence requise par le chatbot. Aucune gestion d'hébergement de modèle ou de capacité GPU ne incombe au client.

D

Fausse

Amazon SageMaker

SageMaker nécessite le provisionnement et la gestion de points de terminaison, d'instances et de politiques de mise à l'échelle, ce qui contredit l'exigence d'absence d'infrastructure. Il est tentant car il héberge des modèles, et il serait correct pour un entraînement personnalisé ou un contrôle total sur l'infrastructure d'inférence, mais pas pour un chatbot géré basé sur un foundation model.

Pour aller plus loin

Amazon Bedrock est un service entièrement géré qui expose des foundation models de fournisseurs tels qu'Anthropic, Meta et Amazon via une API unique, de sorte que vous ne provisionnez jamais d'instances GPU et ne gérez jamais la mise à l'échelle. Il prend en charge les réponses en streaming, ce qui réduit la latence perçue pour le chat, et offre des fonctionnalités telles que Knowledge Bases pour la génération augmentée par récupération et Guardrails pour le filtrage de contenu. Comme il est sans serveur, la capacité est prise en charge par AWS, bien que vous puissiez toujours rencontrer de la limitation de débit sur le débit à la demande et que vous puissiez demander un débit provisionné pour des performances plus stables. Un scénario réaliste est un bot de support client qui doit répondre en une ou deux secondes ; appeler l'API InvokeModel ou Converse de Bedrock évite les démarrages à froid et la surcharge de gestion de cluster qu'entraînerait l'exécution d'un modèle sur EC2 ou sur des points de terminaison SageMaker.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.