MédiaMúltipla escolha

Questão de prática de AI-102

Uma empresa está criando um chatbot usando o Azure OpenAI Service para responder a consultas de clientes. O chatbot não deve gerar conteúdo prejudicial ou ofensivo. Qual serviço de IA do Azure deve ser integrado para filtrar conteúdo inadequado?

Escolha a melhor resposta.

Resposta correta

  • CAzure AI Content Safety

Explicação

O Azure AI Content Safety é o serviço correto porque fornece APIs de moderação de conteúdo integradas que detectam e filtram texto e imagens prejudiciais ou ofensivos, incluindo discurso de ódio, violência, automutilação e conteúdo sexual. A integração deste serviço com o chatbot do Azure OpenAI garante que as entradas do usuário e as saídas do modelo sejam examinadas em tempo real, impedindo a geração de respostas inadequadas.

Por que cada alternativa está certa ou errada

A

Incorreta

Azure Bot Service

O Azure Bot Service hospeda e canaliza bots de conversação; ele não realiza moderação de conteúdo da saída do modelo. É tentador porque o chatbot em si é executado em um framework de bot, mas o requisito é o filtragem de prompts e conclusões, que o Azure AI Content Safety fornece por meio de categorias e limites de gravidade.

B

Incorreta

Azure Cognitive Search

O Azure Cognitive Search indexa e recupera documentos para fundamentar respostas; ele não aplica nenhuma classificação de dano a prompts ou conclusões. É tentador porque chatbots aumentados por recuperação dependem dele, mas o requisito declarado é bloquear saídas ofensivas, o que o Azure AI Content Safety realiza.

C

Correta

Azure AI Content Safety

O Azure AI Content Safety fornece modelos de moderação dedicados que detectam conteúdo prejudicial, violento, odioso e sexual tanto em prompts quanto em conclusões. Integrá-lo filtra saídas geradas inadequadas, satisfazendo o requisito de que o chatbot não deve produzir respostas ofensivas.

D

Incorreta

Azure Form Recognizer

O Form Recognizer extrai campos estruturados de documentos como faturas e formulários; ele não inspeciona o texto gerado em busca de conteúdo prejudicial. É tentador quando o chatbot precisa analisar documentos carregados, mas filtrar conclusões ofensivas requer as categorias de moderação de texto do Azure AI Content Safety.

Para se aprofundar

O Azure AI Content Safety expõe APIs de categoria para conteúdo de Ódio, Violência, Sexual e Automutilação, cada uma retornando uma gravidade de 0 a 7, além de um recurso Prompt Shields que detecta tentativas de jailbreak. Quando conectado ao Azure OpenAI, o filtro de conteúdo é executado no lado do servidor tanto no prompt quanto na conclusão, e você configura limites de gravidade por categoria na implantação; uma resposta bloqueada retorna um objeto content_filter_results com a categoria de gatilho. Uma sutileza é que os filtros são assíncronos à lógica do seu aplicativo e podem rejeitar uma conclusão no meio do fluxo, portanto, os clientes devem lidar com o finish_reason de content_filter. Isso é importante para chatbots voltados ao cliente, onde uma única resposta ofensiva cria exposição de conformidade.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-102 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.