Resposta correta
Explicação
O Azure AI Content Safety é o serviço correto porque fornece APIs de moderação de conteúdo integradas que detectam e filtram texto e imagens prejudiciais ou ofensivos, incluindo discurso de ódio, violência, automutilação e conteúdo sexual. A integração deste serviço com o chatbot do Azure OpenAI garante que as entradas do usuário e as saídas do modelo sejam examinadas em tempo real, impedindo a geração de respostas inadequadas.
Para se aprofundar
O Azure AI Content Safety expõe APIs de categoria para conteúdo de Ódio, Violência, Sexual e Automutilação, cada uma retornando uma gravidade de 0 a 7, além de um recurso Prompt Shields que detecta tentativas de jailbreak. Quando conectado ao Azure OpenAI, o filtro de conteúdo é executado no lado do servidor tanto no prompt quanto na conclusão, e você configura limites de gravidade por categoria na implantação; uma resposta bloqueada retorna um objeto content_filter_results com a categoria de gatilho. Uma sutileza é que os filtros são assíncronos à lógica do seu aplicativo e podem rejeitar uma conclusão no meio do fluxo, portanto, os clientes devem lidar com o finish_reason de content_filter. Isso é importante para chatbots voltados ao cliente, onde uma única resposta ofensiva cria exposição de conformidade.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AI-102 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.