FácilMúltipla escolha

Questão de prática de AI-102

Você está desenvolvendo um aplicativo de IA generativa que deve estar em conformidade com os princípios de IA responsável. Qual serviço do Azure AI você deve usar para detectar e filtrar conteúdo prejudicial tanto nos prompts de entrada quanto nas respostas de saída?

Escolha a melhor resposta.

Resposta correta

  • BAzure AI Content Safety

Explicação

O Azure AI Content Safety é o serviço dedicado do Azure para detectar e filtrar conteúdo prejudicial, como discurso de ódio, violência, automutilação e conteúdo sexual, tanto nos prompts do usuário quanto nas respostas geradas por IA. Ele fornece níveis de gravidade configuráveis e se integra diretamente aos fluxos de trabalho de IA generativa para aplicar políticas de IA responsável, tornando-se a escolha correta para este requisito.

Por que cada alternativa está certa ou errada

A

Incorreta

Microsoft Purview

O Microsoft Purview rege a descoberta, classificação e conformidade de dados em todos os patrimônios; ele não inspeciona prompts ativos e conclusões em busca de conteúdo prejudicial. O Purview se encaixa em cenários de governança e auditoria de dados, não na moderação em tempo de execução de interações de IA generativa.

B

Correta

Azure AI Content Safety

O Azure AI Content Safety fornece APIs de moderação dedicadas que classificam conteúdo prejudicial em categorias como ódio, violência e automutilação, aplicando-as tanto aos prompts quanto às respostas geradas. Isso atende diretamente ao requisito de IA responsável de detectar e filtrar conteúdo prejudicial na entrada e na saída, o que os serviços de linguagem geral não cobrem.

C

Incorreta

Azure OpenAI Service

O Azure OpenAI Service hospeda e gera respostas de modelo, mas não fornece por si só a capacidade de moderação independente; a filtragem de conteúdo é entregue por meio do Azure AI Content Safety. O Azure OpenAI é adequado para a construção do aplicativo generativo, não para o serviço dedicado de detecção de conteúdo prejudicial que o cenário exige.

D

Incorreta

Azure AI Language

O Azure AI Language executa tarefas de NLP, como análise de sentimento, extração de frases-chave e reconhecimento de entidades; ele não possui um classificador de moderação de conteúdo para prompts ou respostas. É tentador porque processa texto em escala, mas seria a escolha certa para extrair insights de documentos, não para detectar conteúdo de ódio, violência, sexual ou automutilação em um pipeline generativo.

Para se aprofundar

O Azure AI Content Safety expõe detecção baseada em categorias para conteúdo de ódio, violência, sexual e automutilação, além de proteções de prompt para jailbreak e injeção indireta de prompt, e detecção de fundamentação para verificações de alucinação. Ele é invocado como um endpoint REST ou chamada de SDK que retorna pontuações de gravidade por categoria, permitindo que o aplicativo bloqueie, sinalize ou roteie o conteúdo antes que ele chegue ao modelo e novamente no caminho de resposta. Os filtros de conteúdo integrados do Azure OpenAI se aplicam às implantações desse serviço, mas um aplicativo autônomo ou de vários modelos precisa do recurso Content Safety independente para uma política consistente entre provedores. O Purview rege a conformidade do patrimônio de dados e o Azure AI Language lida com tarefas de NLP, como extração de entidades, portanto, nenhum deles realiza classificação de conteúdo prejudicial em tempo real em prompts e conclusões.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-102 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.