Resposta correta
Explicação
O Azure AI Content Safety é o serviço dedicado do Azure para detectar e filtrar conteúdo prejudicial, como discurso de ódio, violência, automutilação e conteúdo sexual, tanto nos prompts do usuário quanto nas respostas geradas por IA. Ele fornece níveis de gravidade configuráveis e se integra diretamente aos fluxos de trabalho de IA generativa para aplicar políticas de IA responsável, tornando-se a escolha correta para este requisito.
Para se aprofundar
O Azure AI Content Safety expõe detecção baseada em categorias para conteúdo de ódio, violência, sexual e automutilação, além de proteções de prompt para jailbreak e injeção indireta de prompt, e detecção de fundamentação para verificações de alucinação. Ele é invocado como um endpoint REST ou chamada de SDK que retorna pontuações de gravidade por categoria, permitindo que o aplicativo bloqueie, sinalize ou roteie o conteúdo antes que ele chegue ao modelo e novamente no caminho de resposta. Os filtros de conteúdo integrados do Azure OpenAI se aplicam às implantações desse serviço, mas um aplicativo autônomo ou de vários modelos precisa do recurso Content Safety independente para uma política consistente entre provedores. O Purview rege a conformidade do patrimônio de dados e o Azure AI Language lida com tarefas de NLP, como extração de entidades, portanto, nenhum deles realiza classificação de conteúdo prejudicial em tempo real em prompts e conclusões.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AI-102 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.