MédiaVárias respostas

Questão de prática de AIF-C01

Uma empresa está implantando um sistema de diagnóstico baseado em IA na área da saúde. QUAIS TRÊS práticas estão alinhadas com as diretrizes de IA responsável da AWS? (Escolha TRÊS.)

Escolha todas as respostas corretas.

Respostas corretas

  • BMonitorar continuamente o desempenho do modelo em busca de desvios usando o SageMaker Model Monitor.
  • DDocumentar o uso pretendido e as limitações do modelo com cartões de modelo.
  • EImplementar um processo com intervenção humana (human-in-the-loop) para previsões de alto risco usando o Amazon A2I.

Explicação

As diretrizes de IA responsável da AWS enfatizam várias práticas para sistemas de alto risco, como diagnósticos de saúde. O monitoramento contínuo com o SageMaker Model Monitor ajuda a detectar a qualidade dos dados, vieses e desvio na atribuição de características, apoiando a confiabilidade e a segurança (B). Documentar o uso pretendido do modelo, as limitações e o desempenho com cartões de modelo (model cards) promove a transparência e a prestação de contas (D). A implementação de um processo de revisão com intervenção humana (human-in-the-loop) usando o Amazon Augmented AI (A2I) garante uma supervisão humana significativa para previsões de alto risco (E). Em contrapartida, implantar o modelo sem revisão manual (A) e depender unicamente de decisões automatizadas (C) viola os princípios de IA responsável que exigem supervisão e validação humana.

Por que cada alternativa está certa ou errada

A

Incorreta

Implantar o modelo em produção imediatamente após o treinamento, sem revisão manual.

Ignorar a revisão aumenta o risco de implantar um modelo com viés ou inseguro.

B

Correta

Monitorar continuamente o desempenho do modelo em busca de desvios usando o SageMaker Model Monitor.

O monitoramento garante confiabilidade e segurança contínuas.

C

Incorreta

Usar apenas a tomada de decisão automatizada sem qualquer supervisão humana.

A automação total sem revisão humana pode levar a resultados antiéticos.

D

Correta

Documentar o uso pretendido e as limitações do modelo com cartões de modelo.

Os cartões de modelo promovem transparência e responsabilidade.

E

Correta

Implementar um processo com intervenção humana (human-in-the-loop) para previsões de alto risco usando o Amazon A2I.

A supervisão humana é crítica para decisões de alto impacto.

Para se aprofundar

A orientação de IA responsável da AWS enfatiza o monitoramento, a documentação e a supervisão humana para sistemas de alta relevância. O SageMaker Model Monitor detecta o desvio de dados e de conceitos comparando o tráfego de inferência em tempo real com uma linha de base, emitindo métricas e alarmes do CloudWatch para que a degradação seja detectada antes de causar danos. Os cartões de modelo documentam o uso pretendido, as limitações, os dados de treinamento e os resultados de avaliação, conferindo transparência aos usuários subsequentes. O Amazon Augmented AI (A2I) insere fluxos de trabalho de revisão humana para previsões de baixa confiança ou alto risco, o que é essencial na saúde, onde os erros acarretam consequências clínicas. Uma sutileza é que os loops de revisão do A2I adicionam latência e custo, portanto os limites devem equilibrar a segurança em relação ao rendimento. Juntas, essas práticas apoiam a auditabilidade e a implantação segura em vez de uma implementação totalmente automatizada e sem revisão.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AIF-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.