FácilMúltipla escolha

Questão de prática de Generative AI Leader

Uma empresa está implantando um modelo de IA gerativa para aconselhamento médico. Qual é a consideração mais importante?

Escolha a melhor resposta.

Resposta correta

  • BSegurança e imparcialidade

Explicação

Em aplicativos de aconselhamento médico, as saídas de um modelo de IA gerativa podem impactar diretamente a saúde do paciente, tornando a segurança e a imparcialidade a principal consideração. Conselhos incorretos ou tendenciosos podem levar a diagnósticos incorretos ou danos, superando métricas de desempenho como latência ou custo. Estruturas regulatórias, como as diretrizes da HIPAA e do FDA para suporte à decisão clínica, exigem ainda uma validação rigorosa da segurança e da imparcialidade do modelo antes da implantação.

Por que cada alternativa está certa ou errada

A

Incorreta

Latência do modelo

A latência rege a velocidade de resposta, não a segurança clínica, portanto, não pode ser a principal preocupação para o aconselhamento médico. Ela se torna o fator decisivo em aplicativos em tempo real, como orientação cirúrgica ao vivo ou chatbots de triagem interativa, onde respostas inferiores a um segundo afetam a usabilidade em vez da correção da própria orientação.

B

Correta

Segurança e imparcialidade

O aconselhamento médico traz riscos diretos à segurança do paciente e regulatórios, portanto, as saídas devem evitar recomendações prejudiciais ou tendenciosas. Filtros e avaliações de segurança e imparcialidade abordam essa restrição, garantindo que o modelo gerativo não produza orientações inseguras nem discrimine entre grupos de pacientes.

C

Incorreta

Tamanho do modelo

A contagem de parâmetros indica capacidade, não se as saídas são medicamente seguras ou precisas. O tamanho do modelo é o foco correto quando o orçamento de computação ou a memória no dispositivo restringe a implantação, como encaixar um modelo em hardware de borda, mas não aborda o risco de alucinação em aconselhamento clínico.

D

Incorreta

Custo de inferência

O custo de inferência é uma restrição econômica, não de segurança do paciente, portanto, não pode superar a precisão e a prevenção de danos para o aconselhamento médico. O custo se torna a principal consideração em implantações de alto volume e baixo risco, como resumir documentos internos, onde os erros não têm consequências clínicas.

Para se aprofundar

Modelos gerativos para aconselhamento médico podem alucinar dosagens, contraindicações ou diagnósticos plausíveis, mas incorretos, de modo que as salvaguardas de segurança e imparcialidade são a principal restrição de projeto. Sob o capô, isso significa sobrepor filtros de entrada e saída, fundamentar as respostas em fontes clínicas verificadas por meio de geração aumentada por recuperação e adicionar revisão humana no circuito para saídas de alto risco. A imparcialidade exige a avaliação do modelo em subgrupos demográficos porque os desequilíbrios nos dados de treinamento podem produzir aconselhamento sistematicamente pior para pacientes subrepresentados. Um cenário realista: um chatbot de triagem sugere uma interação entre dois medicamentos prescritos; sem um filtro de segurança e um caminho de escalonamento para o médico, o paciente pode ser prejudicado, criando exposição regulatória e de responsabilidade que a otimização de latência ou custo não pode compensar.

Sobre estas questões de prática

Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.