Resposta correta
- BSegurança e imparcialidade
Explicação
Em aplicativos de aconselhamento médico, as saídas de um modelo de IA gerativa podem impactar diretamente a saúde do paciente, tornando a segurança e a imparcialidade a principal consideração. Conselhos incorretos ou tendenciosos podem levar a diagnósticos incorretos ou danos, superando métricas de desempenho como latência ou custo. Estruturas regulatórias, como as diretrizes da HIPAA e do FDA para suporte à decisão clínica, exigem ainda uma validação rigorosa da segurança e da imparcialidade do modelo antes da implantação.
Para se aprofundar
Modelos gerativos para aconselhamento médico podem alucinar dosagens, contraindicações ou diagnósticos plausíveis, mas incorretos, de modo que as salvaguardas de segurança e imparcialidade são a principal restrição de projeto. Sob o capô, isso significa sobrepor filtros de entrada e saída, fundamentar as respostas em fontes clínicas verificadas por meio de geração aumentada por recuperação e adicionar revisão humana no circuito para saídas de alto risco. A imparcialidade exige a avaliação do modelo em subgrupos demográficos porque os desequilíbrios nos dados de treinamento podem produzir aconselhamento sistematicamente pior para pacientes subrepresentados. Um cenário realista: um chatbot de triagem sugere uma interação entre dois medicamentos prescritos; sem um filtro de segurança e um caminho de escalonamento para o médico, o paciente pode ser prejudicado, criando exposição regulatória e de responsabilidade que a otimização de latência ou custo não pode compensar.
Sobre estas questões de prática
Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.