Respuesta correcta
Explicación
En las aplicaciones de asesoramiento médico, las salidas de un modelo de inteligencia artificial generativa pueden afectar directamente la salud del paciente, lo que convierte la seguridad y la equidad en la consideración primordial. Un asesoramiento incorrecto o sesgado podría provocar un diagnóstico erróneo o daños, superando las métricas de rendimiento como la latencia o el costo. Los marcos regulatorios como las pautas de HIPAA y de la FDA para el soporte de decisiones clínicas exigen además una validación rigurosa de la seguridad y la equidad del modelo antes de su implementación.
Para profundizar
Los modelos generativos para asesoramiento médico pueden alucinar dosis, contraindicaciones o diagnósticos plausibles pero erróneos, por lo que las salvaguardas de seguridad y equidad son la principal restricción de diseño. Bajo el capó, esto significa superponer filtros de entrada y salida, fundamentar las respuestas en fuentes clínicas examinadas mediante la generación aumentada por recuperación y agregar revisión humana en el circuito para salidas de alto riesgo. La equidad requiere evaluar el modelo en subgrupos demográficos porque los desequilibrios en los datos de entrenamiento pueden producir asesoramiento sistemáticamente peor para pacientes subrepresentados. Un escenario realista: un chatbot de triaje sugiere una interacción entre dos medicamentos recetados; sin un filtro de seguridad y una ruta de escalamiento para clínicos, el paciente podría resultar perjudicado, creando exposición regulatoria y de responsabilidad que la optimización de latencia o costos no puede compensar.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.