FácilOpción múltiple

Pregunta de práctica de Generative AI Leader

Una empresa está desplegando un modelo de inteligencia artificial generativa para asesoramiento médico. ¿Cuál es la consideración más importante?

Elige la mejor respuesta.

Respuesta correcta

  • BSeguridad y equidad

Explicación

En las aplicaciones de asesoramiento médico, las salidas de un modelo de inteligencia artificial generativa pueden afectar directamente la salud del paciente, lo que convierte la seguridad y la equidad en la consideración primordial. Un asesoramiento incorrecto o sesgado podría provocar un diagnóstico erróneo o daños, superando las métricas de rendimiento como la latencia o el costo. Los marcos regulatorios como las pautas de HIPAA y de la FDA para el soporte de decisiones clínicas exigen además una validación rigurosa de la seguridad y la equidad del modelo antes de su implementación.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Latencia del modelo

La latencia rige la velocidad de respuesta, no la seguridad clínica, por lo que no puede ser la preocupación primordial para el asesoramiento médico. Se convierte en el factor decisivo en aplicaciones en tiempo real, como la guía quirúrgica en vivo o los chatbots de triaje interactivo, donde las respuestas inferiores a un segundo afectan la usabilidad en lugar de la corrección de la guía en sí.

B

Correcta

Seguridad y equidad

El asesoramiento médico conlleva riesgos directos para la seguridad del paciente y regulatorios, por lo que las salidas deben evitar recomendaciones dañinas o sesgadas. Los filtros y la evaluación de seguridad y equidad abordan esta restricción, asegurando que el modelo generativo no produzca orientaciones inseguras ni discrimine entre grupos de pacientes.

C

Incorrecta

Tamaño del modelo

El recuento de parámetros indica capacidad, no si las salidas son médicamente seguras o precisas. El tamaño del modelo es el enfoque correcto cuando el presupuesto de computación o la memoria en el dispositivo limitan el despliegue, como ajustar un modelo en hardware de borde, pero no aborda el riesgo de alucinación en el asesoramiento clínico.

D

Incorrecta

Costo de inferencia

El costo de inferencia es una restricción económica, no de seguridad del paciente, por lo que no puede superar a la precisión y la evitación de daños para el asesoramiento médico. El costo se convierte en la consideración principal en despliegues de alto volumen y bajo riesgo, como el resumen de documentos internos, donde los errores no conllevan consecuencias clínicas.

Para profundizar

Los modelos generativos para asesoramiento médico pueden alucinar dosis, contraindicaciones o diagnósticos plausibles pero erróneos, por lo que las salvaguardas de seguridad y equidad son la principal restricción de diseño. Bajo el capó, esto significa superponer filtros de entrada y salida, fundamentar las respuestas en fuentes clínicas examinadas mediante la generación aumentada por recuperación y agregar revisión humana en el circuito para salidas de alto riesgo. La equidad requiere evaluar el modelo en subgrupos demográficos porque los desequilibrios en los datos de entrenamiento pueden producir asesoramiento sistemáticamente peor para pacientes subrepresentados. Un escenario realista: un chatbot de triaje sugiere una interacción entre dos medicamentos recetados; sin un filtro de seguridad y una ruta de escalamiento para clínicos, el paciente podría resultar perjudicado, creando exposición regulatoria y de responsabilidad que la optimización de latencia o costos no puede compensar.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.