FácilOpción múltiple

Pregunta de práctica de AI-900

Una empresa de salud implementa un sistema de AI para ayudar a los médicos a diagnosticar afecciones cutáneas a partir de imágenes. El sistema es una red neuronal profunda que no ofrece explicaciones sobre sus predicciones. La empresa implementa un proceso en el que se registra cada recomendación de la AI y un equipo médico revisa cualquier resultado adverso para determinar si el error fue del sistema o humano. La empresa también asigna claramente la responsabilidad de los resultados del sistema a un comité de supervisión clínica específico. ¿Qué principio de AI responsable de Microsoft se está implementando más directamente con estas acciones?

Elige la mejor respuesta.

Respuesta correcta

  • AAccountability

Explicación

Las acciones descritas —registrar las recomendaciones de la AI, revisar los resultados adversos para determinar la fuente del error y asignar un comité de supervisión clínica— implementan directamente el principio de Accountability. Accountability requiere que las organizaciones asignen claramente la responsabilidad de los resultados del sistema de AI y cuenten con procesos para revisar y abordar los impactos, que es exactamente lo que hace la empresa al crear un bucle de revisión humana y un comité designado.

Por qué cada opción es correcta o incorrecta

A

Correcta

Accountability

Registrar cada recomendación, revisar los resultados adversos y asignar la responsabilidad a un comité de supervisión clínica son medidas de gobernanza y respuesta. Accountability es el principio que abarca la propiedad humana de los resultados del sistema de AI, coincidiendo con las acciones de supervisión y revisión de errores del enunciado.

B

Incorrecta

Fairness

Estas acciones implementan accountability: registrar los resultados, revisar los resultados adversos y asignar la responsabilidad a un comité de supervisión. Fairness se refiere al trato equitativo entre grupos, lo cual el enunciado nunca aborda. Fairness tienta porque el sesgo en la AI sanitaria es una discusión común, pero aquí no se describe ninguna disparidad demográfica ni mitigación.

C

Incorrecta

Reliability and safety

Reliability and safety requieren un rendimiento coherente bajo las condiciones previstas. Aunque el registro y la revisión pueden ayudar a mejorar la fiabilidad, el enfoque principal de las acciones descritas está en asignar la responsabilidad, no en probar o garantizar el funcionamiento seguro del sistema.

D

Incorrecta

Transparency

Transparency significa que los usuarios pueden comprender cómo y por qué el sistema tomó una decisión. Dado que el sistema es una caja negra sin explicaciones, no se logra la transparency. Las medidas de accountability no hacen que el funcionamiento interno del sistema sea transparente.

Para profundizar

Accountability en el marco de AI responsable de Microsoft significa que las personas y las organizaciones siguen respondiendo de los resultados de los sistemas de AI, lo cual se operationaliza mediante órganos de gobernanza, supervisión documentada y pistas de auditoría. Registrar cada recomendación y contar con un comité clínico que revise los resultados adversos crea la cadena de evidencia y la propiedad humana que exige Accountability. Se diferencia de Transparency, que trata sobre explicar cómo funciona el modelo, y de Reliability and safety, que trata sobre un rendimiento coherente y seguro. En el ámbito sanitario, esto importa porque los reguladores y los comités de ética esperan una parte responsable designada y un proceso de revisión, no solo una tarjeta de modelo, por lo que el comité de supervisión y el registro son los mecanismos concretos que satisfacen el principio.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.