FácilOpción múltiple

Pregunta de práctica de AI-900

¿Qué es el principio de 'accountability' en el marco de IA responsable de Microsoft?

Elige la mejor respuesta.

Respuesta correcta

  • BLos humanos deben mantener la responsabilidad y la supervisión sobre los sistemas de IA y sus impactos

Explicación

El principio de 'accountability' en el marco de IA responsable de Microsoft significa que los humanos son los responsables finales del diseño, la implementación y los resultados de los sistemas de IA. Este principio garantiza que los sistemas de IA no sean tomadores de decisiones autónomos sin supervisión humana; en cambio, las organizaciones deben mantener una propiedad y gobernanza claras para abordar cualquier impacto o sesgo no intencionado.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Los sistemas de IA deben corregir automáticamente sus propios errores

Accountability significa que las personas y las organizaciones siguen siendo responsables de la operación y los resultados de los sistemas de IA, con gobernanza y supervisión. Es tentador porque suena a autocorrección operativa, pero la corrección automática de errores no es un principio de IA responsable; la accountability se refiere a la responsabilidad humana, no a la remediación autónoma.

B

Correcta

Los humanos deben mantener la responsabilidad y la supervisión sobre los sistemas de IA y sus impactos

Accountability requiere que las personas, no los sistemas, sigan siendo responsables de los resultados de la IA, con mecanismos de supervisión humana y gobernanza establecidos. Esto satisface el enfoque del enunciado en la responsabilidad por los impactos, distinguiéndolo de los principios de equidad, fiabilidad y transparencia.

C

Incorrecta

Los sistemas de IA deben registrar todas las interacciones de los usuarios para auditoría

Accountability significa que las personas siguen siendo responsables de los sistemas de IA y sus resultados, con gobernanza y supervisión. Registrar las interacciones apoya la auditabilidad pero no es el principio en sí mismo. La opción es tentadora porque el registro suena a accountability, pero el marco requiere propiedad humana y mecanismos de reparación, no solo recopilación de telemetría.

D

Incorrecta

Todo el código de IA debe ser de código abierto para revisión pública

Accountability significa que las personas siguen siendo responsables de los sistemas de IA y sus resultados, no que el código se publique. Es tentador porque la transparencia implica apertura sobre cómo funcionan los sistemas, y publicar el código sería correcto si la pregunta fuera sobre transparencia en lugar de accountability.

Para profundizar

La accountability en el marco de IA responsable de Microsoft significa que las personas y las organizaciones siguen siendo responsables de cómo se comportan los sistemas de IA y de sus resultados, razón por la cual existen órganos de gobernanza, evaluaciones de impacto y procesos de revisión en torno a los modelos implementados. Es distinto de la transparencia, que se refiere a explicar cómo funciona un sistema, y de la fiabilidad, que se refiere a la operación segura. Una sutileza es que la accountability no puede delegarse al propio modelo; incluso un sistema automatizado necesita un propietario designado que pueda intervenir, revertir o deshabilitarlo. En la práctica, un banco que implementa un modelo de calificación crediticia asigna un ejecutivo responsable, documenta las decisiones de diseño y establece una ruta de escalada cuando el modelo produce decisiones disputadas.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.