DifícilSelección múltiple

Pregunta de práctica de AIF-C01

¿Qué TRES prácticas se recomiendan para una IA responsable al implementar foundation models? (Elija tres).

Elige todas las respuestas correctas.

Respuestas correctas

  • BIncluir la revisión humana para decisiones de alto impacto
  • CImplementar guardrails para filtrar contenido dañino
  • DMonitorear continuamente las salidas del modelo en busca de desviaciones

Explicación

La opción B es correcta porque la implementación de IA responsable requiere supervisión humana (human-in-the-loop) para decisiones de alto impacto (por ejemplo, contratación, préstamos, triaje médico), de modo que una persona calificada pueda validar o anular el resultado del modelo antes de que afecte los derechos o la seguridad de alguien. La opción C es correcta porque las guardrails (filtros de entrada y salida, clasificadores de moderación de contenido y capas de cumplimiento de políticas) son un control estándar para evitar que los foundation models generen contenido dañino, inseguro o que viole políticas. La opción D es correcta porque los foundation models pueden degradar o cambiar su comportamiento con el tiempo debido a la desviación de datos (data drift), la desviación de conceptos (concept drift) o actualizaciones de modelos anteriores, por lo que el monitoreo continuo de las salidas (con métricas, alertas y activadores de reentrenamiento) es esencial para mantener la confiabilidad y la equidad. La opción A no se recomienda: recopilar comentarios de los usuarios es una señal valiosa para identificar sesgos y mejorar los modelos, por lo que evitarlo reduciría la rendición de cuentas en lugar de mejorar la responsabilidad. La opción E no se recomienda: el secreto de caja negra opaca socava la transparencia, la explicabilidad y la auditabilidad, que son principios fundamentales de la IA responsable; los componentes internos y la documentación del modelo deben divulgarse adecuadamente a las partes interesadas.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Evitar la recopilación de comentarios de los usuarios para reducir el sesgo

Suprimir los comentarios de los usuarios elimina la supervisión humana y la evaluación continua que la IA responsable requiere para detectar sesgos y daños. Es tentador porque los comentarios pueden introducir ruido en el etiquetado, por lo que evitarlos parece proteger la calidad de los datos, pero ese es precisamente su uso legítimo.

B

Correcta

Incluir la revisión humana para decisiones de alto impacto

La revisión humana para decisiones de alto impacto satisface la restricción de responsabilidad al mantener a una persona responsable de los resultados trascendentales, en lugar de delegar el juicio en un modelo probabilístico. Los foundation models pueden producir resultados seguros pero incorrectos, por lo que la supervisión detecta errores dañinos antes de que afecten a las personas, alineándose con los principios de IA responsable.

C

Correcta

Implementar guardrails para filtrar contenido dañino

Las guardrails filtran las entradas y salidas dañinas en el momento de la inferencia, satisfaciendo directamente el requisito de IA responsable de mitigar la generación de contenido dañino. A diferencia de la alineación en el momento del entrenamiento, que se fija una vez que el foundation model se envía, las guardrails imponen controles de seguridad alrededor del modelo implementado, detectando respuestas tóxicas, violentas o inseguras antes de que lleguen a los usuarios.

D

Correcta

Monitorear continuamente las salidas del modelo en busca de desviaciones

El monitoreo continuo de las salidas detecta la desviación distribucional, donde las entradas en vivo divergen de los datos de entrenamiento y degradan la precisión o la seguridad. Satisface el requisito de IA responsable de mantener una supervisión continua después de la implementación, detectando sesgos emergentes, alucinaciones o regresiones de calidad que las pruebas estáticas previas a la implementación no pueden revelar.

E

Incorrecta

Utilizar un enfoque de caja negra para mantener secretos los componentes internos del modelo

El secreto de caja negra impide la transparencia, la explicabilidad y la auditabilidad que la IA responsable exige para los foundation models. Es tentador porque ocultar los componentes internos protege la propiedad intelectual y disuade el sondeo adversarial, lo cual es una motivación de seguridad legítima pero no una práctica de IA responsable.

Para profundizar

Los foundation models son sistemas probabilísticos cuyo comportamiento surge de los datos de entrenamiento y no se puede especificar completamente de antemano, por lo que la implementación responsable se basa en controles en capas en lugar de una sola salvaguarda. La revisión humana para decisiones de alto impacto importa porque la puntuación de confianza de un modelo refleja la probabilidad de tokens, no la corrección fáctica; una respuesta fluida aún puede ser incorrecta, y un revisor responsable puede detectar errores consecuentes antes de que causen daños. Las guardrails suelen ubicarse como una capa de filtro de entrada y salida, utilizando clasificadores o reglas de políticas para bloquear avisos y completados que violen la política de seguridad, aunque agregan latencia y pueden ser eludidas por frases adversarias. El monitoreo continuo detecta la desviación distribucional: a medida que las entradas del mundo real se desvían de los datos de entrenamiento, las métricas de precisión y equidad se degradan silenciosamente. En un asistente de evaluación de préstamos o triaje médico, la combinación de estas tres prácticas evita decisiones automatizadas sin revisión, filtra salidas dañinas y revela la degradación antes de que afecte a los usuarios.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AIF-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.