DifícilSelección múltiple

Pregunta de práctica de Generative AI Leader

¿Cuáles TRES son métodos válidos para reducir el sesgo en los resultados de la IA generativa?

Elige todas las respuestas correctas.

Respuestas correctas

  • CUsar un conjunto de datos de entrenamiento más diverso
  • DUsar filtros de seguridad
  • EAplicar ingeniería de instrucciones para indicar al modelo que sea justo

Explicación

La opción C es correcta porque un conjunto de datos de entrenamiento más diverso reduce el sesgo de representación al exponer al modelo a una gama más amplia de demografías, culturas, idiomas y puntos de vista, de modo que la distribución aprendida esté menos sesgada hacia un grupo dominante. La opción D es correcta porque los filtros de seguridad (por ejemplo, clasificadores de moderación de contenido, detectores de toxicidad o barreras de protección contra sesgos aplicadas a las indicaciones y las salidas) pueden detectar y bloquear generaciones sesgadas o dañinas, mitigando el sesgo en el momento de la inferencia. La opción E es correcta porque la ingeniería de instrucciones que indica explícitamente al modelo que sea justo, neutral o inclusivo (por ejemplo, indicaciones de sistema que especifican una representación equilibrada) orienta la generación hacia resultados menos sesgados sin necesidad de reentrenamiento. La opción A no es correcta porque restringir las indicaciones al inglés reduce el alcance lingüístico y cultural, lo que puede amplificar el sesgo en lugar de reducirlo. La opción B no es correcta porque aumentar el tamaño del modelo por sí solo no elimina el sesgo e incluso puede amplificar los sesgos presentes en los datos de entrenamiento.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Usar solo indicaciones en inglés

Restringir las indicaciones al inglés no elimina el sesgo; la inclinación de los datos de entrenamiento persiste independientemente del idioma de la indicación, y los usuarios que no hablan inglés simplemente reciben un servicio degradado. Es tentador porque estandarizar las entradas parece controlar la variabilidad, y las indicaciones exclusivamente en inglés serían razonables para un despliegue deliberadamente enfocado al inglés, no para la mitigación de sesgos.

B

Incorrecta

Aumentar el tamaño del modelo

Escalar los parámetros no se dirige a las correlaciones sesgadas incrustadas en los datos de entrenamiento; los modelos más grandes pueden reproducirlas o amplificarlas con mayor fluidez. Es tentador porque los modelos más grandes obtienen mejores puntuaciones en muchas evaluaciones comparativas, y aumentar el tamaño sería correcto cuando la restricción es la capacidad general o la calidad de razonamiento en lugar de la equidad.

C

Correcta

Usar un conjunto de datos de entrenamiento más diverso

Un conjunto de datos de entrenamiento más diverso aborda directamente el sesgo de representación al exponer al modelo a una mayor variación demográfica, cultural y lingüística durante el preentrenamiento, lo que reduce la probabilidad de asociaciones sesgadas en los resultados generados. Esto satisface el requisito del enunciado de un método válido de reducción de sesgos, ya que el sesgo frecuentemente se origina a partir de corpus de entrenamiento no representativos o históricamente sesgados.

D

Correcta

Usar filtros de seguridad

Los filtros de seguridad evalúan las indicaciones y las respuestas frente a umbrales configurados, bloqueando contenido dañino o sesgado antes de que llegue a los usuarios. Esto proporciona un control del lado de la salida que reduce las generaciones sesgadas independientemente de lo que contuvieran los datos de entrenamiento subyacentes.

E

Correcta

Aplicar ingeniería de instrucciones para indicar al modelo que sea justo

La ingeniería de instrucciones guía la salida generativa a través de instrucciones explícitas, por lo que las directivas de equidad pueden restringir el tono y el encuadre en el momento de la inferencia sin necesidad de reentrenamiento. Satisface el requisito del enunciado de un método válido de reducción de sesgos, aunque solo da forma al comportamiento superficial y no puede corregir los datos de entrenamiento sesgados ni las decisiones de acceso gobernadas por Microsoft Entra ID.

Para profundizar

El sesgo en los modelos generativos se originan en las distribuciones de los datos de entrenamiento, por lo que diversificar el corpus reduce el sesgo de representación en la fuente, mientras que los filtros de seguridad actúan como una barrera de protección en tiempo de ejecución que suprime las salidas dañinas o estereotipadas después de la generación. La ingeniería de instrucciones añade una restricción a nivel de instrucción, orientando al modelo hacia respuestas justas y equilibradas sin reentrenamiento. Estos tres operan en diferentes capas: datos, decodificación y condicionamiento. Un comportamiento sutil es que los filtros de seguridad pueden bloquear en exceso contenido legítimo, y las instrucciones de las indicaciones pueden ser ignoradas ante un cambio de distribución, por lo que combinarlas es más robusto que cualquier método individual. En un escenario de asistente de contratación, un corpus de currículums diverso más instrucciones de equidad y filtros de salida reducen conjuntamente el impacto dispar que cualquier control aislado pasaría por alto.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.