MediaOpción múltiple

Pregunta de práctica de Generative AI Leader

Una empresa ajusta un modelo de texto con políticas internas de HR. Tras el despliegue, el modelo a veces genera información confidencial de los empleados. ¿Cuál es la causa más probable?

Elige la mejor respuesta.

Respuesta correcta

  • AEl conjunto de datos de ajuste fino contenía información de identificación personal que no se eliminó.

Explicación

La causa más probable es que el conjunto de datos de ajuste fino contenía información de identificación personal (PII) que no se depuró adecuadamente. Durante el ajuste fino, el modelo aprende patrones y memoriza secuencias específicas de los datos de entrenamiento. Si el conjunto de datos incluye registros confidenciales de empleados, el modelo puede reproducir esa información textualmente al recibir una instrucción, lo que genera una fuga de datos. Este es un riesgo conocido en el ajuste fino, ya que los modelos pueden sobreajustarse a ejemplos raros o únicos en el conjunto de entrenamiento.

Por qué cada opción es correcta o incorrecta

A

Correcta

El conjunto de datos de ajuste fino contenía información de identificación personal que no se eliminó.

El ajuste fino integra el corpus de entrenamiento en los pesos del modelo, por lo que cualquier información de identificación personal que quede en el conjunto de datos de políticas de HR se puede reproducir textualmente en la inferencia. La restricción del enunciado son los datos confidenciales de los empleados que aparecen en las salidas; eliminar PII antes del ajuste fino evita esta memorización, ya que no existe ninguna capa de filtrado posteriormente.

B

Incorrecta

El modelo no se entrenó con aprendizaje por refuerzo a partir de retroalimentación humana (RLHF).

El RLHF alinea las respuestas con las preferencias humanas; no elimina los datos de entrenamiento confidenciales, por lo que los detalles memorizados de los empleados siguen aflorando. El RLHF es adecuado para mejorar la utilidad y el comportamiento de seguridad. La fuga proviene del ajuste fino en registros de HR no filtrados que contienen datos personales.

C

Incorrecta

El modelo tiene parámetros insuficientes para generalizar correctamente.

El recuento de parámetros rige la capacidad de aprender patrones, no qué datos de entrenamiento reproduce el modelo. El ajuste fino en las políticas de HR integra esos registros en los pesos, por lo que los detalles memorizados de los empleados afloran independientemente del tamaño del modelo. Escalar los parámetros es el remedio para el subajuste en tareas complejas, no para la fuga de datos.

D

Incorrecta

La ingeniería de prompts fue demasiado prolija e incluyó instrucciones engañosas.

Los prompts prolijos moldean el tono y el seguimiento de instrucciones, pero no pueden inyectar registros de empleados que el modelo nunca aprendió. La fuga se origina en el propio conjunto de datos de ajuste fino, donde se integró contenido confidencial de HR en los pesos. La ingeniería de prompts es la palanca adecuada para orientar el comportamiento, no para eliminar los datos de entrenamiento memorizados.

Para profundizar

El ajuste fino ajusta los pesos de un modelo preentrenado mediante descenso de gradiente en su conjunto de datos, por lo que cualquier PII presente en esos datos se codifica estadísticamente en los parámetros y puede reproducirse textualmente en la inferencia. A diferencia de la generación aumentada por recuperación, donde los registros confidenciales permanecen en un almacenamiento externo que se puede revocar, el ajuste fino incorpora información en el propio modelo, lo que dificulta su eliminación sin reentrenamiento o técnicas de desaprendizaje automático. El RLHF configura las preferencias de estilo y alineación, pero no depura hechos memorizados, y el recuento de parámetros no está relacionado con la fuga. Un caso realista: un chatbot de HR ajustado con expedientes de casos sin redactar recita posteriormente el salario y los detalles de baja médica de un empleado cuando se le proporciona un nombre, lo que genera un incidente de privacidad y exposición regulatoria bajo GDPR o HIPAA.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.