Respuesta correcta
- AEl conjunto de datos de ajuste fino contenía información de identificación personal que no se eliminó.
Explicación
La causa más probable es que el conjunto de datos de ajuste fino contenía información de identificación personal (PII) que no se depuró adecuadamente. Durante el ajuste fino, el modelo aprende patrones y memoriza secuencias específicas de los datos de entrenamiento. Si el conjunto de datos incluye registros confidenciales de empleados, el modelo puede reproducir esa información textualmente al recibir una instrucción, lo que genera una fuga de datos. Este es un riesgo conocido en el ajuste fino, ya que los modelos pueden sobreajustarse a ejemplos raros o únicos en el conjunto de entrenamiento.
Para profundizar
El ajuste fino ajusta los pesos de un modelo preentrenado mediante descenso de gradiente en su conjunto de datos, por lo que cualquier PII presente en esos datos se codifica estadísticamente en los parámetros y puede reproducirse textualmente en la inferencia. A diferencia de la generación aumentada por recuperación, donde los registros confidenciales permanecen en un almacenamiento externo que se puede revocar, el ajuste fino incorpora información en el propio modelo, lo que dificulta su eliminación sin reentrenamiento o técnicas de desaprendizaje automático. El RLHF configura las preferencias de estilo y alineación, pero no depura hechos memorizados, y el recuento de parámetros no está relacionado con la fuga. Un caso realista: un chatbot de HR ajustado con expedientes de casos sin redactar recita posteriormente el salario y los detalles de baja médica de un empleado cuando se le proporciona un nombre, lo que genera un incidente de privacidad y exposición regulatoria bajo GDPR o HIPAA.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.