Respuestas correctas
- AImplementar revisión de tipo HITL para salidas sensibles
- CImplementar filtros de contenido para bloquear salidas inapropiadas
- ERealizar auditorías periódicas de sesgo y equidad
Explicación
La revisión de tipo HITL garantiza que las salidas sensibles —como aquellas que involucran información protegida de salud (PHI), información de identificación personal (PII) o decisiones de alto impacto— sean evaluadas por un ser humano antes de llegar al cliente. Esto mitiga el riesgo de generadoras dañinas o sesgadas que los mecanismos de control automatizados puedan pasar por alto, alineándose con los principios de IA responsable como la rendición de cuentas y la seguridad.
Para profundizar
El despliegue responsable de la IA generativa en aplicaciones orientadas al cliente requiere una revisión de tipo HITL para las salidas sensibles con el fin de detectar contenido dañino o inexacto antes de que llegue a los usuarios, filtros de contenido para bloquear automáticamente salidas inapropiadas como discursos de odio o PII, y auditorías periódicas de sesgo y equidad para detectar y mitigar patrones discriminatorios. Entrenar con todos los datos disponibles puede amplificar los sesgos y los riesgos de privacidad, mientras que usar solo modelos pequeños no reduce inherentemente el riesgo. Estas prácticas se alinean con marcos como los Principios de IA de Google. Por ejemplo, un chatbot que maneje consultas médicas debe tener revisión humana para los diagnósticos, filtros para lenguaje ofensivo y auditorías para sesgo demográfico.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.