MediaOpción múltiple

Pregunta de práctica de AI-900

Un analista financiero utiliza Azure OpenAI Service para generar resúmenes de informes de ganancias trimestrales. El analista proporciona el texto sin procesar del informe en el mensaje y desea que el resumen se adhiera estrictamente a los hechos presentados en dicho texto, sin añadir ninguna información externa ni especulación. ¿Qué técnica debe emplear el analista para minimizar el riesgo de que el modelo invente información?

Elige la mejor respuesta.

Respuesta correcta

  • BUtilizar la fundamentación incluyendo el texto del informe en el mensaje e instruyendo explícitamente al modelo para que base el resumen únicamente en ese texto.

Explicación

Fundamentar el modelo con el texto de origen e instruirle explícitamente para que base el resumen únicamente en ese texto es la forma más directa de reducir la alucinación. Azure OpenAI Service se basa en el mensaje para obtener contexto; al proporcionar el informe sin procesar y una instrucción estricta, el modelo se ve limitado a extraer hechos del contenido proporcionado en lugar de generar información novedosa.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Establecer el parámetro temperature en un valor alto.

Una temperatura alta amplía la distribución de muestreo, aumentando la aleatoriedad y la probabilidad de contenido fabricado, empeorando directamente la alucinación. Es tentador porque la temperatura controla la creatividad, lo que se adapta a la generación de ideas (brainstorming) o de textos de marketing donde se desea un resultado variado y novedoso en lugar de una estricta base en el texto suministrado.

B

Correcta

Utilizar la fundamentación incluyendo el texto del informe en el mensaje e instruyendo explícitamente al modelo para que base el resumen únicamente en ese texto.

Incluir el texto del informe en el mensaje proporciona al modelo un contexto fundamentado, por lo que su salida está condicionada a esos tokens en lugar de a la memoria paramétrica. La instrucción explícita restringe aún más la generación a la evidencia proporcionada, satisfaciendo directamente el requisito del enunciado de evitar información externa o especulación.

C

Incorrecta

Establecer el parámetro frequency penalty en el valor máximo permitido.

La penalización por frecuencia reduce la repetición de tokens ya emitidos; no restringe el modelo al texto fuente suministrado, por lo que los hechos inventados siguen siendo posibles. Es tentador porque da forma al estilo de salida, y sería la palanca adecuada cuando el texto generado repite frases excesivamente.

D

Incorrecta

Establecer el parámetro max_tokens en un número muy pequeño.

max_tokens limita únicamente la longitud de la respuesta; una salida corta aún puede contener hechos fabricados, y el truncamiento puede cortar el resumen a mitad de la oración. Es tentador porque limitar la salida parece restringir la invención, y es genuinamente útil para controlar el coste y la latencia, no la fundamentación fáctica.

Para profundizar

La fundamentación (grounding) limita la generación al suministrar el texto fuente autoritativo directamente en el mensaje y dar instrucciones al modelo para que responda únicamente a partir de él, lo que reduce la alucinación porque el modelo condiciona sus tokens al contexto proporcionado en lugar de a la memoria paramétrica. Azure OpenAI Service también ofrece la característica On Your Data, que recupera y cita documentos, pero la fundamentación en línea es el enfoque ligero aquí. La temperatura controla la aleatoriedad del muestreo, no la fidelidad fáctica, por lo que bajarla ayuda solo marginalmente; la penalización por frecuencia desalienta la repetición y max_tokens simplemente trunca la salida. Un límite sutil: incluso los modelos fundamentados pueden fabricar información si el contexto es ambiguo, por lo que las comprobaciones de citas siguen siendo prudentes. Esto importa para los resúmenes de ganancias donde una cifra inventada podría desencadenar problemas de cumplimiento.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.