FacileChoix unique

Question d'entraînement AI-900

Une entreprise de santé déploie un système d'AI pour aider les médecins à diagnostiquer des affections cutanées à partir d'images. Le système est un réseau de neurones profond qui ne fournit pas d'explications pour ses prédictions. L'entreprise met en œuvre un processus dans lequel chaque recommandation de l'AI est consignée, et une équipe médicale examine tout résultat indésirable pour déterminer si le système ou un humain a commis une erreur. L'entreprise attribue également clairement la responsabilité des résultats du système à un comité de surveillance clinique spécifique. Quel principe d'AI responsable de Microsoft est le plus directement mis en œuvre par ces actions ?

Choisissez la meilleure réponse.

Bonne réponse

  • AAccountability

Explication

Les actions décrites —consigner les recommandations de l'AI, examiner les résultats indésirables pour déterminer la source de l'erreur et affecter un comité de surveillance clinique— mettent directement en œuvre le principe d'Accountability. Accountability exige que les organisations attribuent clairement la responsabilité des sorties du système d'AI et disposent de processus pour examiner et traiter les impacts, ce qui correspond exactement à ce que fait l'entreprise en créant une boucle de révision humaine et un comité désigné.

Pourquoi chaque option est juste ou fausse

A

Juste

Accountability

Consigner chaque recommandation, examiner les résultats indésirables et attribuer la responsabilité à un comité de surveillance clinique sont des mesures de gouvernance et de reddition de comptes. Accountability est le principe couvrant la propriété humaine des résultats du système d'AI, correspondant aux actions de surveillance et d'examen des erreurs de l'énoncé.

B

Fausse

Fairness

Ces actions mettent en œuvre l'accountability : consigner les sorties, examiner les résultats indésirables et attribuer la responsabilité à un comité de surveillance. Fairness concerne le traitement équitable entre les groupes, ce que l'énoncé n'aborde jamais. Fairness séduit car le biais de l'AI en santé est une discussion courante, mais aucune disparité démographique ni atténuation n'est décrite ici.

C

Fausse

Reliability and safety

Reliability and safety exigent des performances constantes dans des conditions prévues. Bien que la consignation et l'examen puissent aider à améliorer la fiabilité, l'objectif principal des actions décrites est d'attribuer la responsabilité, et non de tester ou de garantir le fonctionnement sûr du système.

D

Fausse

Transparency

Transparency signifie que les utilisateurs peuvent comprendre comment et pourquoi le système a pris une décision. Étant donné que le système est une boîte noire sans explications, la transparency n'est pas atteinte. Les mesures d'accountability ne rendent pas le fonctionnement interne du système transparent.

Pour aller plus loin

Accountability dans le cadre de l'AI responsable de Microsoft signifie que les personnes et les organisations restent comptables des résultats des systèmes d'AI, ce qui est opérationnalisé par le biais d'organes de gouvernance, d'une surveillance documentée et de pistes d'audit. Consigner chaque recommandation et confier à un comité clinique l'examen des résultats indésirables crée la chaîne de preuves et l'appropriation humaine qu'exige Accountability. Cela diffère de Transparency, qui concerne l'explication du fonctionnement du modèle, et de Reliability and safety, qui concerne des performances constantes et sûres. Dans le domaine de la santé, cela importe car les régulateurs et les comités d'éthique attendent une partie responsable désignée et un processus d'examen, et non seulement une fiche de modèle, de sorte que le comité de surveillance et la consignation sont les mécanismes concrets qui satisfont le principe.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.