FacileChoix unique

Question d'entraînement AI-900

Qu'est-ce que le principe de 'accountability' dans le cadre de l'IA responsable de Microsoft ?

Choisissez la meilleure réponse.

Bonne réponse

  • BLes humains doivent maintenir la responsabilité et la supervision sur les systèmes d'IA et leurs impacts

Explication

Le principe de 'accountability' dans le cadre de l'IA responsable de Microsoft signifie que les humains sont ultimement responsables de la conception, du déploiement et des résultats des systèmes d'IA. Ce principe garantit que les systèmes d'IA ne sont pas des décideurs autonomes sans supervision humaine ; au contraire, les organisations doivent maintenir une propriété et une gouvernance claires pour traiter tout impact ou biais involontaire.

Pourquoi chaque option est juste ou fausse

A

Fausse

Les systèmes d'IA doivent corriger automatiquement leurs propres erreurs

L'accountability signifie que les personnes et les organisations restent responsables du fonctionnement et des résultats des systèmes d'IA, avec gouvernance et supervision. C'est tentant car cela ressemble à une auto-correction opérationnelle, mais la correction automatique des erreurs n'est pas un principe d'IA responsable ; l'accountability concerne la responsabilité humaine, pas la remédiation autonome.

B

Juste

Les humains doivent maintenir la responsabilité et la supervision sur les systèmes d'IA et leurs impacts

L'accountability exige que les personnes, et non les systèmes, restent responsables des résultats de l'IA, avec des mécanismes de supervision humaine et de gouvernance en place. Cela satisfait l'accent mis par l'énoncé sur la responsabilité des impacts, le distinguant des principes d'équité, de fiabilité et de transparence.

C

Fausse

Les systèmes d'IA doivent journaliser toutes les interactions des utilisateurs pour audit

L'accountability signifie que les personnes restent responsables des systèmes d'IA et de leurs résultats, avec gouvernance et supervision. La journalisation des interactions soutient l'auditabilité mais n'est pas le principe lui-même. L'option est tentante car la journalisation ressemble à de l'accountability, mais le cadre exige une appropriation humaine et des mécanismes de recours, pas seulement une collecte de télémétrie.

D

Fausse

Tout le code d'IA doit être open-source pour examen public

L'accountability signifie que les personnes restent responsables des systèmes d'IA et de leurs résultats, et non que le code soit publié. C'est tentant car la transparence implique une ouverture sur le fonctionnement des systèmes, et la publication du code serait correcte si la question portait sur la transparence plutôt que sur l'accountability.

Pour aller plus loin

L'accountability dans le cadre de l'IA responsable de Microsoft signifie que les personnes et les organisations restent responsables du comportement des systèmes d'IA et de leurs résultats, c'est pourquoi des organes de gouvernance, des évaluations d'impact et des processus de revue existent autour des modèles déployés. C'est distinct de la transparence, qui concerne l'explication du fonctionnement d'un système, et de la fiabilité, qui concerne l'exploitation sécurisée. Une subtilité est que l'accountability ne peut pas être déléguée au modèle lui-même ; même un système automatisé nécessite un propriétaire désigné capable d'intervenir, de revenir en arrière ou de le désactiver. En pratique, une banque déployant un modèle de scoring de crédit désigne un cadre responsable, documente les décisions de conception et établit un chemin d'escalade lorsque le modèle produit des décisions contestées.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.