FácilMúltipla escolha

Questão de prática de AI-900

O que significa para um sistema de IA ser 'inclusivo' de acordo com os princípios de IA responsável da Microsoft?

Escolha a melhor resposta.

Resposta correta

  • BSistemas de IA devem capacitar todas as pessoas, incluindo aquelas com deficiência e de origens diversas

Explicação

O princípio de IA responsável de inclusividade da Microsoft exige que os sistemas de IA sejam projetados para capacitar a todos, incluindo pessoas com deficiência e indivíduos de origens culturais, linguísticas e socioeconômicas diversas. Isso significa que o sistema deve atender às necessidades de acessibilidade (por exemplo, leitores de tela, entrada por voz) e evitar vieses que possam excluir ou desfavorecer qualquer grupo.

Por que cada alternativa está certa ou errada

A

Incorreta

Sistemas de IA devem incluir o máximo de recursos possível, independentemente das necessidades do usuário

Maximizar o número de recursos sem considerar as necessidades do usuário contraria diretamente a inclusividade, que enfatiza acesso equitativo e benefício para todas as pessoas. Adicionar complexidade desnecessária pode tornar um sistema mais difícil de navegar para usuários com deficiências cognitivas ou que utilizam tecnologias assistivas, excluindo exatamente as populações que a inclusividade visa capacitar. O design inclusivo eficaz trata de uma seleção de recursos criteriosa e centrada no usuário, fornecendo várias maneiras de realizar uma tarefa, e não sobre a contagem de recursos ou alcance da maior superfície possível.

B

Correta

Sistemas de IA devem capacitar todas as pessoas, incluindo aquelas com deficiência e de origens diversas

A inclusividade como um princípio de IA responsável exige que os sistemas de IA sejam projetados para capacitar todas as pessoas, incluindo aquelas com deficiência e de origens culturais ou linguísticas diversas. Isso significa ir além do acesso simples para acomodar ativamente uma ampla gama de habilidades por meio de recursos como fala para texto, texto alternativo para imagens e suporte multilíngue, ao mesmo tempo em que se abordam potenciais vieses que poderiam excluir ou desfavorecer grupos específicos. O objetivo é criar IA que seja útil e equitativa para cada usuário, e não apenas para a população média ou majoritária.

C

Incorreta

Os dados de IA devem incluir exemplos de todos os países do mundo

Embora ter dados geograficamente diversos possa ajudar a reduzir o viés do modelo, o princípio da inclusividade não exige que todos os países estejam representados no conjunto de treinamento. Os dados de um modelo precisam ser representativos da população de usuários pretendida e dos contextos de implantação, que podem ser regionais ou específicos de um domínio, em vez de globais. Exigir cobertura mundial seria um padrão impraticável e frequentemente irrelevante, e a inclusividade é um princípio de design mais amplo que abrange acessibilidade, equidade e sensibilidade cultural ao longo de todo o ciclo de vida do sistema.

D

Incorreta

Todos os funcionários devem ser incluídos nas decisões de treinamento do modelo de IA

Incluir todos os funcionários nas decisões de treinamento de modelos é uma questão de governança interna ou processo participativo, e não um requisito de inclusividade. A inclusividade foca nas pessoas que realmente usarão ou serão afetadas pelo sistema de IA — como usuários com deficiência ou de comunidades marginalizadas — garantindo que a tecnologia funcione para eles. Embora a ampla contribuição das partes interessadas possa ser valiosa, ela não garante que o sistema seja acessível ou equitativo, e a experiência em domínio específico, em vez do envolvimento universal dos funcionários, é o que impulsiona o desenvolvimento responsável de IA.

Para se aprofundar

O princípio de inclusividade em IA responsável é distinto de outros princípios como equidade, confiabilidade e transparência, embora eles se sobreponham na prática. Ele exige que os sistemas de IA sejam projetados pensando em um conjunto diversificado de usuários desde o início — o que inclui considerar idade, gênero, cultura, gênero, linguagem e deficiência — e frequentemente envolve padrões de design acessível, como o WCAG para conteúdo web. Um equívoco comum é achar que inclusividade significa apenas evitar vieses em dados de treinamento; na realidade, ela também exige atenção à interface de usuário, aos mecanismos de feedback e a como o sistema responde a casos extremos. Por exemplo, um assistente controlado por voz deve funcionar bem para pessoas com deficiências de fala ou sotaques fortes, e um sistema de visão computacional não deve classificar incorretamente pessoas com diferentes tons de pele ou tipos físicos. Orientações regulatórias e estruturas do setor tratam cada vez mais a inclusividade como um requisito fundamental, e falhas podem levar tanto a danos reputacionais quanto à responsabilidade jurídica, como visto em casos em que sistemas excluíram usuários devido a um design inacessível.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.