Em uma clínica de bairro, uma equipe avaliou um sistema de inteligência artificial que prioriza pacientes para…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar situações da vida cotidiana, estilos de vida, valores, condutas etc., desnaturalizando e problematizando formas de desigualdade, preconceito, intolerância e discriminação, e identificar ações que promovam os Direitos Humanos, a solidariedade e o respeito às diferenças e às liberdades individuais.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Em uma clínica de bairro, uma equipe avaliou um sistema de inteligência artificial que prioriza pacientes para consultas rápidas. Em uma representação de barras descrita no relatório, cada barra indica a porcentagem de casos urgentes que o sistema deixou de priorizar: para pacientes do grupo A, 8%; para pacientes do grupo B, 19%. A equipe também observou que os dois grupos apresentavam proporções semelhantes de casos urgentes na amostra analisada. Considerando os dados apresentados, qual medida responde de modo mais adequado ao problema ético identificado?
- A) Definir a priorização pela proporção geral de casos urgentes, sem considerar os resultados separados por grupo.
- B) Investigar as causas da diferença, revisar o sistema e acompanhar seus resultados para reduzir o risco de tratamento desigual entre os grupos.
- C) Manter o sistema como está, pois a diferença observada pode decorrer de variação aleatória na amostra.
- D) Ajustar o sistema até que a porcentagem de casos urgentes não priorizados seja igual nos dois grupos.
- E) Retirar do sistema a identificação dos grupos e manter as demais configurações da priorização.
✅ Resposta correta: alternativa B
Resolução passo a passo
- O sistema deixa de priorizar 8% dos casos urgentes do grupo A e 19% dos do grupo B. Como as proporções de casos urgentes eram semelhantes, a diferença sugere possível tratamento desigual que merece investigação.
- A medida mais adequada é investigar as causas, revisar o sistema e acompanhar seus resultados, buscando reduzir o risco de desigualdade sem presumir previamente qual ajuste resolverá o problema. Portanto, B está correta.
- A está errada porque usar apenas o resultado geral pode ocultar a diferença entre os grupos. C está errada porque atribuir a diferença ao acaso sem investigar não é uma resposta responsável. D está errada porque impor taxas iguais pode não corrigir as causas da disparidade nem garantir uma priorização justa. E está errada porque ocultar a identificação dos grupos não necessariamente elimina vieses presentes nos dados ou no funcionamento do sistema.
💡 Dica: Compare os resultados dos grupos e escolha uma resposta que investigue e reduza o risco de desigualdade sem presumir sua causa.
Alternativa por alternativa
A pessoa supõe que uma medida agregada representa igualmente os dois grupos. Isso pode mascarar a diferença observada entre eles.
Como as proporções de casos urgentes eram semelhantes, a diferença de falhas sugere que o sistema pode prejudicar mais um grupo. Investigar e corrigir o problema, com acompanhamento, ajuda a evitar discriminação nas decisões de saúde.
A pessoa trata a possibilidade de variação aleatória como motivo suficiente para manter o sistema sem apuração. O dado exige investigação antes de se concluir que a diferença é casual.
Por que engana: Confundir igualdade de resultados percentuais com garantia suficiente de justiça, ou ignorar uma diferença relevante por ser possivelmente aleatória.
A pessoa entende que igualdade nas porcentagens é, por si só, garantia de justiça. Igualar o indicador sem investigar as causas pode não resolver o tratamento desigual.
A pessoa supõe que retirar a identificação explícita dos grupos elimina o viés. As disparidades podem persistir por características correlacionadas ou por outros aspectos dos dados e do sistema.
Raio-X da questão
Justiça e tratamento equitativo em sistemas de IA
avaliacao
Igualdade e não discriminação · Interpretação de percentuais por grupo
Viés algorítmico e direitos humanos
Confundir igualdade de resultados percentuais com garantia suficiente de justiça, ou ignorar uma diferença relevante por ser possivelmente aleatória.
Direitos humanos e cidadania digital
Responsabilidade e pensamento crítico
cientifico
Questões parecidas com resolução
- Uma granja brasileira testa dois sistemas de inteligência artificial. O primeiro analisa imagens e sons dos porcos para…
- Uma equipe que desenvolve um aplicativo de inteligência artificial para indicar possíveis sinais de sofrimento emocional…
- Uma produtora independente prepara uma campanha publicitária usando um sistema de IA para gerar falas com a voz de uma…
- Em 1996, nasceu Dolly, uma ovelha produzida por transferência do núcleo de uma célula adulta para um óvulo cujo núcleo…
- Ao conversar sobre a possibilidade de clonar seu gato, uma família afirma que o novo animal seria exatamente igual ao…
- Uma equipe de um serviço de telemedicina avaliou um sistema de inteligência artificial usado para apoiar profissionais…
Todas as questões de Dilemas Éticos da Tecnologia e Vida (Clonagem, IA)
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog