Em um hospital público, um sistema de inteligência artificial passou a recomendar quais pacientes deveriam…
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Em um hospital público, um sistema de inteligência artificial passou a recomendar quais pacientes deveriam receber prioridade em uma unidade de terapia intensiva. O programa foi treinado com registros históricos de atendimentos e apresenta suas recomendações sem informar claramente quais critérios utilizou. Uma auditoria constatou que os dados reproduziam desigualdades anteriores no acesso à saúde. A direção do hospital decidiu seguir automaticamente as recomendações, sem estabelecer quem responderia por eventuais danos aos pacientes. Com base no texto, qual problema ético deve orientar a avaliação do uso desse sistema de inteligência artificial em decisões de vida ou morte?
- A) Impedir qualquer uso de inteligência artificial em serviços de saúde
- B) Exigir transparência, supervisão humana e responsabilização pelas decisões
- C) Substituir integralmente os profissionais para acelerar o atendimento hospitalar
- D) Aceitar as recomendações como imparciais por serem produzidas por tecnologia
- E) Priorizar a redução de custos sobre a igualdade entre os pacientes
✅ Resposta correta: alternativa B
Resolução passo a passo
- O texto descreve um sistema de inteligência artificial que recomenda prioridade de atendimento em UTI sem explicar seus critérios, que reproduz desigualdades presentes nos dados históricos e cujas recomendações são seguidas automaticamente, sem definição de quem responde por danos.
- Esses três elementos apontam para a falta de transparência (critérios não informados), a ausência de supervisão humana efetiva (decisões seguidas automaticamente) e a falta de responsabilização (ninguém definido para responder por danos). Por isso, a alternativa B é a correta, e ela coincide com o gabarito oficial.
- Por que as outras estão erradas:
- A) Propõe proibir qualquer uso de IA, o que não é exigido pelo texto, que trata de um problema de governança e não da tecnologia em si.
- C) Propõe substituir integralmente os profissionais, o que agrava o problema da falta de supervisão humana descrito no texto.
- D) Trata a recomendação como imparcial, quando a auditoria mostrou que ela reproduz desigualdades anteriores.
- E) Prioriza custos sobre igualdade, contrariando o problema de desigualdade de acesso apontado pela auditoria.
💡 Dica: Analise as diferentes perspectivas éticas sobre a IA.
Alternativa por alternativa
O aluno pode acreditar que o problema central é a própria tecnologia, e que a única solução segura seria eliminar seu uso, sem considerar a possibilidade de regulá-la.
Por que engana: Achar que a inteligência artificial é sempre benéfica e não considerar suas limitações éticas e sociais.
O texto apresenta três problemas relacionados: o sistema não explica seus critérios, seus dados reproduzem desigualdades e a direção não definiu responsáveis pelos efeitos das decisões. Por isso, a avaliação ética deve exigir transparência, supervisão humana e responsabilização, especialmente porque as recomendações afetam o acesso a um recurso vital.
O aluno pode entender que, para resolver os problemas, bastaria aumentar a autonomia da máquina, retirando os profissionais, o que ignora que o texto critica justamente a falta de supervisão humana.
O aluno pode cair no senso comum de que máquinas são neutras e objetivas, ignorando que o texto informa que a auditoria constatou reprodução de desigualdades nos dados.
O aluno pode focar na eficiência econômica do hospital e não perceber que o texto trata de desigualdade no acesso à saúde como problema ético central.
Raio-X da questão
ética da inteligência artificial
diagnostico
implicações éticas · inteligência artificial
Revisar os princípios éticos relacionados à tecnologia e saúde.
Achar que a inteligência artificial é sempre benéfica e não considerar suas limitações éticas e sociais.
cidadania_etica
pensamento_critico
cientifico
Questões parecidas com resolução
- — Autorizei o uso da amostra de sangue do meu filho para acompanhamento médico, não para que empresas consultassem…
- A praça central amanheceu cercada por tapumes após a prefeitura anunciar uma audiência sobre o destino de uma estátua…
- Como retratar de modo justo narrativas diversas em repositórios digitais de documentos coloniais? Mais de 200 mil itens…
- Câmeras estratégicas instaladas em ruas e praças de diversas cidades passaram a usar algoritmos de reconhecimento facial…
- Por que a disseminação de vídeos manipulados tem gerado inquietação sobre a solidez do debate público? Dados…
- Até que ponto nossos feeds refletem livre arbítrio? Dados ilustrativos indicam que plataformas digitais usam algoritmos…
Todas as questões de Ética e ciência: dilemas contemporâneos
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog