Imagine uma sociedade onde as decisões são tomadas por algoritmos. Quais são os riscos éticos dessa prática?
Publicado por Alexandre Lombardi dos Santos, fundador do GeraProva
Analisar e avaliar os impasses ético-políticos decorrentes das transformações culturais, sociais, históricas, científicas e tecnológicas no mundo contemporâneo e seus desdobramentos nas atitudes e nos valores de indivíduos, grupos sociais, sociedades e culturas.
Fonte: Base Nacional Comum Curricular (MEC).Questão
Imagine uma sociedade onde as decisões são tomadas por algoritmos. Quais são os riscos éticos dessa prática?
- A) Decisões algorítmicas são sempre justas.
- B) Pode haver discriminação nas decisões.
- C) A ética não se aplica a decisões automáticas.
- D) Não existem benefícios em decisões algorítmicas.
- E) Todos os algoritmos são transparentes.
✅ Resposta correta: alternativa B
Resolução passo a passo
- O enunciado pede os riscos éticos de uma sociedade em que decisões são tomadas por algoritmos, ou seja, situações em que a prática pode causar danos morais ou sociais.
- Analisando a alternativa B, 'Pode haver discriminação nas decisões', ela identifica um risco ético real: algoritmos treinados com dados históricos podem reproduzir ou amplificar preconceitos de gênero, raça ou renda, prejudicando pessoas sem que haja intenção explícita.
- A alternativa A está errada porque afirmar que decisões algorítmicas são sempre justas ignora que um algoritmo herda vieses dos dados e dos critérios de quem o programa.
- A alternativa C está errada porque a ética se aplica a qualquer decisão que afete pessoas, inclusive as automatizadas, pois quem projeta e usa o sistema continua responsável pelos efeitos.
- A alternativa D está errada porque algoritmos podem trazer benefícios, como rapidez, padronização e redução de certos erros humanos; o problema está em riscos, não na ausência de vantagens.
- A alternativa E está errada porque muitos algoritmos são proprietários ou complexos demais para serem compreendidos, por isso a falta de transparência é justamente um dos riscos discutidos.
- Conclusão: a resposta correta é a B, que coincide com o gabarito oficial.
💡 Dica: Considere os impactos sociais e morais da automação nas decisões.
Alternativa por alternativa
O aluno acredita que, por serem baseadas em cálculos matemáticos, as decisões de um algoritmo são neutras e imparciais por natureza.
Por que engana: O aluno pode confundir a ideia de que algoritmos são sempre justos, ignorando a possibilidade de discriminação nas decisões que eles tomam.
Algoritmos podem perpetuar preconceitos existentes.
O aluno entende que a ética é um tema restrito a pessoas e que, ao delegar uma decisão a uma máquina, deixa de haver responsabilidade moral.
O aluno confunde discutir riscos com negar qualquer vantagem, concluindo que, se há problemas, a prática não traz nenhum benefício.
O aluno supõe que um algoritmo sempre é um código aberto e compreensível, sem considerar que sistemas podem ser caixas-pretas protegidas por sigilo comercial.
Raio-X da questão
ética dos algoritmos
diagnostico
ética na tecnologia · impacto social dos algoritmos
Revisar os princípios éticos relacionados à tecnologia e decisões automatizadas.
O aluno pode confundir a ideia de que algoritmos são sempre justos, ignorando a possibilidade de discriminação nas decisões que eles tomam.
cidadania_etica
pensamento_critico
cotidiano
Questões parecidas com resolução
- Em determinado país, laboratórios privados de biotecnologia passaram a oferecer edição genética de embriões usando a…
- Segundo John Rawls, qual princípio moral regula desigualdades sociais e, por extensão, o acesso a tecnologias médicas?
- Em debates ético-científicos contemporâneos, qual princípio orienta a limitação de novas tecnologias diante de riscos…
- Analise os impasses ético-políticos gerados pelas transformações científicas e tecnológicas contemporâneas e proponha…
- Analise o dilema ético de sistemas de IA que priorizam pacientes em triagem médica automatizada quando recursos são…
- Qual é o principal risco ético de usar algoritmos de IA para decidir prioridades em triagem médica?
Todas as questões de Ética e ciência: dilemas contemporâneos
🔎 Procurar outra questão
Procure no banco do GeraProva pelo tema ou por um trecho do enunciado. Cada questão já vem com resolução comentada e a análise de cada alternativa.
Professor: monte a prova com questões como esta, com gabarito e folha de respostas, em 30 segundos. Ver planos · Blog