O que é
Um robô parecido com gente faz supor que ele pensa como gente.
Como funciona e como se proteger
Usamos a aparência como pista do que algo faz, porque na natureza forma e função andam juntas. Com máquinas desenhadas para parecer humanas, a pista engana: olhos e voz sugerem compreensão e sentimento onde há cálculo. O efeito é explorado de propósito por quem desenha assistentes, robôs e personagens.
Avalie a máquina pelo que ela faz, com testes, e não pelo que ela parece. Pergunte quem a desenhou assim e por quê: a aparência amigável costuma servir para reduzir sua vigilância. O mesmo cuidado vale para candidatos e marcas, cuja forma é construída para sugerir uma função.
Como isso afeta a moral e a política
No pensamento moral
Podemos dar ou negar consideração moral pela aparência.
No pensamento político
Regras sobre IA são influenciadas pela forma, e não pelo que ela faz.
Na mesma categoria
Falácia da taxa-base
Ignorar a frequência geral de algo e olhar só o caso específico.
Atalhos do julgamentoEfeito “bye-now”
A palavra “bye” pode lembrar “buy” e levar à compra: pequenas pistas influenciam ações.
Atalhos do julgamentoViés do tamanho da categoria
Achar mais provável o resultado de uma categoria grande, mesmo sem motivo.