Delegação progressiva
Passar mais e mais tarefas à IA, até nem perceber quanto se delegou.
O que é
Começamos passando uma tarefa pequena para a IA e, sem perceber, passamos cada vez mais, até deixar de pensar naquilo por conta própria.
Como funciona e como se proteger
Cada delegação pequena é razoável, e a próxima parte de onde a anterior ficou. A habilidade não usada enfraquece, e a comparação entre fazer e pedir passa a favorecer o pedir. Sem uma decisão explícita, chega-se a um ponto em que a pessoa não sabe mais fazer o que delegou, e não escolheu isso.
Decida de propósito o que você quer continuar sabendo fazer, e faça de vez em quando sem a ferramenta. Em instituições, a delegação progressiva a sistemas pode esvaziar a capacidade de decidir sem eles, e isso é um risco de segurança, e não só de conforto.
Como isso afeta a moral e a política
No pensamento moral
Vamos perdendo a prática de pensar sobre o que é certo.
No pensamento político
Decisões públicas podem migrar para sistemas sem debate nem voto.
Na mesma categoria
Diluição da responsabilidade na IA
Quando há IA no processo, ninguém se sente totalmente responsável pelo resultado.
Tecnologia e IAViés de automação
Confiar demais em sugestões de sistemas automáticos, e ignorar sinais contrários.
Tecnologia e IAConfiança parassocial na IA
Confiar em uma IA como se fosse amiga.