Lacuna de letramento em IA

Usar IA sem entender seus limites, o que leva a confiar ou desconfiar demais.

Tecnologia e IA

O que é

Muita gente usa inteligência artificial sem saber como ela funciona ou onde costuma errar. Sem esse conhecimento, é fácil acreditar demais nela, ou rejeitá-la sem motivo.

No dia a dia: Copiar a resposta de um chatbot para um trabalho sem conferir, e descobrir depois que ele inventou a fonte.

Como funciona e como se proteger

Ferramentas que falam com fluência parecem entender, e a fluência é lida como competência. Quem não sabe como um modelo de linguagem funciona não tem como prever onde ele erra: inventa fontes, erra contas, repete preconceitos dos dados. O oposto também existe: rejeitar a ferramenta por desconhecimento, e perder o que ela faz bem.

Aprenda o básico: como o sistema foi treinado, para que serve, onde falha. Confira o que importa, sobretudo citações e números. Em política, o letramento em IA vai decidir quem é enganado por conteúdo sintético e quem consegue usá-la para checar.

Como isso afeta a moral e a política

No pensamento moral

Quem não entende o sistema não percebe quem é prejudicado por ele, nem cobra responsabilidade.

No pensamento político

Eleitores e legisladores decidem sobre IA e caem em deepfakes sem saber como funcionam.

Como reduzir: A tecnologia não tira a responsabilidade de quem decide. Exija que alguém responda pelo resultado.

Na mesma categoria