Algoritmos entram cada vez mais em decisões cotidianas, como seleção de currículos, análise de crédito, recomendação de conteúdos em redes sociais e reconhecimento facial. Embora prometam agilidade e imparcialidade, pesquisadores alertam que essas ferramentas podem incorporar e reforçar preconceitos já existentes na sociedade, um fenômeno chamado de violência algorítmica.
Por que algoritmos não são neutros
Apesar de seguirem regras matemáticas, os sistemas automatizados dependem de dados e parâmetros definidos por pessoas. Para o professor Lucas Reis, do Instituto Nacional de Ciência e Tecnologia em Democracia Digital (INCT.DD), não há neutralidade: “Quem desenvolve um algoritmo escolhe quais informações usar, como ponderá-las e quais metas perseguir”, explica. Se esses critérios carregam desigualdades sociais, o resultado também refletirá tais distorções.
Processo de aprendizagem e vieses
Modelos de inteligência artificial, como os generativos, passam por duas fases principais. Na primeira, identificam padrões em grandes volumes de dados. Na segunda, empresas promovem um alinhamento para tentar reduzir respostas inadequadas. Segundo Marcelo Finger, professor de Ciência da Computação da USP, “o modelo aprende preconceitos porque os dados de treinamento são racistas; depois, tenta-se desentortar esse viés”.
Violência algorítmica vai além do viés técnico
Para as pesquisadoras Bruna Irineu e Larissa Pelúcio, autoras de “Violência algorítmica e vidas LGBTQIAPN+”, denominar o problema apenas como viés algorítmico subdimensiona sua dimensão social. Elas defendem que esse conceito aprofunda a discussão, pois focaliza não só falhas de sistema, mas também as estruturas de poder e as desigualdades históricas que são reproduzidas pela lógica das plataformas.
Impactos concretos no dia a dia
Na prática, a violência algorítmica se manifesta em diversas frentes. Em 2018, a Amazon descartou uma ferramenta de recrutamento que favorecia candidatos do sexo masculino, pois foi treinada com contratações anteriores da empresa. Em outro exemplo, softwares de reconhecimento facial apresentam taxas de erro mais altas na identificação de pessoas negras, o que já provocou detenções injustas no Brasil.
Imagem: Imagem ilustrativa
Concentração de poder e soberania digital
Grande parte dos avanços em IA é liderada por empresas dos Estados Unidos e da China. Para Reis, essa concentração reforça a importância estratégica da tecnologia e das decisões sobre quem define seus critérios. Bruna Irineu também defende que o Brasil invista em infraestrutura, formação de profissionais e diversidade entre desenvolvedores para reduzir dependências e ampliar perspectivas no desenvolvimento de algoritmos.
Com informações de Olhardigital
