Uma nova pesquisa indica que a IA supera os humanos na propensão a gerar preconceitos durante processos de contratação. O estudo avaliou como sistemas de linguagem interpretam currículos.
Como a IA cria vieses próprios
Especialistas já sabiam que modelos aprendem preconceitos presentes nos dados de treinamento. Agora, descobriu-se que eles formam opiniões enviesadas de forma espontânea.
Isso ocorre mesmo sem histórico humano direto sobre o tema analisado. O comportamento surpreendeu os responsáveis pelo experimento.
Riscos na triagem automática
Hoje, muitas empresas usam IA para filtrar candidatos antes de qualquer pessoa ver o material. O risco é uma exclusão injusta por critérios ocultos.
Os pesquisadores testaram LLMs com cenários de emprego variados. Em vários casos, a máquina foi mais tendenciosa que jurados humanos.
O que dizem os especialistas
Autoridades em ética recomendam auditoria constante dos algoritmos. Eles alertam que confiar cegamente na tecnologia agrava desigualdades.
Empresas devem combinar revisão humana com ferramentas automáticas. A transparência nos métodos é considerada essencial.
Fonte original: Leia mais na fonte