A OpenAI anunciou que deixará de treinar seus modelos de IA com dados em tempo real da internet, citando riscos significativos para a segurança das suas plataformas.
Destaques Rápidos
- Suspensão do rastreamento em tempo real afeta novos modelos de fronteira.
- Medida é adotada semanas após declarações internas sobre a inviabilidade da mudança.
- Foco passa a ser a segurança e a prevenção contra contaminação de dados.
Por que a OpenAI mudou sua estratégia de treinamento
A decisão da OpenAI representa uma mudança drástica na forma como os grandes modelos de linguagem são alimentados. Anteriormente, a varredura contínua da web garantiu atualizações constantes, mas expôs os sistemas a vulnerabilidades severas.
Especialistas alertaram que o acesso direto à web aberta facilita ataques de envenenamento de dados. Além disso, o surgimento de conteúdos gerados por outras IAs acabou poluindo a qualidade das fontes disponíveis na rede.
Inconsistências internas e novos desafios
Curiosamente, a mudança ocorre poucas semanas após engenheiros da própria desenvolvedora afirmarem que interromper o acesso à internet ao vivo seria inviável. A reviravolta destaca a urgência com que a startup precisa mitigar riscos regulatórios e operacionais.
A partir de agora, a empresa focará no uso de conjuntos de dados curados e parcerias diretas de licenciamento de conteúdo. Essa abordagem promete garantir maior controle sobre a qualidade do material utilizado no aprendizado dos algoritmos.
Essa transição pode desacelerar a velocidade de atualização dos modelos em relação a eventos em tempo real. Contudo, a prioridade máxima do setor se voltou para a estabilidade e a confiabilidade das respostas entregues aos usuários.
Fonte original: Leia mais na fonte