O pesquisador Jacob Coxon pediu demissão da Anthropic após alertar sobre os riscos existenciais da inteligência artificial autoaperfeiçoável, defendendo acordos globais para desacelerar o avanço dos modelos.
Destaques Rápidos
- Demissão de pesquisador sênior da Anthropic por preocupações éticas e de segurança.
- Alerta explícito sobre riscos de extinção humana causados por sistemas autoaperfeiçoáveis.
- Defesa de acordos de desaceleração voluntária entre os principais laboratórios de IA.
A decisão de Jacob Coxon reacendeu os debates sobre a segurança no setor de tecnologia. O especialista afirmou que o desenvolvimento acelerado de novos sistemas pode colocar a humanidade em perigo crítico.
Os alertas sobre a velocidade do desenvolvimento na Anthropic
Coxon defende que os laboratórios de tecnologia firmem compromissos imediatos para pausar corridas desenfreadas. Segundo o pesquisador, permitir que inteligências autônomas aprimorem o próprio código sem limites representa um grande risco.
A renúncia reflete a crescente tensão interna enfrentada pelas grandes empresas de desenvolvimento. Vários cientistas apontam que metas comerciais podem estar se sobrepondo às diretrizes de contenção e segurança.
A comunidade de segurança digital teme que o avanço descontrolado gere impactos irreversíveis na sociedade. A pressão pública por regulamentação governamental rígida deve se intensificar nos próximos meses.
Fonte original: Leia mais na fonte