A Anthropic apresentou uma proposta de lei de segurança de inteligência artificial que sugere bloquear o lançamento de modelos caso haja risco comprovado de provocar a morte de 50 ou mais pessoas.
Destaques Rápidos
- Proposta sugere bloqueio de IA em casos com risco de 50 ou mais mortes.
- Agências federais precisariam de autorização judicial para barrar lançamentos.
- Texto estabelece novos critérios de responsabilidade para desenvolvedores de LLMs.
A iniciativa da Anthropic busca criar um padrão regulatório nacional para a indústria de inteligência artificial. No entanto, a proposta estabelece que órgãos federais de fiscalização não poderão impedir o lançamento de um modelo sem a autorização prévia de um juiz.
Impactos da proposta da Anthropic na regulação de IA
Especialistas apontam que a exigência de mandado judicial pode dificultar ações preventivas rápidas por parte do governo. Por outro lado, defensores do projeto argumentam que a medida evita abusos regulatórios e garante segurança jurídica para as empresas do setor.
A medida foca em cenários de riscos catastróficos, como o uso de inteligência artificial no desenvolvimento de armas biológicas ou cibernéticas. A ideia é delimitar fronteiras claras de responsabilidade civil e criminal para grandes criadores de tecnologia.
O debate reflete a crescente pressão sobre as gigantes de tecnologia por diretrizes claras de governança. O avanço acelerado de novos modelos exige respostas regulatórias que equilibrem inovação e proteção pública.
Fonte original: Leia mais na fonte