A Anthropic concedeu acesso interno de nível de funcionário aos pesquisadores da organização METR para auditar riscos críticos e incidentes em seus modelos de inteligência artificial de fronteira sem poder de veto.
Destaques Rápidos
- Pesquisadores do METR terão credenciais de nível de colaborador da Anthropic.
- O instituto independente publicará relatórios de riscos e incidentes sem censura prévia.
- A Anthropic abriu mão do direito comercial ou técnico de bloquear as conclusões divulgadas.
Transparência sem precedentes na Anthropic
A iniciativa estabelece um novo patamar de conformidade e segurança na indústria de IA generativa. Pesquisadores do Model Evaluation and Threat Research (METR) poderão examinar sistemas internos de forma aprofundada.
O grande diferencial do acordo é a independência assegurada aos auditores externos. A Anthropic renunciou explicitamente à prerrogativa de barrar, editar ou suprimir as análises técnicas publicadas pelo METR.
Auditorias externas contra riscos existenciais
O foco central da parceria envolve a medição de capacidades potencialmente perigosas em grandes modelos de linguagem. O monitoramento engloba desde proliferação de ameaças cibernéticas até riscos de perda de controle operacional.
Especialistas do setor avaliam que a iniciativa pressiona rivais diretos, como OpenAI e Google, a adotarem auditorias de segurança igualmente transparentes. A fiscalização independente torna-se indispensável à medida que modelos de fronteira evoluem.
Fonte original: Leia mais na fonte