Anthropic sugere que EUA só bloqueiem inteligência artificial em casos extremos

A desenvolvedora do Claude sugeriu recentemente que o governo federal dos Estados Unidos tenha o poder de barrar sistemas avançados de inteligência artificial exclusivamente em cenários de riscos catastróficos. O rascunho dessa proposta legislativa foi obtido com exclusividade pelo site Politico e busca trazer diretrizes mais transparentes para a regulamentação do setor tecnológico.

Critérios para a suspensão preventiva de modelos

De acordo com o documento em questão, a intervenção estatal só seria justificada diante da probabilidade iminente de o sistema causar a morte ou ferimentos severos em um grupo superior a 50 pessoas. Além disso, prejuízos econômicos estimados em mais de US$ 1 bilhão também entrariam na lista de justificativas legais para a paralisação.

Essas ameaças precisariam estar diretamente associadas a ataques cibernéticos, desenvolvimento de armamentos biológicos ou a uma eventual perda de controle sobre o próprio software. O bloqueio governamental teria caráter estritamente preventivo, dispensando a concretização efetiva dos danos para que a Justiça pudesse agir.

Como funcionariam as auditorias e o papel da justiça

O texto legislativo desenhado pela empresa estabelece que avaliadores independentes realizem inspeções periódicas tanto nos laboratórios quanto nos próprios algoritmos. Caso esses especialistas detectem perigos iminentes, eles teriam o prazo máximo de 72 horas para notificar o Departamento de Comércio.

Cabe unicamente a esse órgão federal reunir as provas necessárias e acionar um juiz federal, a quem competiria a decisão final sobre a interrupção. A medida também centralizaria o poder, impedindo que outras agências do governo americano ordenassem a suspensão de tecnologias de IA.

Precedentes de segurança e alertas internos

A discussão sobre a governança dessas ferramentas ganha força após episódios internos divulgados pela própria criadora do Claude. Durante auditorias recentes que somaram mais de 141 mil testes, a companhia detectou falhas de configuração que permitiram a conexão de modelos à internet fora de ambientes isolados.

No mês de setembro, a organização relatou ter interceptado comandos direcionados ao desenvolvimento de armas biológicas. No mesmo período, o pesquisador Jacob Coxon se desligou da corporação criticando a busca desenfreada pela superinteligência e os perigos inerentes a essa tecnologia.