A empresa Anthropic está sugerindo para o Congresso dos Estados Unidos uma lei nacional para supervisionar e ter o poder de bloquear uma inteligência artificial (IA) possivelmente violenta. Um esboço do texto foi obtido pelo site Politico.
Apesar de não ter publicamente divulgado a proposta, a dona do chatbot Claude já teria falado com parlamentares sobre a ideia e até citou esses riscos na documentação da própria IPO. A regulamentação de IAs, segundo a companhia, seria uma forma de garantir a segurança da humanidade no uso dessas ferramentas.
Caso vire de fato um projeto de lei, o material daria ao governo dos EUA maior poder para fiscalizar e monitorar modelos potencialmente danosos, que é uma preocupação crescente no setor após vários incidentes de cibersegurança.
A lei “anti-IAs do mal” da Anthropic
De acordo com a versão do projeto de lei obtida pelo Politico, o texto permite que o governo dos EUA bloqueie o lançamento ou a utilização de um modelo de linguagem de ponta. Isso poderia acontecer em dois casos:
- Se ele se mostrar um risco iminente capaz de causar mais de US$ 1 bilhão em danos;
- Ou se ele tiver a possibilidade real de matar ou ferir gravemente mais de 50 pessoas.
Os tais riscos envolveriam casos como “criação ou liberação de uma arma biológica, a fuga do modelo ao controle de seus desenvolvedores ou um ataque cibernético”. O primeiro desses exemplos já foi identificado e barrado pela própria Anthropic, enquanto ciberataques de agentes de IA fora de controle tem sido cada vez mais frequentes em relatos.
O monitoramento das IAs seria de responsabilidade de um comitê independente de avaliadores registrados junto ao Departamento do Comércio, encarregado de analisar laboratórios e modelos de ponta do mercado.
Caso o grupo aponte o risco, esse relato deve ser entregue ao órgão público em até 72 horas, para que um juiz receba a ordem de pausar o uso ou lançamento da IA.
Além disso, as companhias teriam uma série de novas responsabilidades, como criar estruturas de segurança, proteger denunciantes, publicar relatórios de transparência sobre novos casos e comunicar obrigatoriamente novos incidentes críticos de segurança.
Apesar de ser a preferência de parte da indústria, a lei pode gerar algum atrito entre estados, pois locais como a Califórnia já possuem as próprias legislações sobre riscos de IA. Caso aprovada, ela se sobreporia a essas determinações.
Como a IA passou a ser usada na segurança pública de grandes eventos? Saiba mais sobre o tema aqui! /Com informações de Politico.
