A Anthropic, uma das principais empresas de inteligência artificial do mundo, apresentou reservadamente a parlamentares americanos uma proposta de legislação para regular os modelos mais avançados de IA. O texto prevê auditorias independentes, relatórios de segurança e obrigação de comunicar incidentes. Ao mesmo tempo, estabelece limites rigorosos à capacidade do governo de suspender o desenvolvimento ou a utilização desses sistemas.
A informação foi revelada no site da Politico, que obteve a minuta confidencial de 37 páginas e ouviu pessoas envolvidas nas negociações.
Pela proposta, a suspensão preventiva de um modelo com fundamento na nova lei dependeria da demonstração de um risco iminente e previsível de causar a morte ou ferimentos graves de mais de 50 pessoas ou prejuízos patrimoniais superiores a US$ 1 bilhão em um único incidente.
Esses limites valeriam para situações específicas, como ataques cibernéticos conduzidos por IA, utilização de modelos no desenvolvimento de armas biológicas e sistemas capazes de escapar dos controles de seus desenvolvedores.
A medida precisaria ser solicitada pelo Departamento de Comércio e autorizada pela Justiça federal. A legislação proposta também impediria que outros órgãos federais utilizassem os poderes dessa mesma lei para suspender os modelos.
O documento expõe uma disputa que vai além da segurança tecnológica. A indústria de IA procura influenciar as regras que determinarão quando uma autoridade pública poderá interromper o funcionamento de seus produtos.
Proposta escrita por quem será fiscalizado
A Anthropic é responsável pela família de modelos Claude e tem na segurança um dos principais elementos de sua identidade pública. Seus executivos alertam há anos para os riscos de sistemas cada vez mais capazes, especialmente em segurança cibernética, desenvolvimento de armas biológicas e perda de controle humano.
Agora, a empresa participa diretamente da formulação de uma possível legislação federal sobre esses mesmos riscos.
A iniciativa não é ilegal nem incomum nos Estados Unidos. Empresas, associações comerciais, organizações civis e escritórios especializados em relações governamentais frequentemente preparam sugestões de dispositivos legais, emendas e até projetos completos para apresentar a congressistas.
Uma empresa pode, por exemplo, contratar especialistas para redigir uma proposta sobre segurança digital e apresentá-la a deputados e senadores. Os parlamentares podem aproveitar integralmente o texto, modificar suas disposições ou descartá-lo.
No Brasil, empresas também podem sugerir leis, participar de audiências públicas, apresentar contribuições a consultas e negociar mudanças com congressistas. A diferença mais visível está na organização institucional do lobby americano, que possui mecanismos específicos de registro e transparência.
A classificação de riscos catastróficos
O ponto mais controverso aparece nas condições para a intervenção preventiva do governo. A proposta reconhece quatro grandes categorias de risco: uso de modelos para desenvolver armas biológicas, operações cibernéticas ofensivas, perda de controle sobre sistemas de IA e pesquisas automatizadas capazes de ampliar esses perigos.
Entretanto, a existência dessas capacidades não bastaria, isoladamente, para justificar uma ordem de suspensão com base na nova legislação sugerida. Seria necessário demonstrar que as condições presentes poderiam produzir danos de uma dimensão previamente estabelecida.
O texto não se limita a restringir a atuação do governo. Grandes desenvolvedores teriam de elaborar programas formais de segurança, realizar avaliações periódicas e publicar informações sobre os riscos identificados.
As exigências mais amplas se aplicariam a empresas que ultrapassassem determinados limites de receita ou investimento em pesquisa e desenvolvimento de IA.
Enxurrada de críticas
A notícia gerou uma série de críticas de especialistas em tecnologia.
Marcus Hutchins, pesquisador britânico de segurança digital, criticou duramente a proposta no LinkedIn. Para ele, o documento demonstra uma tentativa de captura regulatória, situação em que agentes econômicos conseguem influenciar normas ou instituições responsáveis por supervisioná-los em benefício de seus próprios interesses.
Hutchins chamou atenção para os limites de notificação de incidentes, as condições de suspensão e a substituição de determinadas regras estaduais por uma legislação federal.
Sua interpretação é que a proposta poderia criar uma aparência de fiscalização rigorosa enquanto preserva ampla liberdade operacional para os grandes desenvolvedores.
O argumento da Anthropic
Procurada pelo Politico, a Anthropic confirmou a defesa das propostas e informou que o documento reflete seu programa de regulamentação apresentado a autoridades federais e estaduais desde junho.
A empresa sustenta que os governos precisam de instrumentos legais para impedir a disponibilização de modelos que ofereçam riscos catastróficos, mas também de garantias contra decisões arbitrárias ou excessivamente amplas.
A disputa regulatória acompanha também o peso econômico crescente do setor. Os investimentos bilionários no desenvolvimento de modelos e na infraestrutura necessária ao seu funcionamento ampliaram as consequências financeiras de decisões sobre segurança, acesso e suspensão de serviços.
A expansão da tecnologia passou a envolver um volume crescente de dívidas, investimentos e compromissos financeiros para além das próprias empresas desenvolvedoras.