Demis Hassabis, CEO e cofundador do Google DeepMind, propôs nos Estados Unidos um órgão técnico para definir quando um modelo deve ser considerado “de fronteira”, testar seus riscos antes do lançamento e atualizar continuamente os critérios de avaliação. A primeira fase seria voluntária. Depois de o protocolo provar que funciona, a aprovação poderia se tornar condição para disponibilizar esses modelos no mercado americano.
A proposta foi publicada em 14 de julho de 2026 no artigo A Framework for Frontier AI and the Dawning of a New Age, compartilhado pelo próprio Hassabis em seu perfil no X. Ela merece atenção não porque uma nova regra já esteja valendo — não está —, mas porque mostra para onde o debate está avançando: de compromissos isolados de laboratórios para testes comparáveis, supervisão externa e responsabilidade antes do lançamento.
Para empresas que usam IA, a consequência não é esperar a chegada de uma AGI para agir. É adotar agora uma disciplina simples: saber quais modelos estão na operação, o que cada agente pode fazer, como seu comportamento é testado e quem assume quando o sistema encontra uma exceção.
O que Demis Hassabis está propondo
Hassabis parte de uma premissa ambiciosa. Em sua avaliação, uma inteligência artificial geral — um sistema com o conjunto amplo de capacidades cognitivas humanas — pode estar a poucos anos de distância. Ele também imagina um impacto econômico e social excepcionalmente rápido.
Essas são previsões de Hassabis, não fatos comprovados nem consenso entre pesquisadores. A parte mais concreta do texto está no desenho institucional que ele apresenta para lidar com a incerteza.
A proposta reúne oito elementos:
- Um órgão técnico de padrões para IA de fronteira. A estrutura poderia ser uma parceria público-privada sob supervisão federal ou uma organização autorregulatória, com especialistas independentes e representantes do ecossistema open source no conselho.
- Financiamento e capacidade técnica reais. O dinheiro viria principalmente da indústria, segundo o desenho sugerido, para contratar pesquisadores de alto nível e bancar a computação necessária para testes em larga escala.
- Uma definição dinâmica de “fronteira”. Em vez de regular empresas por nome ou usar um número fixo de parâmetros, o órgão classificaria os modelos de acordo com limiares em benchmarks atualizados regularmente.
- Avaliações de riscos de alto impacto. Os testes cobririam cibersegurança, ameaças biológicas e outros domínios ligados à segurança nacional. Para agentes, poderiam procurar tentativas de contornar salvaguardas, enganar avaliadores ou agir fora dos limites definidos.
- Revisão antes do lançamento. Na fase voluntária, os laboratórios compartilhariam modelos com o órgão até 30 dias antes da disponibilização pública.
- Evolução para uma exigência formal. Se o processo se mostrasse robusto, modelos classificados como de fronteira precisariam ser aprovados para entrar no mercado americano.
- Testes independentes e renováveis. Benchmarks saturados seriam substituídos, avaliações reservadas reduziriam o risco de treinamento direcionado à prova e auditores terceiros poderiam ampliar a capacidade de análise.
- Mesma régua para modelos abertos e fechados. O critério seria a capacidade do sistema, não o país de origem nem a forma de distribuição. Modelos abaixo do limiar de fronteira ficariam fora desse regime.
O objetivo declarado é evitar duas respostas ruins: deixar cada laboratório definir sozinho o que considera seguro ou congelar a inovação com regras que envelhecem antes de entrar em vigor.
A proposta não começa do zero
Os Estados Unidos já possuem uma instituição federal com parte desse mandato. O Center for AI Standards and Innovation (CAISI), ligado ao NIST, apresenta-se como o principal ponto de contato da indústria com o governo americano para testes e pesquisa colaborativa sobre sistemas comerciais de IA.
O CAISI desenvolve práticas voluntárias, firma acordos com empresas, conduz avaliações e coordena trabalho com órgãos de defesa, energia, segurança interna e inteligência. Seus focos incluem riscos demonstráveis em cibersegurança, biossegurança e armas químicas.
Além disso, uma ordem executiva publicada pela Casa Branca em 2 de junho de 2026 determinou a criação de benchmarks classificados para medir capacidades cibernéticas avançadas e definir quando um sistema deve ser tratado como “covered frontier model”.
Então, o que há de novo no texto de Hassabis?
A nossa leitura é que ele propõe ligar peças que hoje estão separadas. O CAISI já testa e cria padrões; a ordem executiva já pede um limiar para capacidades cibernéticas; laboratórios já publicam seus próprios frameworks. Hassabis acrescenta um arranjo híbrido de governança, financiamento industrial, acesso pré-lançamento, testes aplicáveis a diferentes domínios e uma passagem explícita do voluntário para o obrigatório.
Isso é uma interpretação comparativa da XMACNA. O artigo não diz que o CAISI será substituído nem apresenta um projeto de lei pronto.
Por que a referência à FINRA importa
Hassabis cita a Financial Industry Regulatory Authority como inspiração. A FINRA é uma organização privada, sem fins lucrativos e autorregulatória. Ela é financiada pelos participantes do setor financeiro, mas registrada e supervisionada pela SEC. Escreve e aplica regras, examina empresas e acompanha riscos do mercado.
A analogia serve para mostrar um tipo de arquitetura: conhecimento técnico e recursos da indústria dentro de uma instituição submetida a supervisão pública. Não significa que a FINRA passaria a regular inteligência artificial nem que a governança financeira possa ser copiada sem adaptações.
Para IA, a dificuldade é ainda maior. As capacidades mudam depressa, os testes podem ser treinados até perder valor e o mesmo modelo pode ter riscos diferentes conforme as ferramentas e os dados aos quais recebe acesso.
O próprio NIST reconhece parte desse problema. Em fevereiro de 2026, o órgão publicou um trabalho sobre a validade estatística de avaliações de IA, alertando que resultados podem depender de premissas implícitas, misturar definições de desempenho e esconder incerteza. Um placar bonito, sozinho, não é sinônimo de segurança.
Do laboratório para a empresa: a mesma lógica em escala menor
Uma empresa brasileira não precisa criar um regulador interno. Mas precisa parar de tratar a escolha de um modelo como uma compra que se homologa uma vez e fica resolvida para sempre.
O raciocínio de Hassabis pode ser traduzido para a operação em sete controles:
1. Mantenha um inventário vivo
Registre quais modelos, agentes e fornecedores estão em uso, em quais processos e com quais dados. Se ninguém consegue responder onde a IA decide ou executa, a governança ainda não começou.
2. Classifique o risco pelo uso
Uma IA que resume uma reunião não tem o mesmo risco de um agente que altera cadastro, agenda compromisso, recomenda tratamento, analisa crédito ou envia uma comunicação externa. O modelo pode ser o mesmo; o impacto não.
Essa lógica também aparece na discussão brasileira sobre o marco legal da IA e o PL 2338: a pergunta útil é o que o sistema faz, quem ele afeta e que prova fica depois.
3. Teste a função, não apenas o modelo
Benchmark de laboratório mede capacidades gerais. A empresa precisa testar o fluxo real: dados incompletos, instruções conflitantes, falha de API, tentativa de fraude, pedido fora de política e transferência para humano.
É a diferença entre uma demonstração e IA em produção. O sistema precisa funcionar no dia ruim, não apenas na apresentação.
4. Limite ferramentas e autonomia
Um agente deve acessar apenas os sistemas necessários para sua função. Ações sensíveis precisam de aprovação, limites de valor ou dupla verificação. Autonomia sem escopo é só uma forma mais elegante de criar risco.
5. Preserve rastro e evidência
Registre entradas relevantes, ferramentas acionadas, decisões, exceções e resultado. Sem rastro, a empresa não consegue investigar falha, explicar uma decisão nem melhorar o sistema.
Esse princípio é central em agentic engineering: um agente profissional executa, mas também presta contas.
6. Mantenha julgamento humano disponível
Escalada humana não é derrota da automação. É parte do projeto. A IA deve reconhecer quando faltam dados, quando há conflito, quando o risco aumentou ou quando a pessoa pede revisão.
A combinação correta entre IA e julgamento humano evita dois extremos: depender cegamente do sistema ou transformar toda automação em uma fila de aprovações inúteis.
7. Reavalie sempre que o sistema mudar
Troca de modelo, novo prompt, integração adicional, acesso a outra base ou aumento de autonomia mudam o risco. A avaliação precisa acompanhar a versão real da operação.
O Frontier Safety Framework mostra como isso pode funcionar
O Google DeepMind já aplica internamente uma versão dessa lógica. O Frontier Safety Framework 3.1 define níveis de capacidade rastreados e críticos, avaliações de alerta antecipado e medidas proporcionais ao risco. A versão mais recente amplia o olhar para manipulação nociva e possíveis cenários de desalinhamento.
Há, porém, uma diferença importante. Um framework interno continua sendo definido e executado pelo próprio laboratório. O órgão imaginado por Hassabis criaria uma camada comum, externa e capaz de comparar organizações diferentes.
Essa passagem — de compromisso individual para infraestrutura coletiva de avaliação — é o centro político do artigo.
O futuro não está decidido, e esse é o ponto
O texto de Hassabis mistura entusiasmo tecnológico, previsão de AGI e uma proposta regulatória concreta. Não é preciso concordar com o prazo que ele sugere para reconhecer o problema: sistemas mais capazes, mais agênticos e conectados a ferramentas exigem avaliações melhores do que uma lista fixa de perguntas.
Para governos, o desafio é criar uma régua técnica que acompanhe o avanço sem concentrar poder nos próprios laboratórios avaliados. Para empresas, o desafio é mais imediato: transformar IA em operação auditável antes que a falta de controle vire incidente, dependência de fornecedor ou dívida regulatória.
O caminho responsável não é paralisar. É acelerar com freios testados, evidência e responsabilidade clara.
Se sua empresa já usa IA, mas ainda não mapeou funções, autonomia, dados, logs e escalada humana, o Diagnóstico de IA da XMACNA ajuda a identificar por onde começar.
Perguntas frequentes
O que Demis Hassabis propôs?
Ele propôs um órgão técnico nos Estados Unidos para definir quais modelos são de fronteira, avaliá-los em áreas de alto risco e atualizar os testes continuamente. A fase inicial seria voluntária e poderia evoluir para aprovação obrigatória antes da disponibilização no mercado americano.
Esse órgão já existe?
Não no formato descrito por Hassabis. O CAISI, ligado ao NIST, já conduz avaliações, desenvolve padrões e coordena órgãos federais. A proposta acrescenta uma estrutura híbrida inspirada em autorregulação, acesso pré-lançamento e uma possível porta regulatória obrigatória.
A AGI chegará em poucos anos?
Hassabis acredita que isso é provável, mas não há consenso científico sobre prazo, definição operacional ou caminho técnico para AGI. A previsão deve ser tratada como opinião informada de um líder do setor, não como calendário confirmado.
A proposta afetaria modelos open source?
Segundo o artigo, o critério deveria ser a capacidade do modelo, não se ele é aberto ou fechado nem seu país de origem. Projetos abaixo do limiar de fronteira, inclusive muitos de startups e universidades, ficariam dispensados.
O que uma empresa deve fazer agora?
Inventariar os sistemas de IA, classificar usos por risco, limitar ferramentas e autonomia, testar fluxos reais, manter logs, definir escalada humana e reavaliar a operação sempre que modelo, dados ou integrações mudarem.