IA está destruindo a internet; matemática é nossa única esperança

Não faz muito tempo, o conteúdo gerado por IA era um truque de salão — papas com seis dedos e sósias do Tom Cruise, mais divertidos do que alarmantes. Essa era acabou. O conflito no Irã provou isso: imagens sintéticas de soldados americanos detidos, caças iranianos saindo de bunkers subterrâneos, instalações de radar destruídas, tudo fabricado, tudo viral, tudo amplamente acreditado, alcançando centenas de milhões antes que alguém pudesse verificar um único quadro.

A internet que conhecíamos não existe mais. Onde ver costumava informar a crença, agora gera suspeita. Estamos vivendo uma crise de confiança. E ela vai muito além do que podemos ver com os olhos.

A resposta intuitiva é construir detectores melhores; IA treinada para pegar IA. Não funciona. Qualquer um pode quebrar os principais detectores de imagem do mundo adicionando borrões e distorções básicas, reduzindo sua precisão a apenas 4%. A detecção falha pela mesma razão estrutural pela qual o software antivírus nunca eliminou o malware: o atacante sempre tem a vantagem assimétrica.

Por que a detecção de conteúdo gerado por IA é insuficiente? A falha da detecção é quase irrelevante, porque o problema já a superou. A IA não está mais apenas gerando conteúdo. Ela está agindo. Agentes autônomos estão navegando na web, fazendo compras, publicando conteúdo, negociando com outros agentes e interagindo com humanos, e em alguns casos crianças, que podem não ter ideia de que estão falando com uma máquina. E quando esses agentes operam em escala, os modos de falha são catastróficos.

Um agente treinado em dados sutilmente envenenados comete pequenos erros plausíveis em faturamento médico que se acumulam em uma rede hospitalar, resultando em milhões de dólares em cobranças fraudulentas. Uma frota de agentes de comércio, otimizando para margem, explora sistematicamente vulnerabilidades de preço que seus operadores nunca pretenderam e não conseguem explicar, resultando em bilhões em perdas. Uma borboleta que bate as asas em um conjunto de dados de treinamento causa um tornado na economia real.

Quando o dano é feito, não há recibo. O raciocínio de um agente não é um traço cronológico. É uma única passagem por bilhões de parâmetros opacos e seus resultados são probabilísticos. Faça a mesma pergunta duas vezes e você obterá respostas ligeiramente diferentes. Não há como reconstruir uma decisão que se baseia em variáveis em constante mudança. Não há como auditar em que o agente foi treinado, quais instruções seguiu ou por que fez o que fez.

Um relatório recente de Stanford identifica a tensão central claramente: o desafio definidor desta era é a lacuna entre o que a IA pode fazer e o que a sociedade está preparada para governar. A regulamentação está no centro desse desafio, e é um pântano: uma enxurrada de estruturas federais agora abrangendo mais de 90 recomendações, emparelhada com uma explosão de atividade em nível estadual, onde mais de 1.000 projetos de lei foram introduzidos apenas em 2025. No entanto, as estruturas que estão sendo escritas são projetadas para um mundo de chatbots, não para um mundo de agentes que compram, vendem, publicam, consultam, convencem e decidem.

Rótulos de conteúdo não ajudarão e divulgações não são suficientes. Uma vez que um agente autônomo age, o dano já está feito. Este é um problema de verificação.

Prova, neste contexto, é criptográfica e independentemente verificável. Não uma alegação, não uma divulgação, não uma marca d'água. Uma garantia inalterável de que um sistema de IA fez o que afirma ter feito, com as entradas que afirma ter usado, produzindo as saídas que afirma ter produzido – sem nunca revelar os dados subjacentes.

Isso é o que a criptografia de prova de conhecimento zero ("ZK") torna possível. Uma prova ZK permite que uma parte prove que uma declaração é verdadeira sem revelar nada além da verdade da própria declaração. Formalizada pela primeira vez no artigo do MIT de 1985, The Knowledge Complexity of Interactive Proof Systems, foi inicialmente vista como elegante, mas teórica. Isso mudou em 2016, quando pesquisadores mostraram que poderia verificar ogivas nucleares sem expor seu design. Pouco depois, migrou para blockchains, protegendo bilhões em ativos digitais.

Para a mídia, ZK pode provar que uma fotografia foi capturada por um dispositivo real, em um horário verificado, e não foi alterada — sem expor nenhuma informação sensível sobre a fotografia ou o fotógrafo. Isso por si só transformaria o ambiente de informação. Mas a proveniência da mídia é o ponto de entrada, não o ponto final.

A aplicação mais profunda é a própria IA. Na inferência, ZK pode provar que um modelo específico com parâmetros específicos produziu uma saída específica — um recibo verificável para cada decisão que um agente toma. Na entrada, pode atestar que os dados de treinamento não foram envenenados, vieram de fontes autorizadas e atendem aos requisitos regulatórios sem expor conjuntos de dados proprietários. Na saída, pode vincular criptograficamente um resultado ao processo que o criou, tornando cada decisão consequente de IA auditável sem revelar segredos comerciais. E na camada de identidade, ZK permite que humanos provem que são humanos e agentes provem que são agentes, sem que ninguém abra mão de sua privacidade.

Na década de 1990, a web tinha um problema de confiança. Qualquer um podia criar um servidor alegando ser qualquer um. Senhas, cartões de crédito e mensagens privadas viajavam pela internet em texto simples, legíveis por qualquer pessoa. O comércio era impossível em escala porque não havia como verificar se o site ao qual você estava se conectando era realmente o site que afirmava ser.

A solução foi o HTTPS. Os navegadores pararam de confiar em sites por padrão e começaram a exigir prova criptográfica: um certificado, assinado por uma autoridade reconhecida, vinculando um domínio a uma chave pública. Sem prova, sem ícone de cadeado no navegador. Eventualmente, sem prova, sem conexão alguma. A web não se tornou confiável porque as plataformas prometeram se comportar bem. Tornou-se confiável porque os navegadores se recusaram a transmitir dados confidenciais para qualquer um que não pudesse provar quem era.

A Web2 escalou com uma barganha diferente. A Seção 230 do Communications Decency Act deu às plataformas um escudo de responsabilidade por conteúdo gerado pelo usuário, e a internet social explodiu em cima disso. Para o discurso, foi a troca certa. Sem ela, não há Facebook, não há YouTube, não há internet gerada pelo usuário. Mas foi uma barganha construída para humanos postando em timelines, não para sistemas autônomos agindo no mundo. Nunca teve que responder à pergunta que os agentes agora forçam: quem é responsável quando o ator não é uma pessoa?

Então veio a Web3. O investidor Chris Dixon a chamou de "Read Write Own", usuários controlando seus dados, criadores capturando seu valor, plataformas respondendo às comunidades. A proposta era propriedade e descentralização, mas não emplacou. A Web3 se tornou sinônimo de especulação com NFTs, e quando as avaliações despencaram, a visão também caiu.

O instinto da Web3 estava correto: precisamos de uma maneira de substituir a fé por garantias. Mas a propriedade sozinha não nos levaria até lá. IA e agentes tornam isso claro. A questão não é quem é dono da plataforma. É se você pode confiar em quem e no que está agindo nela. Tokens foram o primitivo errado; provas são o certo.

Em uma internet agentica, contrapartes, sejam humanas ou máquinas, precisam de garantias: quem construiu este sistema, quais dados o moldaram, quais restrições o governam, se está autorizado a agir. Essas garantias devem ser mantidas mesmo quando os sistemas subjacentes são proprietários. Especialmente então.

A criptografia de conhecimento zero torna isso possível ao vincular os compromissos antecipadamente. Um desenvolvedor pode identificar criptograficamente seus dados de treinamento, permitindo que provas ZK verifiquem identidade, proveniência, dados de treinamento e restrições operacionais sem expor dados subjacentes. Não "confie em mim", mas "prove".

Isso não é mais apenas uma questão de proteção ao consumidor. É uma questão de segurança nacional.

Deepfakes foram o pré-jogo. Agentes são o evento principal. Adversários estrangeiros não vão parar de manipular o que os americanos veem — eles vão implantar agentes para manipular como agem. Eles vão implantar sistemas autônomos que transacionam em nossos mercados, interagem com nossas instituições e engajam nossas crianças, sem que nenhuma contraparte possa verificar o que são ou quem os autorizou. Isso é solucionável. Mas apenas se a América construir os trilhos antes que os adversários aprendam a explorar sua ausência.

A política deve seguir. O Congresso deve exigir que agentes de IA de alto risco, como aqueles que lidam com transações financeiras ou interagem com menores, carreguem provas criptográficas de quem são, quem os autorizou e o que podem fazer, verificáveis por qualquer contraparte sem revelar informações proprietárias. A mesma lógica deve se estender ao que esses agentes fazem: à medida que os agentes começam a transacionar em nome de pessoas e empresas em velocidade e escala de máquina, toda ação consequente — um pagamento, um contrato, uma negociação, uma troca de dados — deve carregar uma prova de quem a autorizou e sob quais restrições.

As bases técnicas já estão sendo lançadas: o Departamento de Comércio dos EUA, por meio do Instituto Nacional de Padrões e Tecnologia (NIST), está desenvolvendo padrões para proveniência de conteúdo e verificação de IA. Mas a tecnologia sozinha não é suficiente. O que falta é a vontade política de exigir prova onde a confiança não é mais suficiente.

Perguntas frequentes

Como a prova de conhecimento zero pode evitar que agentes de IA causem danos? A prova de conhecimento zero (ZK) permite que um sistema de IA prove que seguiu regras específicas, usou dados autorizados e produziu resultados corretos sem revelar informações proprietárias. Isso cria um "recibo" criptográfico para cada ação do agente, tornando possível auditar decisões e responsabilizar operadores, mesmo quando os detalhes internos do modelo são secretos.

O que o governo dos EUA está fazendo para regulamentar agentes de IA? O governo dos EUA, através do NIST e de outras agências, está desenvolvendo padrões para proveniência de conteúdo e verificação de IA. Mais de 90 recomendações federais e mais de 1.000 projetos de lei estaduais foram introduzidos em 2025. No entanto, a maioria dessas estruturas ainda é voltada para chatbots, não para agentes autônomos que agem de forma independente, e há um apelo para que o Congresso exija provas criptográficas para agentes de alto risco.