15 de setembro: o dia em que parte da web fecha a porta para os robôs de IA

A Cloudflare bloqueará por padrão crawlers de treino e agentes em páginas com anúncios a partir de 15/09. O que verificar no seu site antes do prazo.

Quim PierottoQuim Pierotto28/08/2026
15 de setembro: o dia em que parte da web fecha a porta para os robôs de IA

Imagem criada por inteligência artificial

Existe uma data concreta no calendário de quem produz conteúdo, e ela está a três semanas de distância. A partir de 15 de setembro, a Cloudflare muda os padrões de acesso para crawlers de inteligência artificial: bots de treinamento e de agentes passam a ser bloqueados por padrão nas páginas que exibem anúncios, e crawlers de uso misto, que combinam busca, treino e agente, serão avaliados pelo conjunto do seu comportamento.

Para dimensionar o que isso significa: a Cloudflare está na frente de uma fatia enorme do tráfego mundial, e o que ela define como padrão vira, na prática, regra da web para quem não mexe em configuração nenhuma. É a primeira vez que a recusa ao rastreamento de IA deixa de ser um pedido educado num arquivo de texto e vira infraestrutura que bloqueia de fato.

O que muda exatamente, e para quem

Precisão importa aqui, porque a manchete assusta mais do que a regra. Os novos padrões valem para domínios novos entrando na Cloudflare, sites novos de clientes existentes e todos os clientes do plano gratuito. Quem é cliente pago com configuração já definida mantém o que escolheu. O bloqueio padrão atinge duas das três categorias de bot que a empresa passou a separar em julho: treinamento (alimenta modelos) e agente (executa tarefas para um usuário). A categoria de busca continua liberada por padrão.

O critério para o bloqueio é revelador do raciocínio: páginas com anúncio. Na lógica declarada da empresa, o anúncio é o sinal de que o dono do site queria um humano ali, vendo aquilo. Nessas páginas, a atenção humana é tratada como o objetivo do negócio, e os bots que a substituem ficam do lado de fora.

Junto com o prazo, veio a evolução do modelo de cobrança. O Pay Per Crawl, lançado um ano antes sobre um código HTTP esquecido (o 402, “pagamento necessário”), virou Pay Per Use: o publisher passa a ser pago quando seu conteúdo gera valor numa resposta de IA, e a cobrança deixa de estar amarrada apenas ao fetch da página. O programa começa com dois parceiros de resposta, e a promessa é de disponibilidade ampla ainda em 2026.

Por que isso existe

Dois números explicam o movimento melhor que qualquer manifesto. O primeiro é de desperdício: mais da metade do tráfego de crawlers de IA refaz o download de páginas que não mudaram desde a última visita, queimando banda do publisher e computação da própria IA. O segundo é o desequilíbrio de troca que venho documentando nos últimos artigos: com resumo de IA na página de resultados, o clique em resultado tradicional cai para 8% das buscas, metade da taxa sem resumo, e o link citado dentro do resumo recebe clique em cerca de 1% dos casos.

O rastreamento cresceu, a retribuição em tráfego encolheu, e o modelo de negócio que sustentou a web aberta por duas décadas ficou sem a ponta que pagava a conta. A Cloudflare está construindo a alternativa que o mercado reclamava sem ter como executar: cobrar pela matéria-prima.

A tensão que ninguém resolve por você

Aqui a análise precisa ser honesta sobre o conflito, porque ele não tem resposta única. Bloquear crawler de treinamento protege seu acervo de virar peso de modelo sem compensação. Só que bloquear crawler de agente tem um custo novo, que cresce a cada trimestre: agente bloqueado é agente que não lê seu preço, não consulta seu estoque e não executa compra no seu catálogo. No cenário de comércio agêntico que descrevi no artigo sobre o Google fechando a compra antes da visita à loja, ficar invisível para agentes começa a significar ficar fora da transação.

A mesma tensão vale para o treinamento versus a citação. Conteúdo fora dos modelos tende a render menos menções nas respostas que os modelos geram, e presença em resposta de IA virou ativo de marca, como argumentei na atualização do artigo de zero-click. A decisão de bloquear, liberar ou cobrar deixou de ser técnica e virou estratégica, com trade-off real dos dois lados. Desconfie de quem vender certeza aqui, em qualquer direção.

O que verificar antes do prazo

O checklist é curto e cabe numa tarde.

Primeiro, descubra se o seu site passa pela Cloudflare e em qual plano. Se está no gratuito, os novos padrões valem para você em 15 de setembro, e a decisão default será tomada em seu nome se você não tomar antes.

Segundo, abra o painel de gerenciamento de bots de IA e olhe as três categorias (busca, agente, treinamento). Defina cada uma de forma consciente: liberar, bloquear ou cobrar. A configuração explícita sempre vence o padrão.

Terceiro, meça antes de decidir. O radar público da Cloudflare mostra a razão entre o quanto cada IA rastreia um site e o quanto devolve de tráfego. Esse dado, cruzado com o relatório de IA do Search Console quando chegar à sua propriedade, é a base racional da escolha.

Quarto, se você vive de anúncio, entenda que suas páginas são exatamente o alvo da nova regra. O padrão vai proteger sua atenção monetizada por design, e a pergunta passa a ser se você quer abrir exceções, e para quem.

A infraestrutura da web está sendo renegociada em tempo real, com regulador de um lado, CDN do outro e as plataformas de IA no meio. Quem produz conteúdo passou anos sem alavanca nessa mesa. Em 15 de setembro, pela primeira vez, uma alavanca de verdade muda de posição sozinha, e a única escolha indefensável é não saber em que posição a sua está.

Quim Pierotto
Transforma tecnologia, estratégia digital e inovação em resultados.
Artigos criados 302

Artigos relacionados

Digite acima o seu termo de pesquisa e prima Enter para pesquisar. Prima ESC para cancelar.

Voltar ao topo

Operado por Spreable