Quanto custa a sua IA? A conta em tokens que quase ninguém faz

Sua empresa ligou uma funcionalidade de IA. Ela funciona, todo mundo gosta, e aí chega a fatura — maior do que o esperado, e ninguém consegue explicar exatamente o que a fez subir. Bem-vindo ao ponto cego mais comum da adoção de IA: o custo, que quase ninguém mede.

A boa notícia é que esse custo não é um mistério. Ele tem uma unidade, essa unidade é contável, e o simples ato de contá-la muda como você decide. Vamos por partes.

01O medidor que ninguém liga

Software tradicional tem custo relativamente estável: uma vez pronto, rodá-lo custa mais ou menos o mesmo, use quem usar. IA generativa é diferente — cada chamada tem um custo variável, que depende de quanto texto entra e sai. Você paga por uso, o tempo todo.

O problema é que quase ninguém liga o medidor por funcionalidade. Sabe-se o total da fatura no fim do mês, mas não quanto cada recurso de IA consumiu — qual feature é barata, qual está saindo cara, qual disparou depois de uma mudança. Sem isso, otimizar é chutar no escuro.

02A unidade é o token

O token é o pedaço de texto que um modelo de linguagem processa — mais ou menos uma palavra (às vezes menos). Tudo que entra no modelo (o prompt, o contexto, os seus documentos) e tudo que sai (a resposta) é contado em tokens. E é em tokens que o custo e o limite da IA se medem.

Isso muda o jeito de pensar: uma funcionalidade "simples" que injeta um documento inteiro de contexto a cada chamada pode custar muito mais que uma funcionalidade "complexa" enxuta. O que importa não é a aparência da feature — é quantos tokens ela move.

03Por que estimar não basta

A tentação é estimar: "deve custar uns centavos por uso". O problema é que estimativas de tokens erram feio — para mais e para menos — porque o consumo depende de detalhes invisíveis: o tamanho do contexto, quantas vezes o modelo é chamado por operação, se há re-tentativas, se o histórico da conversa cresce a cada mensagem.

Uma única operação que parece uma pergunta pode, por baixo, disparar dezenas de chamadas ao modelo. Sem medir, você descobre isso na fatura — tarde, e sem saber onde mexer.

04O que muda quando você mede

Quando o custo em tokens é visível por funcionalidade, três coisas ficam possíveis. Você enxuga o desperdício (aquele contexto gigante que não precisava ir junto). Você ativa cache — reaproveitar partes repetidas de prompts corta uma fatia enorme da conta. E você decide com número: vale a pena essa feature de IA ao custo real que ela tem, ou um caminho determinístico resolve mais barato?

Nada disso é possível no escuro. É por isso que medir o token não é firula de engenheiro — é a diferença entre uma IA que se paga e uma IA que sangra silenciosamente.

05Como a gente faz

Na ZDZCloud, custo de IA não é estimativa — é telemetria. Quando construímos com a nossa fábrica de agentes, medimos o consumo token por história, não por chute.

Um exemplo real: um sprint de 8 histórias do nosso produto Pet Planner consumiu 385 chamadas de LLM e 3,28 milhões de tokens de entrada — com 71% de cache hit. Esse 71% não apareceu por sorte: apareceu porque a conta estava sendo medida, e o que se mede se otimiza. É a mesma disciplina que a gente leva para o custo de IA de qualquer produto que constrói.

IA boa não é a que usa mais modelo — é a que entrega o resultado ao menor custo por token que ele exige. E isso começa por uma coisa banal e rara: ligar o medidor.