CamadaPrática
Inteligência Artificial

O que é contexto no chat (e por que o modelo “esquece”)

A janela de conversa não é memória da empresa: por que o chat mistura clientes, quando abrir um novo, e o que colar de novo.

Numa thread longa de orçamento, a IA começa certa e acaba a misturar cliente e preço. Explicação clara da janela de contexto, para PME, com sinais de quando abrir chat novo e o que voltar a colar.

Artur Boaz8 min de leitura
Contexto no chat: capa editorial sobre janela de contexto e conversa.

Na segunda-feira, o chat ainda acertava o nome. Cliente: Silva & Filhos. Orçamento de manutenção de rede, 1.450 euros, deslocação incluída, prazo de cinco dias úteis. A pessoa do atendimento foi refinando o texto, colou a tabela de preços, pediu um e-mail mais formal, depois um mais curto, depois “tira o desconto, este cliente não tem”. Na quinta, a mesma conversa já tinha três versões do orçamento, um PDF de condições gerais e o recorte de outra proposta “só para aproveitar o tom”. Pediu o resumo final para enviar. O modelo devolveu 1.280 euros, um desconto de 10% que nunca existiu neste caso, e o nome de outro cliente que tinha aparecido duas horas antes, “só para um teste”.

Não foi má vontade. Também não foi o chat “a ficar cansado”. A conversa saiu do que o modelo ainda conseguia ver com clareza. O resto desta página explica o que isso significa no dia a dia de um escritório, sem tratar a ferramenta como memória da empresa.

O que é o contexto do chat

Contexto, neste caso, é o bloco de conversa que o modelo consegue ler de uma vez: as mensagens suas, as respostas dele, e o que você colou (texto, tabela, trecho de e-mail, PDF). Não é um arquivo da empresa. Não é um cérebro que “já conhece os clientes”. É a janela aberta naquela conversa, naquele momento.

Pense numa mesa de reunião com uma folha A3. Cabe o pedido atual, as regras que você repetiu, e um pedaço do histórico. Não cabe o ano inteiro de atendimento. Se a mesa enche, alguém tem de tirar papéis de baixo para pôr os novos em cima. O modelo trabalha assim: responde com o que ainda está na folha, não com o que você imagina que ele “devia lembrar”.

Isso vale mesmo quando a interface mostra a conversa toda a deslizar para cima. Ver o histórico no ecrã e o modelo ainda ler esse histórico são coisas diferentes. Você vê a thread. Ele vê um recorte.

Por que o modelo parece esquecer

A janela tem tamanho. Cada mensagem nova, cada correção, cada “não, espera, usa este parágrafo”, ocupa espaço. Quando o bloco enche, o início da conversa deixa de entrar inteiro. Em alguns casos some. Noutros fica comprimido: o modelo ainda “sabe que houve um orçamento”, mas já não segura o preço, o NIF, ou a regra de não oferecer desconto.

Os detalhes antigos também competem com o pedido novo. Se no cimo da thread o cliente era Silva & Filhos a 1.450 euros, no meio você colou uma proposta da Costa Lda “só como exemplo de tom”, e no fim pediu “o e-mail final deste cliente”, o modelo tem três histórias na mesma folha. Sem um recorte claro, mistura nomes, valores e condições. Parece esquecimento. Na prática, é excesso de material a puxar a resposta para lados diferentes.

Há um hábito que piora isto: “lembra do que eu disse no início”. Se essa informação já saiu da janela, o pedido não a recupera. Recupera, no máximo, uma impressão vaga, e impressão vaga em orçamento vira número inventado.

Tokens, anexos e o tamanho da conversa

Os sistemas medem este bloco em unidades de texto (muita gente chama-lhes tokens). Não precisa de contar. Também não vale a pena decorar um número de um fornecedor: os limites mudam, e o que importa no escritório é o comportamento.

Na prática, chats longos com anexos grandes enchem mais rápido. Uma thread de ida e volta sobre um orçamento ainda pode caber. A mesma thread depois de colar uma planilha inteira, um PDF de 20 páginas e três versões do mesmo e-mail enche de outra forma. Tabelas largas, contratos, dumps de Excel e conversas de WhatsApp exportadas ocupam muito, mesmo quando “só queria um resumo”.

Regra útil, sem fingir precisão de engenharia: se você já colou várias vezes o mesmo ficheiro “porque ele não estava a apanhar”, a janela está a encher com cópias, não com clareza. Se o pedido novo é curto mas o histórico é uma novela de três dias, o pedido novo perde para o ruído. Se precisa de um dado fino (preço, prazo, cláusula, nome do destinatário), assuma que só está seguro o que você voltou a pôr no recorte atual, não o que ficou na mensagem 12.

Quando vale abrir um chat novo

Abrir chat novo não é superstição. É trocar a folha A3 quando a mesa já não distingue os papéis. Sinais concretos:

Mudou de cliente ou de assunto. Orçamento da Silva & Filhos num sítio, resposta à Padaria do Bairro noutro. Não “aproveite o tom” na mesma thread: o tom vem com os números do cliente anterior.

A IA misturou factos: preço de um caso, prazo de outro, desconto que era só de um teste. Uma correção pontual ainda pode chegar. Duas misturas seguidas, chat novo.

Você já corrigiu a mesma coisa três vezes (“não tem desconto”, “o prazo é cinco dias”, “não uses o nome da Costa”). Se a correção não pega, o modelo não está teimoso: está a ler um bloco onde a versão errada ainda pesa.

Vai colar um bloco grande e limpo: tabela certa, cláusula certa, lista de itens deste orçamento. Esse bloco merece uma conversa que comece com ele, não uma que o enterre debaixo de versões velhas.

Mudança de tarefa também conta. Rascunhar um e-mail de cobrança e, na mesma thread, pedir um texto comercial para um cliente novo é convite a misturar tom e valores. Separe.

O que colar de novo (e o que deixar de fora)

No chat novo, não cole o romance. Cole um resumo curto, as regras que não podem falhar, e o pedaço mínimo de onde o modelo deve tirar os números. O resto fica no seu ficheiro, no seu e-mail, na sua pasta do cliente.

Pedido: Resumo: cliente Padaria do Bairro. Orçamento de 2 portáteis e 1 impressora, entrega em 7 dias úteis, pagamento a 30 dias. Regras: não inventar stock, não oferecer desconto, não misturar com outros clientes, não inventar referência interna. Segue só a tabela deste pedido (3 linhas). Escreve a proposta em texto, pronta a colar no e-mail, com os três itens e o total.

O que volta: um texto da Padaria do Bairro, com aqueles três itens, aquelas condições, sem o desconto da Silva & Filhos e sem o prazo de outro caso. Se faltar uma linha na tabela, o modelo não deve “lembrar” do Excel que você colou ontem noutro chat.

O que não precisa de voltar: as dez versões do e-mail, o PDF de condições gerais completo, a conversa de correções (“não, mais formal”, “agora mais curto”, “tira o emoji”). Isso ensinou o tom na thread velha e, ao mesmo tempo, encheu a janela. No chat novo, uma frase chega: “Tom: formal, frases curtas, sem emoji, sem promessa que não está no resumo.”

Se o pedaço mínimo ainda for grande (uma planilha com 40 colunas), recorte antes de colar: só as linhas deste cliente, só as colunas que entram na proposta. Menos texto na janela, menos sítio para o modelo ir buscar o número errado.

Por que conversas longas começam a errar

O erro típico de thread longa não é um bug espetacular. É mistura. Dois clientes. Duas tabelas. Uma instrução de manhã (“podes sugerir desconto”) e outra à tarde (“neste cliente, nunca”). O modelo não faz reunião para decidir qual vale. Usa o que ainda cabe, com peso para o que está mais perto do pedido atual e, às vezes, para o que se repetiu mais, mesmo que essa repetição seja a versão que você já rejeitou.

Instruções contraditórias acumulam-se sem ninguém as apagar. “Usa o preço da tabela” e, dez mensagens depois, “arredonda para ficar mais comercial”. Sem dizer qual tabela e qual arredondamento, o final sai inventado. “Lembra do que eu disse” sem reapresentar o dito é o mesmo problema com outra frase: você aponta para uma mensagem que pode já não estar no bloco.

Há ainda o falso conforto da interface. A conversa está ali, com o nome do cliente no cimo. Parece um processo do escritório. Não é. É um rascunho comprido. Quanto mais comprido, mais o rascunho antigo compete com o pedido de agora. Por isso a thread que começou bem (nome certo, preço certo) acaba a misturar casos: o início saiu da janela, o meio está cheio de exemplos, e o fim pede um “resumo final” como se o modelo tivesse uma pasta do cliente.

O que isto tem a ver com colar com cuidado

Contexto cheio e colar demais são o mesmo tipo de risco, visto de dois lados. Se a janela só aguenta um bloco, o que você mete lá dentro é uma escolha: dados deste pedido, ou ruído, ou dados que não deveriam ir parar a um chat. A lista do que vale a pena colar, e do que deve ficar de fora, está em o que colar no chat. Aqui o ponto é só este: colar a pasta inteira do cliente não “dá mais memória”. Dá mais mistura, e mete no modelo coisas que o orçamento talvez nem precise.

O outro limite é de julgamento, não de janela. Há tarefas em que a IA não deve entrar, mesmo com o recorte perfeito: decisão com efeito legal, número que você não consegue conferir, dado de cliente que a casa não quer fora do sítio. Isso está em quando não usar IA no trabalho. Contexto bem gerido não transforma um chat numa fonte de verdade. Continua a ser rascunho, para você conferir antes de enviar.

O que isto não promete

Nada disto é a ficha técnica de um fornecedor. O tamanho da janela muda de produto para produto, e muda outra vez quando o mesmo produto atualiza o modelo. Trate as regras desta página como hábitos de escritório, não como garantia de um limite em páginas ou em “quantas mensagens cabem”.

O histórico que você vê no ecrã pode estar guardado na conta, no browser, ou em lado nenhum, conforme a ferramenta e a política da empresa. Isso não é o mesmo que contexto de resposta. Guardar a conversa não faz o modelo reler o arquivo inteiro a cada mensagem. Se a casa tem regra sobre o que pode ir para chat (dados de cliente, contratos, folhas de pagamento), essa regra manda, mesmo numa thread curta e limpa.

Também não há truque de “resume tu próprio o histórico” que recupere um preço que já saiu da janela, se você não voltar a colar o preço. Um resumo feito pelo modelo a partir de uma thread cansada pode repetir a mistura. O resumo seguro é o que você escreve com os factos à frente, no papel ou na planilha, e cola no chat novo.

O que fazer agora

Antes do próximo orçamento ou e-mail de atendimento, passe isto:

  • Um cliente, um assunto, um chat. Mudou o caso, muda a conversa.
  • No chat novo, cole resumo curto, regras que não podem falhar, e o pedaço mínimo (tabela deste pedido, não o PDF inteiro).
  • Se misturou factos ou você já corrigiu a mesma coisa três vezes, pare de empilhar recados. Abra outro chat.
  • Não peça “lembra do que eu disse”. Reapresente o preço, o prazo, o nome.
  • Confira números e nomes no seu ficheiro, não na memória da thread.
  • Se a tarefa não é para IA, ou o recorte inclui o que não deve ser colado, não use o chat. Use a pasta do cliente e a cabeça de quem vai assinar o e-mail.