O que 200 mil tokens de contexto realmente permitem
Contexto é a quantidade de texto que o modelo consegue considerar numa única chamada, contando o que você envia e o que ele responde. O número parece abstrato até ser convertido em código.
Convertendo tokens em arquivos
Para código, a regra prática é que um token equivale a cerca de quatro caracteres de texto comum, e a um pouco menos em código denso com muitos símbolos. Um arquivo de 400 linhas costuma ficar entre 4 mil e 6 mil tokens. Com 200 mil tokens de contexto, cabem algumas dezenas de arquivos de tamanho médio, ou um módulo inteiro com os testes.
Onde o contexto acaba na prática
O limite raramente é atingido por um arquivo grande. Ele é atingido pelo acúmulo: cada passo de um agente reenvia o histórico, e o histórico cresce. Uma sessão de vinte passos pode consumir várias vezes o tamanho do código em si. Por isso gerenciar o histórico rende mais que escolher o modelo com o maior número.
Quando 1 milhão de tokens muda a decisão
Há tarefas em que a diferença é qualitativa e não de grau: varrer um repositório inteiro procurando um padrão, comparar dois contratos longos campo a campo, ou resumir uma base de documentação que não cabe em partes. Nesses casos, um modelo com contexto de 1 milhão evita a etapa de fatiar o material, e a etapa de fatiar é onde a informação se perde.