Cantidad maxima de tokens que un modelo puede recordar. 128K tokens equivalen a un libro de 300 paginas.
La ventana de contexto es la cantidad maxima de tokens que un modelo puede procesar en una interaccion. Determina cuanto texto "recuerda".
Modelos desde 4K hasta 2M tokens. Para chats cortos vale 8K; para analizar documentos se necesitan 100K+. El modelo recuerda mejor el principio y el final.
💡 Ejemplos prácticos
ChatGPTVentana de 8K o 16K tokens. Suficiente para 30-60 mensajes.
Analisis documentos128K tokens = libro de 300 paginas en una sola peticion.
Gemini 1.5 Pro2M de tokens permiten procesar peliculas completas.