Semana 02: La Ventana de Contexto y la Memoria del LLM
ingenieria-de-contexto modulo1-fundamentos
Objetivo
Comprender el componente m�s cr�tico y limitado de un LLM: su memoria a corto plazo.
T�picos Clave
- �Qu� es la “ventana de contexto”? (Tokens, tama�o, limitaciones).
- El problema de la informaci�n perdida y la “atenci�n” en los modelos Transformer.
- T�cnicas de compresi�n de contexto: res�menes, extracci�n de entidades.
- Analog�a: La ventana de contexto como la “RAM” del LLM.
Actividad Pr�ctica
Experimenta con un LLM (como ChatGPT, Claude o Gemini) d�ndole un texto largo. Preg�ntale sobre detalles al inicio del texto y observa en qu� punto “olvida” la informaci�n. Anota tus hallazgos.