¿Cómo entrenar un LLM?

Por @SoyFYDev el 12/02/2024

¿Os habéis imaginado alguna vez cómo sería entrenar un modelo de lenguaje enorme o LLM?

Solemos asumir que entrenar un LLM es complicado y caro. Sin embargo, este vídeo desmitifica todo esto.

En 90 minutos, Will Falcon, el fundador de Lighting AI, nos muestra cómo entrenar un LLM de 3000 millones de parámetros desde cero.

Además, presenta un workflow para entrenar modelos, abordando todos los temas: escalabilidad, eficiencia, herramientas, preparación del conjunto de datos, optimización e incluso validación.