Construccion de grandes modelos de lenguaje desde cero

El fisico Richard P. Feynman afirmo: No comprendo lo que no puedo crear . Inspirado en este principio, Sebastian Raschka ofrece en este libro una guia practica y detallada para construir un modelo de lenguaje de gran tamano ejecutable incluso en un portatil. Este libro analiza cada etapa del proceso, desde la planificacion y codificacion del modelo hasta su entrenamiento y ajuste fino. A traves de un enfoque practico y profundamente satisfactorio, exploraras los fundamentos de la inteligencia artificial generativa. Sin recurrir a bibliotecas de modelos de lenguaje existentes, programaras un modelo base desde cero, lo convertiras en un sistema de clasificacion de texto y, finalmente, crearas un chatbot capaz de seguir instrucciones en conversaciones naturales. Lo comprenderas a fondo porque seras tu quien lo construya. Con este libro aprenderas a:* Planificar y codificar un modelo de lenguaje similar a GPT-2. * Cargar y utilizar pesos preentrenados. * Disenar un flujo completo de entrenamiento. * Ajustar un modelo de lenguaje para clasificar textos. * Desarrollar modelos que puedan responder a instrucciones humanas. Dirigido a lectores con conocimientos intermedios de Python y nociones basicas de 'machine learning' o ML (aprendizaje automatico), este libro te permitira crear y ejecutar un modelo de lenguaje de gran tamano en un portatil moderno, con la opcion de aprovechar la aceleracion por GPU.