LoRA
¿Qué es LoRA?
LoRA (Low-Rank Adaptation) es una técnica de fine-tuning eficiente para modelos de lenguaje e imagen de gran tamaño que permite adaptarlos a tareas o estilos específicos con una fracción del coste computacional del fine-tuning completo. En lugar de actualizar todos los parámetros del modelo, LoRA añade matrices de bajo rango que capturan los cambios necesarios. Es especialmente popular en la comunidad de Stable Diffusion para crear modelos personalizados de generación de imágenes con estilos artísticos o personajes específicos, y en NLP para adaptar LLMs a dominios especializados. Los ingenieros de ML y practicantes de IA generativa que dominan LoRA pueden personalizar modelos fundacionales de forma muy eficiente.