En el aprendizaje por transferencia (transfer learning), un modelo que ya ha aprendido una tarea amplia y general sirve como punto de partida para otra nueva y específica. En lugar de empezar de cero, se adapta, por ejemplo mediante ajuste fino, con relativamente pocos datos propios. Así ahorras cómputo y datos, por ejemplo cuando un modelo de imágenes general debe aprender a detectar defectos de fabricación en fotos.
Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.
Iniciar demoEl ajuste fino (fine-tuning) consiste en seguir entrenando un modelo de IA ya preentrenado con datos adicionales, normalmente específicos de una tarea. Se modifican sus pesos internos para que domine con más fiabilidad, por ejemplo, un estilo de redacción, un vocabulario técnico o un formato de salida. Requiere ejemplos bien preparados, capacidad de cálculo y pruebas. Para muchas aplicaciones bastan unas instrucciones bien redactadas y conocimiento conectado, que son más fáciles de cambiar.
Un modelo fundacional (foundation model) es un gran modelo de IA preentrenado con datos muy amplios y variados que después puede usarse para muchas tareas distintas. El término se acuñó en la Universidad de Stanford en 2021. Ejemplos conocidos son los grandes modelos de lenguaje como Claude o GPT. Las empresas suelen construir sus aplicaciones sobre estos modelos en vez de entrenar uno propio desde cero; el Reglamento europeo de IA habla de modelos de IA de uso general.
El Parameter-Efficient Fine-Tuning (PEFT) agrupa técnicas que adaptan un gran modelo preentrenado a una tarea entrenando solo una pequeña parte de sus parámetros o añadiendo unos pocos. Métodos conocidos son LoRA, QLoRA, los adaptadores y el prefix tuning. Esto reduce mucho las necesidades de cálculo y memoria, y para varias tareas puedes guardar pequeños módulos adicionales en lugar de copias completas del modelo. Ejemplo: adaptar un modelo de lenguaje al estilo de los textos técnicos internos.
