ES
Iniciar sesiónEmpezar
Glosario

Ajuste fino eficiente en parámetros (PEFT)

¿Qué es Ajuste fino eficiente en parámetros (PEFT)?

El Parameter-Efficient Fine-Tuning (PEFT) agrupa técnicas que adaptan un gran modelo preentrenado a una tarea entrenando solo una pequeña parte de sus parámetros o añadiendo unos pocos. Métodos conocidos son LoRA, QLoRA, los adaptadores y el prefix tuning. Esto reduce mucho las necesidades de cálculo y memoria, y para varias tareas puedes guardar pequeños módulos adicionales en lugar de copias completas del modelo. Ejemplo: adaptar un modelo de lenguaje al estilo de los textos técnicos internos.

Temas

  • ajuste fino
  • entrenamiento
  • eficiencia

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo
← Todos los términos

Términos relacionados

Ajuste fino (fine-tuning)

El ajuste fino (fine-tuning) consiste en seguir entrenando un modelo de IA ya preentrenado con datos adicionales, normalmente específicos de una tarea. Se modifican sus pesos internos para que domine con más fiabilidad, por ejemplo, un estilo de redacción, un vocabulario técnico o un formato de salida. Requiere ejemplos bien preparados, capacidad de cálculo y pruebas. Para muchas aplicaciones bastan unas instrucciones bien redactadas y conocimiento conectado, que son más fáciles de cambiar.

  • Entrenamiento
  • Personalización
  • +1

Ajuste por instrucciones (instruction tuning)

El instruction tuning es una forma de ajuste fino en la que un modelo de lenguaje preentrenado se sigue entrenando con muchos pares de instrucción y respuesta deseada. Así el modelo aprende a cumplir tareas formuladas en lenguaje natural en lugar de limitarse a continuar un texto. Es un paso clave para convertir un modelo base en un asistente y suele combinarse con métodos como RLHF. Ejemplo: «Resume este texto en tres frases» se ejecuta de forma fiable.

  • Ajuste fino
  • Modelos de lenguaje
  • +1

Aprendizaje por transferencia

En el aprendizaje por transferencia (transfer learning), un modelo que ya ha aprendido una tarea amplia y general sirve como punto de partida para otra nueva y específica. En lugar de empezar de cero, se adapta, por ejemplo mediante ajuste fino, con relativamente pocos datos propios. Así ahorras cómputo y datos, por ejemplo cuando un modelo de imágenes general debe aprender a detectar defectos de fabricación en fotos.

  • Machine learning
  • Entrenamiento
  • +1

Modelo fundacional

Un modelo fundacional (foundation model) es un gran modelo de IA preentrenado con datos muy amplios y variados que después puede usarse para muchas tareas distintas. El término se acuñó en la Universidad de Stanford en 2021. Ejemplos conocidos son los grandes modelos de lenguaje como Claude o GPT. Las empresas suelen construir sus aplicaciones sobre estos modelos en vez de entrenar uno propio desde cero; el Reglamento europeo de IA habla de modelos de IA de uso general.

  • Modelo base
  • Modelos de lenguaje
  • +1