bert

Modelos pre-entrenados y transferencia de aprendizaje

La transferencia de aprendizaje permite reutilizar un modelo ya entrenado en un conjunto de datos masivo, como ImageNet o un corpus de texto extenso, para resolver una tarea nueva con muchos menos datos propios y horas de cómputo. Funciona mediante fine-tuning, extracción de características o prompts, y rinde mejor cuanto más se parecen el dominio de origen y el de destino.