Fine-tuning

Processus d'entraînement supplémentaire sur un modèle pré-entraîné, en utilisant un jeu de données spécifique pour le spécialiser dans une tâche particulière. Par exemple, on peut affiner Llama 7B avec des documents juridiques pour créer un modèle expert en droit. Les techniques populaires incluent LoRA et QLoRA.