Tag: lora
Tous les articles avec le tag "lora".
-
MLX `Attempting to eval an array` : `.item()` en compilé
« Attempting to eval an array during function transformations » : ma perte MLX lisait une valeur par .item() dans le pas compilé de mlx-lm. Correctif.
-
LoRA MLX sur Mac 16 Go : la perte qui sature la mémoire
mlx-lm LoRA en manque de mémoire sur un Mac 16 Go : la perte calcule les logits de tout le vocabulaire à chaque position. La calculer sur la réponse seule.
-
mlx-lm `mask_prompt` : seul le dernier message est appris
mlx-lm et mask_prompt sur une conversation multi-tours : seul le dernier message est appris. Un exemple par réponse, et une validation stable.