Tag: python
Tous les articles avec le tag "python".
-
MLX `Attempting to eval an array` : `.item()` en compilé
« Attempting to eval an array during function transformations » : ma perte MLX lisait une valeur par .item() dans le pas compilé de mlx-lm. Correctif.
-
LoRA MLX sur Mac 16 Go : la perte qui sature la mémoire
mlx-lm LoRA en manque de mémoire sur un Mac 16 Go : la perte calcule les logits de tout le vocabulaire à chaque position. La calculer sur la réponse seule.
-
mlx-lm `mask_prompt` : seul le dernier message est appris
mlx-lm et mask_prompt sur une conversation multi-tours : seul le dernier message est appris. Un exemple par réponse, et une validation stable.
-
Gemma 4 sous MLX : le cache à fenêtre glissante se relit
Gemma 4 MLX, prompt cache et sliding window : ce cache ne se tronque pas, tout est relu ; un segment pour le socle ramène le premier mot de 20,7 à 2,2 s.