Tag: ollama
Tous les articles avec le tag "ollama".
-
LLM-juge : jugé parmi douze critères, il inverse le verdict
LLM-juge au verdict contraire à sa raison : 9 refus sur 22 venaient d’un critère coché à l’envers. Le rejuger seul, et les autres faux verdicts du banc.
-
Banc LLM : un seul passage varie de ±12 points
Variance d’un benchmark LLM entre deux runs : le même modèle varie de ±12 points d’un passage à l’autre. Pourquoi comparer des moyennes de 3 passages.
-
Assistant LLM : la détection d’urgence sans le modèle
Sécurité d’un assistant LLM : une détection d’urgence déterministe, réglée sur le rappel et testée sur un corpus écrit sans lire le code.
-
LLM-juge : le time-out qui fait passer un test au vert
LLM-juge et faux positifs : un juge expiré en « fetch failed » rendait un cas vert, un autre se contredisait. Les quatre corrections du banc d’essai.
-
llama.cpp Snapdragon : le GPU Adreno génère 4× moins vite
llama.cpp sur Snapdragon X Elite : en OpenCL, le GPU Adreno lit le prompt à peine plus vite mais génère quatre fois moins vite que le CPU. Mesures.
-
LLM local : préchauffer le prompt au déploiement
LLM local en timeout au premier appel : relire le prompt à froid prenait 90 s, plus que les 60 s de la fonction, qui coupait la lecture avant le cache.