Différences

Ci-dessous, les différences entre deux révisions de la page.

--- informatique:ai_lm [03/05/2026 11:02] – [NanoLLM] cyrille
+++ informatique:ai_lm [27/05/2026 11:26] (Version actuelle) – [mistral.rs] cyrille
@@ Ligne 418: / Ligne 418: @@
 Et fait un reboot puis ça fonctionne. Les perfs: 2.6 plus rapide que sans SYCL (36.34 vs 13.94).
+==== mistral.rs ====
+Aucun rapport avec Mistral.ai
+https://github.com/EricLBuehler/mistral.rs
+  * Any Hugging Face model, zero config
+  * True multimodality: Text, vision, video, and audio, speech generation, image generation, and embeddings in one engine.
+  * Smart quantization
+  * Built-in web UI
+  * Hardware-aware
+  * Flexible SDKs: Python package and Rust crate to build your projects.
+  * Native agentic support: built-in agentic loop with web search, local Python code execution with model feedback, session management, and custom tool hooks.
+À l'installation :
+  * la compilation est très longue (743 fichiers) et s'accapare toute la puissance de la machine...
+  * brancher le eGpu avant, sinon faudra re-installer 😩
+    * ça va activer ''flash-attn'' et la compilation de ''candle-flash-attn'' peut prendre 45 minutes !!!
 ==== ollama ====