Différences

Ci-dessous, les différences entre deux révisions de la page.

--- informatique:ai_lm [27/05/2026 10:27] – [mistral.rs] cyrille
+++ informatique:ai_lm [16/10/2026 22:12] (Version actuelle) – [AI Language Model] cyrille
@@ Ligne 16: / Ligne 16: @@
   * [[/informatique/ai_lm/ai_vision|AI Vision]]
   * [[/informatique/ai_lm/ai_agent|AI Agent]]
+  * [[/informatique/ai_lm/ai_translation|AI Translation]]
 ===== Glossaire =====
@@ Ligne 53: / Ligne 54: @@
   * [[/informatique/ai_lm/gpu_bench|GPU Benchmarks]]
+Installer [[/informatique/nvidia|nvidia-drivers et CUDA]].
 ==== Online services ====
@@ Ligne 81: / Ligne 83: @@
   * mistral-codestral/codestral-latest = 2,320s / 3,427s
+===== LLM via API EU providers =====
+  * Mistral (France) https://mistral.ai/pricing/api/
+  * OVH (France) https://www.ovhcloud.com/fr/public-cloud/ai-endpoints/
+  * Scaleway (France) https://www.scaleway.com/en/generative-apis/
+  * Lyceum (Allemagne) https://lyceum.technology/products/inference/models/
+  * Infomaniak (Suisse) https://www.infomaniak.com/fr/hebergement/ai-services/tarifs
+===== LLM Européens =====
+  * Mistral, France
+    * https://huggingface.co/mistralai
+  * Aleph Alpha, Allemagne
+    * https://huggingface.co/Aleph-Alpha
+    * [[https://huggingface.co/Aleph-Alpha/Kolibri-1|Kolibri-1]] 78B, MoE 3.46B
+  * Swiss AI Initiative
+    * https://huggingface.co/swiss-ai
+    * [[https://huggingface.co/swiss-ai/Apertus-v1.5-70B|Apertus-v1.5]] 8B and 70B
+  * OpenLLM France
+    * https://huggingface.co/OpenLLM-France
+    * [[https://huggingface.co/collections/OpenLLM-France/luciole-llm|Luciole]] 1B, 8B et 23B
+    * [[https://huggingface.co/collections/OpenLLM-France/lucie-llm|Lucie]] 7B
+  * BSC-LT, Barcelona Supercomputing Center, Espagne
+    * https://huggingface.co/BSC-LT
+    * [[https://huggingface.co/collections/BSC-LT/alia|Alia]] 40B
+    * [[https://huggingface.co/collections/BSC-LT/salamandra|Salamandra]] 2B et 7B
+  * Multiverse Computing, Espagne
+    * https://huggingface.co/MultiverseComputingCAI
+    * [[https://huggingface.co/MultiverseComputingCAI/Hypernova-60B-2605|HyperNova]] 60B MoE 4.8B
+    * Pulsar 16B, LittleLamb 0.3B
 ===== Cartes IA =====
@@ Ligne 264: / Ligne 297: @@
 # RTX 5060 : 120
-$ export CUDA_VERSION=12.9 && cmake -B build -DGGML_CUDA=ON \
+$ export CUDA_VERSION=12.9
+$ export CUDA_VERSION=13.3
+$ cmake -B build -DGGML_CUDA=ON \
  -DCMAKE_CUDA_ARCHITECTURES="86;120" \
  -DCMAKE_BUILD_WITH_INSTALL_RPATH=ON \
@@ Ligne 286: / Ligne 321: @@
 -- Build files have been written to: /home/cyrille/Code/bronx/AI_Coding/llama.cpp/build
-$ time cmake --build build --config Release -j 10
+$ time cmake --build build --clean-first --config Release -j 10
 # host: i7-1360P + SSD
@@ Ligne 302: / Ligne 337: @@
 user	61m37,436s
 sys	2m37,613s
-</code>
-Avec CUDA 13.1 llama.cpp plante direct à la 1ère requête, mais sans message dans syslog : ce n'est donc pas le driver mais le logiciel llama.cpp qui ne support pas cette version de CUDA :
+# host: Core(TM) Ultra 7 270K Plus
-<code>
+real	3m6.637s
-/home/cyrille/Code/bronx/AI_Coding/llama.cpp/ggml/src/ggml-cuda/ggml-cuda.cu:97: CUDA error
+user	27m13.877s
-CUDA error: invalid argument
+sys	1m24.687s
-  current device: 0, in function ggml_cuda_mul_mat_q at /home/cyrille/Code/bronx/AI_Coding/llama.cpp/ggml/src/ggml-cuda/mmq.cu:179
 </code>
@@ Ligne 432: / Ligne 465: @@
   * Flexible SDKs: Python package and Rust crate to build your projects.
   * Native agentic support: built-in agentic loop with web search, local Python code execution with model feedback, session management, and custom tool hooks.
+À l'installation :
+  * la compilation est très longue (743 fichiers) et s'accapare toute la puissance de la machine...
+  * brancher le eGpu avant, sinon faudra re-installer 😩
+    * ça va activer ''flash-attn'' et la compilation de ''candle-flash-attn'' peut prendre 45 minutes !!!
 ==== ollama ====
@@ Ligne 473: / Ligne 513: @@
 https://github.com/zml/zml/
+===== Réduction de tokens =====
+Headroom
+  * Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 60-95% fewer tokens, same answers. Library, proxy, MCP server.
+  * https://headroom-docs.vercel.app/docs
+  * https://github.com/chopratejas/headroom
+  * https://www.lemondeinformatique.fr/actualites/lire-headroom-un-projet-open-source-pour-reduire-la-facture-des-tokens-100357.html
+RTK
+  * CLI proxy that reduces LLM token consumption by 60-90% on common dev commands. Single Rust binary, zero dependencies
+  * https://www.rtk-ai.app/
+  * https://github.com/rtk-ai/rtk
+Openwolf
+  * Sharper context. Fewer tokens. Open-source middleware for Claude Code.
+  * https://openwolf.com/
+  * https://github.com/cytostack/openwolf