Différences
Ci-dessous, les différences entre deux révisions de la page.
| Les deux révisions précédentesRévision précédente | |
| informatique:ai_lm:ai_coding [04/06/2026 08:53] – [Models] cyrille | informatique:ai_lm:ai_coding [03/08/2026 22:02] (Version actuelle) – [Models] cyrille |
|---|
| * [[https://huggingface.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF|Qwen3-Coder-30B-A3B-Instruct]] | * [[https://huggingface.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF|Qwen3-Coder-30B-A3B-Instruct]] |
| * layers=48, n_ctx_train=262144, n_embd=2048, n_rot=128, n_expert=128, n_expert_used=8, n_vocab=151936, n_merges=151387, max token length=256 | * layers=48, n_ctx_train=262144, n_embd=2048, n_rot=128, n_expert=128, n_expert_used=8, n_vocab=151936, n_merges=151387, max token length=256 |
| * avec 12Go ''<nowiki>--ctx-size 70000 --n-gpu-layers 23</nowiki>'' | * RTX 3060 12Go ''<nowiki>--ctx-size 70000 --n-gpu-layers 23</nowiki>'' |
| * avec 12Go ''<nowiki>--ctx-size 40000 --n-gpu-layers 26</nowiki>'' | * RTX 3060 12Go ''<nowiki>--ctx-size 40000 --n-gpu-layers 26</nowiki>'' |
| | * [[https://huggingface.co/unsloth/Qwen3-Coder-Next-GGUF|Qwen3-Coder-Next 80B]] |
| | * RTX 5060 16 Go: ''<nowiki>-c 101888 --cache-type-k q8_0 --cache-type-v q8_0 --n-cpu-moe 37</nowiki>'' nvtop: 15.617Gi/15.929Gi |
| * DeepSeek2 | * DeepSeek2 |
| * [[https://huggingface.co/bartowski/DeepSeek-Coder-V2-Lite-Instruct-GGUF|DeepSeek-Coder-V2-Lite-Instruct]] **16B** by bartowski | * [[https://huggingface.co/bartowski/DeepSeek-Coder-V2-Lite-Instruct-GGUF|DeepSeek-Coder-V2-Lite-Instruct]] **16B** by bartowski |
