Résultats plein texte:

ai_coding

50 Occurrences trouvées, Dernière modification : il y a 6 jours

yers=37, n_ctx_train=40960 * avec 12Go ''<nowiki>--ctx-size 0</nowiki>'' * Qwen2.5-coder-7b-instruct-q8_0.gguf * file: 8.1 Go, n_ctx=131072 * avec RTX 5060 16Go ''<nowiki>--ctx-size 0</nowiki>'', nvidia-smi Memory-Usage 14920MiB / 16311MiB * [[https://huggingface.co/Qwe

gpu_bench

16 Occurrences trouvées, Dernière modification : il y a 18 heures

lisant son **contexte maximale "131072" avec ''<nowiki>--ctx-size 0</nowiki>'' au lieu du par défaut "4096"** il faut décharger des layers sur le CPU, sinon c... context max 131072 c'est 30 layers sur GPU : ''<nowiki>--n-gpu-layers 30</nowiki>'', donc 80% perte perf * ''<nowiki>--ctx-size 70000 --n-gpu-layers 41</n

ai_nlp_rag

3 Occurrences trouvées, Dernière modification : il y a 6 jours

iles.scatter.red/wikimedia/other/wikibase/wikidatawiki/20260105/wikidata-20260105-all.json.gz * 151 Go... iles.scatter.red/wikimedia/other/wikibase/wikidatawiki/latest-all.nt.gz * 246 Go Dump RDF N-Triples (... iles.scatter.red/wikimedia/other/wikibase/wikidatawiki/latest-truthy.nt.gz * 69.6 Go 👌 pour ''8 128 29