Différences
Ci-dessous, les différences entre deux révisions de la page.
| Les deux révisions précédentesRévision précédenteProchaine révision | Révision précédente |
| informatique:ai_lm:ai_translation [16/10/2026 22:28] – cyrille | informatique:ai_lm:ai_translation [16/10/2026 22:30] (Version actuelle) – cyrille |
|---|
| * GGUF https://huggingface.co/mradermacher/translategemma-27b-it-GGUF | * GGUF https://huggingface.co/mradermacher/translategemma-27b-it-GGUF |
| |
| Lancer llama.cpp avec ''--temp 0.1 --top-p 0.95 --top-k 64'' ou ''--temp 0''. | Lancer llama.cpp avec ''--temp 0.1 --top-p 0.95 --top-k 64 --jinja'' ou ''--temp 0 --jinja''. |
| |
| Le modèle est entraîné spécialement il faut donc respecter précisément le template. | Le modèle est entraîné spécialement il faut donc respecter précisément le template. |
| Soit avec ''kwargs'' : | Soit avec ''kwargs'' : |
| <code bash> | <code bash> |
| curl -s http://192.168.1.20:8012/v1/chat/completions -H "Content-Type: application/json" -d '{ | curl -s http://192.168.1.20:8012/v1/chat/completions -H "Content-Type: application/json" \ |
| | -d '{ |
| "temperature": 0, | "temperature": 0, |
| "chat_template_kwargs": { | "chat_template_kwargs": { |
| {"role": "user", | {"role": "user", |
| "content": "Lorem Ipsum is simply dummy text of the printing and typesetting industry. Lorem Ipsum has been the industry’s standard dummy text ever since 1966, when designers at Letraset and James Mosley, the librarian at St Bride Printing Library in London, took a 1914 Cicero translation and scrambled it to make dummy text for Letraset’s Body Type sheets." | "content": "Lorem Ipsum is simply dummy text of the printing and typesetting industry. Lorem Ipsum has been the industry’s standard dummy text ever since 1966, when designers at Letraset and James Mosley, the librarian at St Bride Printing Library in London, took a 1914 Cicero translation and scrambled it to make dummy text for Letraset’s Body Type sheets." |
| } | } |
| ] | ] |
| }' | }' |
