← タグ一覧へ戻る

#GGUF

「GGUF」タグの記事

2026年9月19日
vLLMのGGUF設定を重み、Tokenizer、configに分ける
vLLMでGGUFを起動するとき、量子化済み重み、Tokenizer、Hugging Face configを別の入力として切り分けます。