#LLM
「LLM」タグの記事
LLMのtoken使用量を料金区分から読み解く
input、cache、output、reasoningのusageを分け、APIの利用量から料金を再計算する方法を整理します。
OpenCode GoとZenを料金経路から比較する
OpenCode Goの定額枠とZenの従量残高を、モデル、上限、fallback、BYOKの違いから調べる。
vLLMのGGUF設定を重み、Tokenizer、configに分ける
vLLMでGGUFを起動するとき、量子化済み重み、Tokenizer、Hugging Face configを別の入力として切り分けます。
vLLMのStructured Outputs移行を入力形式から確認する
guided_jsonからstructured_outputsやresponse_formatへ移行し、JSON Schemaが保証する範囲と検証の境界を整理します。
