CATEGORY

トークン経済

プロンプトキャッシュ・コンテキスト圧縮・モデル使い分け・バッチ処理によるコスト最適化を扱う。抽象的な節約論ではなく、実測値と設計変更の組み合わせで示す。