1秒あたりの出力トークン数

Outcome：Complete the task with 1秒あたりの出力トークン数 (Output Tokens per Second)。 User context：テストは1つのトークナイザーバージョンで500リクエストを送信します。最初のトークン後に出力数と時間を記録します。並行性は1と32でテストします。レポートには、リクエストごとのトークンと全トークン毎秒、およびパーセンタイルが表示されます。入力速度、リクエスト毎秒、TTFTは別の指標です。 AI method or concept：1秒あたりの出力トークン数 (Output Tokens per Second)。 Why it fits：同じモデル、ハードウェア、トークナイザー、出力長、バッチ処理、並列処理と比較する際にこの用語を使用します。 Do not use it when：トークン毎秒の値を出す場合は、それが1つのリクエストに対してか、全リクエストに対してかを明示しなければならない。異なるトークナイザーは1つのトークン内に異なる量のテキストを収める場合がある。 AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary)：その情報源にとって公式です。他のプラットフォームやチームはその用語を別の方法で使用する場合があります。 Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.