sessionLimitsを使うと、Copilotセッションの現在の会計ウィンドウに対してAIクレジットのソフト上限を設定できます。セッションの作成時と再開時のどちらにも指定できます。
制限を設定する
SessionLimitsConfigのmaxAiCreditsに上限を指定します。使用量はモデル呼び出しの完了後に確認されるため、1回の応答で設定値を超過することがあります。上限を超えた場合、ランタイムは次のモデル呼び出しをブロックします。
SessionConfigとResumeSessionConfigのどちらも、SessionLimitsConfigまたは配列でsessionLimitsを指定できます。
制限に関するイベント
セッションイベントを監視すると、制限の変更や上限到達時のユーザー確認を処理できます。
たとえば、
SESSION_LIMITS_EXHAUSTED_REQUESTEDを受け取ったら、イベントのデータを使って確認UIを表示できます。
上限到達時の確認に応答する
ユーザーの選択はhandlePendingSessionLimitsExhausted()でランタイムに返します。actionにはSessionLimitsExhaustedResponseActionを指定します。
Add: 現在の上限に指定したAIクレジットを追加します。additionalAiCreditsを指定します。Set: 上限を新しい絶対値に変更します。maxAiCreditsを指定します。Unset: セッションの上限を解除します。Cancel: 上限を変更せず、ブロックされたモデルリクエストをキャンセルします。