Vercel AI Gateway、Basetenの判定モデル2種を10月27日まで無料提供

何が発表されたか

Vercel は 2026年10月21日、Baseten の判定（decision）モデル2種を AI Gateway 上で提供開始した。無料アクセスは 10月27日まで。

• Mammoth-1: 27Bパラメータ。Vercel によると Jev Decision Index で1位。
• Elephant-1: 9Bパラメータ。Artificial Analysis Decision Index で同率1位。

いずれもテキストの分類、リクエストのルーティング、自分で定義した基準に対するコンテンツのスコアリングを行う。両モデルとも16kトークンのコンテキストに対応し、選択肢・確率・スコアを返す。

使い方としては、モデル名に baseten/mammoth-1 または baseten/elephant-1 を指定する。1回のリクエストで同じ入力に対して複数の質問を投げられ、質問の型は Choice／Boolean／Score の3種類。AI SDK の例では experimental_decide に model、state、questions を渡し、result.answers を読む形になっている。自動実行するか人のレビューに回すかの確率しきい値は、アプリケーション側で設定する。判定の呼び出しはログに記録され、他のモデルリクエストと同様に予算にカウントされる。

開発者への影響

• 問い合わせの振り分け、投稿の一次審査、商品説明文の基準適合チェックといった「判定」用途に、汎用の大規模モデルより小さいモデルを充てられる。確率とスコアが返るため、しきい値での自動化・人手レビューの切り分けが設計しやすい。
• 1リクエストで複数の質問をまとめられるため、同じ入力に対する複数観点の判定をまとめて処理できる。
• 無料期間は10月27日までと短い。評価したい場合は早めに試す必要がある。期間後の料金はこのページには記載がない。
• コンテキストは16kトークンなので、長文全体を一度に判定させる用途には向かない。分割して渡す前提で設計したい。