NEC、機密を隠して外部AIに振り分ける「cotomi Gateway」提供開始

何が発表されたか

NEC は2026年11月5日、AI Platform Service の機能として cotomi Gateway の提供を開始したと発表した。ソフトウェア版を先行提供し、その後 SaaS を順次展開する。価格はソフトウェア版が月額100万円（税別）から。

主な機能は3つに整理されている。

• 機密情報の保護: 機密情報を自動で検知してマスキングし、秘匿した状態で外部AIモデルを利用する。マスキングすると処理が難しいタスクは、オンプレミスで稼働するAIモデルで対応する。
• トークンコストの最適化: タスクに必要な性能を判定して適切なAIモデルを自動選択し、プロンプトの冗長部分や不要な情報を圧縮する。
• 利用状況の可視化: ダッシュボードで利用実績とコスト削減効果をリアルタイムに監視・評価できる。

ルーティングの仕組みについては、機密性・タスクの難易度・回答品質・コストなど複数の要素を総合的に評価して自動化すると説明されている。判定には軽量な回帰モデルや統計モデルを使い、プロンプトの内容に加えて過去の利用履歴、会話の流れ、キャッシュの状況も材料にするという。既存システムとは API で連携し、共通ゲートウェイで一元管理する構成になる。

開発者への影響

価格帯から見て直接の導入対象は中〜大規模の企業だが、設計の考え方は規模を問わず参考になる。

• 「1モデルに全部投げる」構成からの移行：難易度に応じてモデルを振り分ける発想は、API 利用料が膨らんでいる案件で自前実装する価値がある。簡単な分類や整形は小さいモデル、設計や長文生成は上位モデルという切り分けである。
• ゲートウェイを1枚挟む構成：アプリから直接ベンダーのAPIを叩くのではなく、共通のゲートウェイ経由にしておくと、モデル差し替え・ログ取得・コスト計測を一箇所でできる。小規模でも効く設計パターン。
• マスキングとオンプレの併用：マスキングで処理品質が落ちるタスクは手元のモデルに回すという切り分けは、クライアントの機密情報を扱う受託開発でも応用できる。
• コストの可視化を最初から入れる：利用実績とコストをダッシュボードで追う前提は、AI機能を含む見積や運用保守費の根拠づけに直結する。

自社で組むなら、まず「どのリクエストがどのモデルに行き、いくらかかったか」をログに残すところから始めるのが現実的である。