AI企業のTypeSafe AIは9月15日、新しいモデル分類「System One Models」と、その初の公開モデル「Jev」を発表し、アーリーアクセスの提供を始めました。TypeSafe AIは、ChatGPTの開発に携わったAI研究者であるディオゴ・アルメイダ氏がCEOを務める企業です。創業者でもあるアルメイダ氏は、ソフトウェアが直接利用できる高速で構造化された判断を行うためのフロンティアモデルだと位置付けています。同氏はOpenAIで、言語モデルが指示に従い人と対話するための手法の開発に携わり、その研究がChatGPTの基盤になったと説明しています。
Jevは、文章をトークン単位で順番に生成する大規模言語モデル（LLM）とは異なり、非構造化データやプログラムの状態を入力として、あらかじめ定義された型付きの構造化値と確率を出力します。同社によれば、文字列生成を行わない代わりに、全ての出力を1回の問い合わせで並列に生成する仕組みを採用しました。出力可能な値と構造を事前に定めることで型エラーは起こらず、各回答には信頼度と不確実性を示す確率が付くとしています。
開発基盤には新たなモデルアーキテクチャ、並列サンプラー、独自の学習手法「Reinforcement Learning for Calibrated Decisions（RLCD）」を組み合わせました。従来のLLMで使われる、人間の好みや検証可能な報酬を最適化する手法に対し、System One Modelsでは、System One型のタスクにおいて認識上正直な確率を伴う較正済みの判断を最適化する考え方を採ると説明しています。
TypeSafe AIによると、JevはSystem One型タスクで既存LLMと近い知能水準を保ちながら、エンドツーエンドの応答時間を70ミリ秒から500ミリ秒に抑えるといいます。フロンティアモデルの3秒から329秒と比較した場合、同等水準の問い合わせで40倍から200倍高速になるとの主張です。料金は入力100万トークン当たり0.042ドルで、出力は「計測するには安すぎる」として無料に設定しました。
同社は、分類、振り分け、採点、情報抽出、条件分岐といった、手書きのルールでは壊れやすい判断を通常のソフトウェアに組み込む用途を想定します。大量データの処理や、応答速度が重視されるリアルタイムアプリケーション、LLMのプロンプトや出力の評価、ガードレール、脱獄の検知なども例に挙げました。一方、Jevは文字列を生成できないため、チャット応答やコードなど柔軟な文章生成を担うモデルとは用途が異なります。
同社独自のワークフロー評価では、GPT-6 AstraとFable 5.1の平均を参照確率として比較し、Jevが速度とコストの面で優位だったと報告しました。ただし、ワークフローは自社のモデル能力チームのメンバーが作成しており、偏りがあり得ること、LLMには構造化判断を出力させるラッパーを用いたため、確率なしの判断より遅く高コストになる傾向があることも明記しています。今後は待機リストの開発者を順次受け入れ、Jevが有効な判断や課題に関するフィードバックを集める方針です。