74/100
コマンド1つでオープンウェイトモデルをローカル実行できるランタイム。OpenAI互換のローカルAPIサーバーとしても動作する。
ローカル処理ローカル実行API
一部検証・26日前
読み込み中
開発元: Alibaba (Qwen Team)
Alibaba の Qwen シリーズ。小型から MoE の大型まで幅広くサイズが揃っており、ローカル実行でもクラウドでも選択肢になる。
| 重みの公開 | 公開されている |
|---|---|
| ライセンス | Apache-2.0（サイズにより異なる場合あり・要確認） |
| パラメータ規模 | 0.6B / 4B / 8B / 14B / 32B / 30B-A3B (MoE) / 235B-A22B (MoE) |
| 無検閲派生の流通 | 派生モデルが流通している |
| 情報の状態 | 未検証 |
日本語の指示追従は世代ごとに差が大きい。用途に合うかは実際に試して判断したい。
コマンド1つでオープンウェイトモデルをローカル実行できるランタイム。OpenAI互換のローカルAPIサーバーとしても動作する。
GUIでモデルを検索・ダウンロードし、ローカルで実行できるデスクトップアプリ。OpenAI互換のローカルサーバー機能を持つ。
オープンソースのローカルAIデスクトップアプリ。ローカルモデルの実行と、外部APIの接続の両方に対応する。
Hashforest Technology
TEE（Trusted Execution Environment）上でAIワークロードを実行することを中核に据えたクラウド。推論API・コンテナ実行の両方を提供している。
オープンウェイトモデルを使うチャットサービス。プライバシー保護と、応答の制限が少ないことを訴求している。API も提供している。
OpenAI互換の単一エンドポイントで多数のモデルを中継するゲートウェイ。通常経路のほかに、Tinfoil・Chutes・RedPill といった別事業者のTEE経路を「Private/TEE」カテゴリとして束ねている。
Featherless, LLC（米デラウェア州）
Hugging Face のオープンウェイトモデルを2万件規模でホストするサーバレス推論API。無検閲・Abliterated系をカタログの正式なカテゴリとして扱っている。
Edgeless Systems
推論ワークロードそのものを機密コンピューティング環境で運用するAIサービス。Webチャットと OpenAI互換API の両方を提供し、アテステーションに成功するまで鍵を渡さない設計を公式アーキテクチャで公開している。
Hashforest Technology LLC
複数のTEE事業者が提供する推論を1つのAPIにまとめるゲートウェイ。Phalaと同じ会社が運営しており、TEE付きのモデルと通常のクローズドモデルを同じカタログで扱う。
OpenSecret
エンドツーエンド暗号化を前面に出した個人向けAIチャット。公式のローカルプロキシ（Maple Proxy）を挟むと、OpenAI互換のクライアントからそのままエンクレーブ内のモデルを呼べる。
Jasnah Inc.（d/b/a NEAR AI・米デラウェア州）
Intel TDX と NVIDIA の機密コンピューティングを組み合わせ、ゲートウェイとモデル推論の両方をTEE内で動かす推論クラウド。モデルのTEEへ直接つなぐ経路も提供している。
CONTINUUM AI PTE. LTD.（シンガポール）
OpenAI互換のマルチプロバイダ・ゲートウェイ。トークン単価に上乗せせず、提供元の価格をそのまま通す方式を掲げている。エージェント向けのガードレール・ファイアウォールが主な有料機能。
Nillion
秘密分散・MPC（多者間計算）を基盤とする分散ネットワーク。データを平文に戻さずに計算することを目指す方式で、AI推論への応用も提供している。
オープンウェイトモデルの高速推論を主力とするAPI事業者。ファインチューニングや自前モデルのデプロイにも対応する。
Eigen Labs
遊んでいる Apple Silicon Mac に推論を流す分散ネットワーク。リクエストは暗号化して中継され、提供者のMac所有者が中身を読めない設計。OpenAI互換API。
オープンウェイトモデルを従量課金で提供する推論API事業者。単価の安さを訴求している。
Together Computer
オープンウェイトモデルの推論APIとファインチューニング、GPUクラスタを提供する事業者。