74/100
コマンド1つでオープンウェイトモデルをローカル実行できるランタイム。OpenAI互換のローカルAPIサーバーとしても動作する。
ローカル処理ローカル実行API
一部検証・26日前
読み込み中
開発元: Google
Google のオープンウェイトモデル。小型サイズが充実しており、ノートPCでのローカル実行の入口になりやすい。
| 重みの公開 | 公開されている |
|---|---|
| ライセンス | Gemma Terms of Use |
| パラメータ規模 | 1B / 4B / 12B / 27B |
| 無検閲派生の流通 | 派生モデルが流通している |
| 情報の状態 | 未検証 |
コマンド1つでオープンウェイトモデルをローカル実行できるランタイム。OpenAI互換のローカルAPIサーバーとしても動作する。
GUIでモデルを検索・ダウンロードし、ローカルで実行できるデスクトップアプリ。OpenAI互換のローカルサーバー機能を持つ。
オープンソースのローカルAIデスクトップアプリ。ローカルモデルの実行と、外部APIの接続の両方に対応する。
Hashforest Technology
TEE（Trusted Execution Environment）上でAIワークロードを実行することを中核に据えたクラウド。推論API・コンテナ実行の両方を提供している。
OpenAI互換の単一エンドポイントで多数のモデルを中継するゲートウェイ。通常経路のほかに、Tinfoil・Chutes・RedPill といった別事業者のTEE経路を「Private/TEE」カテゴリとして束ねている。
Featherless, LLC（米デラウェア州）
Hugging Face のオープンウェイトモデルを2万件規模でホストするサーバレス推論API。無検閲・Abliterated系をカタログの正式なカテゴリとして扱っている。
Hashforest Technology LLC
複数のTEE事業者が提供する推論を1つのAPIにまとめるゲートウェイ。Phalaと同じ会社が運営しており、TEE付きのモデルと通常のクローズドモデルを同じカタログで扱う。
OpenSecret
エンドツーエンド暗号化を前面に出した個人向けAIチャット。公式のローカルプロキシ（Maple Proxy）を挟むと、OpenAI互換のクライアントからそのままエンクレーブ内のモデルを呼べる。
PayPerQ
登録不要・従量課金のAIサービス。数百のモデルをWebアプリとOpenAI互換APIの両方で提供し、モデルごとに「匿名 / ZDR / エンドツーエンド暗号化」の3段階をカタログ上で宣言している。
Nillion
秘密分散・MPC（多者間計算）を基盤とする分散ネットワーク。データを平文に戻さずに計算することを目指す方式で、AI推論への応用も提供している。
Eigen Labs
遊んでいる Apple Silicon Mac に推論を流す分散ネットワーク。リクエストは暗号化して中継され、提供者のMac所有者が中身を読めない設計。OpenAI互換API。