SECURE LLM PLATFORM
オンプレミスLLM活用基盤
ソースコードも会議の音声も社外に出さず、1台のサーバーから私たちが構築・運用します。
推論基盤・検索基盤・利用画面までを1台に収める構成で、お客様の閉域ネットワーク内に構築します。オンプレミスとお客様のプライベートクラウドの双方に対応し、GPUクラスタは前提としません。
テストケース生成、コードレビュー、コード補完、社内文書からの質疑応答、議事録作成と日英中の翻訳。開発現場と会議で実際に使う場面を、利用画面まで含めて実装します。
クラウドのAIサービスをそのまま使えない現場がある
外に出せないデータがあるからだけではありません。生成AI活用の方針がある企業は約7割（令和8年版 情報通信白書）でも、業務で使えている企業は34.5%にとどまります（帝国データバンク、2026年5月・約1万社）。費用・規程・知見を含めた次の四つが、同時に効いています。
セキュリティポリシー上、ソースコードや設計書、会議の音声を外部のAIサービスへ送信できません。顧客との契約で開発データを国外に出せない場合もあり、利用の可否が技術ではなく規約で決まります。
従量課金は使うほど積み上がります。利用が定着するほど年度の予算が読めなくなり、効果が出た結果として費用が増える構造になります。長時間の会議録のように入力量の大きい用途ほど、この影響が出ます。
法令や社内規程の制約により、生成AIの活用が個人の試用や限定的な検証にとどまります。業務で使える見込みが立たないため、社内の合意形成にも進めません。
社内に導入経験と専門人材がなく、実務に足る性能がどの構成で出るのかを判断する材料がありません。過大な構成も過小な構成も、動かしてみるまで分かりません。
進め方と、始められるまでの期間
ヒアリングから運用支援までの6工程です。要件を満たす構成に収束するまで実機で測り直したうえで、運用に入ります。
上の6工程はいずれも当社が担います。専門エンジニアの手当てもGPUの調達も当社側です。
まずは小型の構成でPoCから始めます。対象業務を1〜2件に絞り、実際のデータで応答の質と処理時間を測ってから本格導入に進むため、初期投資を先に固める必要がありません。
GPUクラスタを前提にしない構成の組み方
用途を開発支援と社内ナレッジ・会議に絞り、推論基盤を一つに寄せています。銀行2件を含む3件の導入で、いずれもサーバー1台（端末1台）の構成のまま運用しています。
利用画面・応用と連携の層・検索層・推論基盤を1台に収めます。推論基盤を共通化しているため、用途を増やすときにモデルを増やす必要がありません。コードレビュー、テスト生成、社内文書検索、議事録・翻訳の4用途を同じ推論基盤で受けます。
検索の精度が足りない場合も、検索層だけを差し替えて対応できます。最初から大きく作らず、利用者数と用途の増加に応じて構成を広げます。設置形態はオンプレミスのほか、お客様のプライベートクラウド上への展開にも対応します。
コード生成・コードレビュー・文書検索・音声認識といった用途ごとに候補モデルを実機で比較し、応答・同時利用・出力の質を実測します。汎用モデルとコード特化モデルを併用する構成も含めて検討します。
要件を満たさない構成は、運用を始める前に見直して測り直します。過大でも過小でもない構成は、測らないと決まりません。
すべてを閉域に寄せることは目的ではありません。データの機密区分に応じて、閉域内で処理するものと外部のクラウドモデルへ出せるものを切り分けます。
外部へ出す側は、性能と費用に加えて、データの所在地（国内リージョンの有無）と学習への利用有無を条文で確認したうえで選定をご支援します。
使える業務
得意なのは「ソフトウェア開発支援」と「社内ナレッジ・会議」の二領域です。処理が定型的で、機密性が高く、効果を測りやすい業務ほど閉域の構成が向いています。既存のクラウド利用をやめる必要はありません。設計書・テストケース・コードのレビューを全量で回す用途は、この基盤の上で動く「HyApex ／ ローカルLLMレビュー支援」として別にご案内しています。
検索の層はベクトルデータベースと埋め込みモデル、利用画面はチャット・文書検索・IDE連携・会議の文字起こしです。5〜10名の開発チームであれば、GPU 2枚・メモリ128GBのLinuxサーバー1台が参考構成です。
費用は①ハードウェア（初期投資であって目的ではありません）②モデル・ソフトウェア（オープンソースが中心で、差し替えが可能です）③導入・運用支援（当社がお引き受けする範囲）の3要素で決まります。ランニングは定額が中心で、利用量に比例しません。長文の文書や長時間の会議でも追加の課金は発生しません。
金額は構成と規模で変わるため、汎用の価格表は出していません。同時利用者数、扱う文書の量、応答時間の要件をうかがえば、必要な構成と、その構成での実測値・参考見積をあわせてご提示します。
要求水準の高い生成や長い文脈をまたぐ推論は、クラウドのトップモデルに及びません。アカウント開設だけで初日からトップモデルを使える手軽さも、クラウドの側にあります。合わない用途は閉域に寄せず、併用でご提案します。
判断軸は性能ではなく、データの所在・費用構造・自主性の3点です。クラウドを否定するものではありません。オープンモデルのライセンスは導入時に確認し、商用利用の可否と条件を書面でご提示できます。特定のモデルが提供停止になった場合も、Gemma や Qwen など他のオープンモデルへ差し替えて業務を継続できます。
応答時間と同時利用者数は、構成と利用状況で変わります。汎用の数値としては公開していません。想定される利用人数と用途をうかがい、その条件での実測値をご提示します。ハードウェアの調達・構築・運用は当社が担いますが、設置場所と社内ネットワークへの接続はお客様側でご準備いただきます。またモデルは検証時点で最適なものを選定するため、特定の型番を固定してのご提供ではありません。
規模ごとの構成と、動いている3件
銀行2件と開発チーム1件、あわせて3件で運用しています。いずれもクラウドへの接続を持たず、推論とデータ保存はお客様の機器内で完結しています。同じ図の上に、その前後の規模で必要になる構成も置きました。
運用中の3件 ── 構成と用途
| 事例と用途 | 難易度 | ハードウェア | モデル |
|---|---|---|---|
| M社銀行 開発チーム ── 社内文書の検索QA、テストケース生成 | テストケース生成 中 検索QA 中 | Threadripper PRO 7975WX ／ RTX 6000 Ada 48GB ×2（ワークステーション1台） | Qwen3.6-35B-A3B、Qwen3-Coder-30B、BGE-M3（埋め込み） |
| M社銀行 機密会議 ── 議事録の自動生成、日英中のリアルタイム翻訳 | 翻訳 低 議事録 中 | Apple M3 Ultra（統一メモリ 512GB・80コアGPU）1台 | Qwen3.5-35B-A3B（議事録）、Qwen3.5-9B（翻訳）、Whisper-V3（音声認識） |
| T社 開発チーム ── コードレビュー、コード補完、設計書分析 | 設計書分析 中 レビューと補完 やや高 | Ryzen 9 9900X ／ RTX 5090 32GB（同一構成2台） | Qwen3.6-27B |
構成は2026年8月時点。3件ともクラウド接続なし（Ubuntu・Docker・vLLM、機密会議のみ macOS）。RTX 6000 Ada と Apple の 512GB 構成は販売終了。難易度は下の図の TCI の順。
規模ごとの構成 ── 自社で買う場合と、クラウドで借りる場合
価格は2026年9月時点の公開単価、導入3件の構成は2026年8月時点、「○○ 相当」は llm-stats.com の2026年9月の公開値。横軸＝同時に使う人数、縦軸＝パラメータ数（連続目盛り）。黒い小札の3件が運用中 ── 点はモデルごと、2行目は仕事の難易度（下の図の TCI を低・中・高に丸めたもの）。ほかは公開単価から計算した参考構成。
価格は価格.com 最安（2026年9月15日実測 ── RTX PRO 2000 16GB 176,500 円／RTX 5090 32GB 948,800 円／RTX PRO 6000 96GB 2,498,000 円）。構築費・保守費・ストレージは含まず、枚数は必要 VRAM と人数からの概算。「○○ 相当」は llm-stats.com の公開値で当社の実測ではありません ── 最下段は Qwen3.5-9B 24.7・Qwen3.5-4B 19.5・Claude Haiku 4.5 25.7（2026年9月18日再確認）。
料金は AWS 東京リージョンのオンデマンド公開単価（2026年9月時点、長期割引なし）。軸も段も列も「自社で買う」と同じ。借りるのは EC2 の機材で、推論基盤は当社が載せます ── 推論を外部の LLM 事業者に渡すわけではありません。
g6.xlarge（L4 24GB）$1.1672/h・g6e.12xlarge（L40S 48GB ×4）$15.2174/h・p5en.48xlarge（H200 141GB ×8）$79.12/h を 730 時間／月・155 円／USD で換算（2026年9月16日取得）。ストレージ・通信・運用は含まず、当社の見積ではありません。g4dn.xlarge（T4 16GB）は bf16 を持たない世代なので採っていません。
仕事ごとに、最低限どの段のモデルが要るか
仕事ごとに、必要なモデルの段と最小構成を、難易度の低い順に並べました（上端の帯の色が段）。難易度＝TCI（当社が定めた6指標の加重和、0〜100。指標と段の内訳は「!」）。 指標と重み（各 1〜5 点。TCI＝重み×(点−1)/4 の合計） I 入力の広さ 15% ── 読む情報の量、ファイル数、文脈の幅R 推論の深さ 20% ── 何段の推論・帰因・判断が要るかC コードと専門知識 20% ── コードや専門規則を本当に理解する必要があるかA 連続した操作 20% ── 道具や実行環境を続けて操作する必要があるかU 曖昧さ 10% ── 入力が曖昧で、複数に解釈できるかV 検証の手間 15% ── AI が誤ったとき、人が気づきやすいか モデルの段（TCI の範囲） L1 〜20：Qwen3.5-4B ── 基礎的な言語処理L2 21〜40：Qwen3.5-9B ── 長文・複雑な文章L3 41〜60：Gemma-4-12B ── 推論＋コードL4 61〜80：Gemma-4-26B-A4B ── 複雑な推論とコード（MoE で効率重視）L5 81〜100：Qwen3.8-27B ── リポジトリ規模のコード・Agent・端末操作 難易度の語（段と同じ境） 低 〜20 ／ やや低 21〜40 ／ 中 41〜60 ／ やや高 61〜80 ／ 高 81〜100
TCI は当社の評価値で、公開ベンチマークの点ではありません。VRAM は 4bit の重み（0.62GB／10億）＋文脈 32K ぶん 2GB。カードは価格.com 最安（2026年9月18日 ── RTX 5050 8GB 49,980 円／RTX 5060 Ti 16GB 99,980 円／RTX PRO 4000 24GB 469,800 円）、同時実行の余裕は含みません。実績が算出した段より大きいのは、同時実行の枠・1モデルで複数の仕事・余裕を見て運用するため。
同じ7枚を AWS 東京リージョンで借りた場合。借りられる一番小さい GPU が L4 24GB で L1〜L5 が全部載るので7枚とも月 約13.2万円 ── 差が出るのは購入価格に並ぶまでの月数だけ。借りるのは EC2 の機材で、推論を外部に渡すわけではありません。 指標と重み（各 1〜5 点。TCI＝重み×(点−1)/4 の合計） I 入力の広さ 15% ── 読む情報の量、ファイル数、文脈の幅R 推論の深さ 20% ── 何段の推論・帰因・判断が要るかC コードと専門知識 20% ── コードや専門規則を本当に理解する必要があるかA 連続した操作 20% ── 道具や実行環境を続けて操作する必要があるかU 曖昧さ 10% ── 入力が曖昧で、複数に解釈できるかV 検証の手間 15% ── AI が誤ったとき、人が気づきやすいか モデルの段（TCI の範囲） L1 〜20：Qwen3.5-4B ── 基礎的な言語処理L2 21〜40：Qwen3.5-9B ── 長文・複雑な文章L3 41〜60：Gemma-4-12B ── 推論＋コードL4 61〜80：Gemma-4-26B-A4B ── 複雑な推論とコード（MoE で効率重視）L5 81〜100：Qwen3.8-27B ── リポジトリ規模のコード・Agent・端末操作 難易度の語（段と同じ境） 低 〜20 ／ やや低 21〜40 ／ 中 41〜60 ／ やや高 61〜80 ／ 高 81〜100
g6.xlarge（L4 24GB ×1）$1.1672/h を 730 時間／月・155 円／USD で換算して月 132,089 円（2026年9月16日取得）。並ぶ月数＝自社で買う価格 ÷ 月額。長期割引・ストレージ・通信・運用は含まず、当社の見積ではありません。
この構成で確保できること
NEXT
ご相談は、担当者までご連絡ください。
対象を一つ指定いただければ、成果物とその検証レポートを実物としてご提示します。
この方式が有効かどうかは、件数の説明ではなく、ご自身のシステムから出てきた成果を見ていただくのが最短です。
対象を一つお知らせいただくところから始まります。