SECURE LLM PLATFORM
オンプレミスLLM活用基盤
ソースコードも会議の音声も社外に出さず、1台のサーバーから私たちが構築・運用します。
推論基盤・検索基盤・利用画面までを1台に収める構成で、お客様の閉域ネットワーク内に構築します。オンプレミスとお客様のプライベートクラウドの双方に対応し、GPUクラスタは前提としません。
テストケース生成、コードレビュー、コード補完、社内文書からの質疑応答、議事録作成と日英中の翻訳。開発現場と会議で実際に使う場面を、利用画面まで含めて実装します。
クラウドのAIサービスをそのまま使えない現場がある
外に出せないデータがあるからだけではありません。生成AI活用の方針がある企業は約7割（令和8年版 情報通信白書）でも、業務で使えている企業は34.5%にとどまります（帝国データバンク、2026年5月・約1万社）。費用・規程・知見を含めた次の四つが、同時に効いています。
セキュリティポリシー上、ソースコードや設計書、会議の音声を外部のAIサービスへ送信できません。顧客との契約で開発データを国外に出せない場合もあり、利用の可否が技術ではなく規約で決まります。
従量課金は使うほど積み上がります。利用が定着するほど年度の予算が読めなくなり、効果が出た結果として費用が増える構造になります。長時間の会議録のように入力量の大きい用途ほど、この影響が出ます。
法令や社内規程の制約により、生成AIの活用が個人の試用や限定的な検証にとどまります。業務で使える見込みが立たないため、社内の合意形成にも進めません。
社内に導入経験と専門人材がなく、実務に足る性能がどの構成で出るのかを判断する材料がありません。過大な構成も過小な構成も、動かしてみるまで分かりません。
進め方と、始められるまでの期間
ヒアリングから運用支援までの6工程です。要件を満たす構成に収束するまで実機で測り直したうえで、運用に入ります。
上の6工程はいずれも当社が担います。専門エンジニアの手当てもGPUの調達も当社側です。
まずは小型の構成でPoCから始めます。対象業務を1〜2件に絞り、実際のデータで応答の質と処理時間を測ってから本格導入に進むため、初期投資を先に固める必要がありません。
GPUクラスタ無しでも、実務は成立する
用途を開発支援と社内ナレッジ・会議に絞り、推論基盤を一つに寄せています。銀行2件を含む3件の導入で、いずれもサーバー1台（端末1台）の構成のまま運用しています。
利用画面・応用と連携の層・検索層・推論基盤を1台に収めます。推論基盤を共通化しているため、用途を増やすときにモデルを増やす必要がありません。コードレビュー、テスト生成、社内文書検索、議事録・翻訳の4用途を同じ推論基盤で受けます。
検索の精度が足りない場合も、検索層だけを差し替えて対応できます。最初から大きく作らず、利用者数と用途の増加に応じて構成を広げます。設置形態はオンプレミスのほか、お客様のプライベートクラウド上への展開にも対応します。
コード生成・コードレビュー・文書検索・音声認識といった用途ごとに候補モデルを実機で比較し、応答・同時利用・出力の質を実測します。汎用モデルとコード特化モデルを併用する構成も含めて検討します。
要件を満たさない構成は、運用を始める前に見直して測り直します。過大でも過小でもない構成は、測らないと決まりません。
すべてを閉域に寄せることは目的ではありません。データの機密区分に応じて、閉域内で処理するものと外部のクラウドモデルへ出せるものを切り分けます。
外部へ出す側は、性能と費用に加えて、データの所在地（国内リージョンの有無）と学習への利用有無を条文で確認したうえで選定をご支援します。
使える業務
得意なのは「ソフトウェア開発支援」と「社内ナレッジ・会議」の二領域です。処理が定型的で、機密性が高く、効果を測りやすい業務ほど閉域の構成が向いています。既存のクラウド利用をやめる必要はありません。
検索の層はベクトルデータベースと埋め込みモデル、利用画面はチャット・文書検索・IDE連携・会議の文字起こしです。5〜10名の開発チームであれば、GPU 2枚・メモリ128GBのLinuxサーバー1台が参考構成です。
費用は①ハードウェア（初期投資であって目的ではありません）②モデル・ソフトウェア（オープンソースが中心で、差し替えが可能です）③導入・運用支援（当社がお引き受けする範囲）の3要素で決まります。ランニングは定額が中心で、利用量に比例しません。長文の文書や長時間の会議でも追加の課金は発生しません。
金額は構成と規模で変わるため、汎用の価格表は出していません。同時利用者数、扱う文書の量、応答時間の要件をうかがえば、必要な構成と、その構成での実測値・参考見積をあわせてご提示します。
要求水準の高い生成や長い文脈をまたぐ推論は、クラウドのトップモデルに及びません。アカウント開設だけで初日からトップモデルを使える手軽さも、クラウドの側にあります。合わない用途は閉域に寄せず、併用でご提案します。
判断軸は性能ではなく、データの所在・費用構造・自主性の3点です。クラウドを否定するものではありません。オープンモデルのライセンスは導入時に確認し、商用利用の可否と条件を書面でご提示できます。特定のモデルが提供停止になった場合も、Gemma や Qwen など他のオープンモデルへ差し替えて業務を継続できます。
応答時間と同時利用者数は、構成と利用状況で変わります。汎用の数値としては公開していません。想定される利用人数と用途をうかがい、その条件での実測値をご提示します。ハードウェアの調達・構築・運用は当社が担いますが、設置場所と社内ネットワークへの接続はお客様側でご準備いただきます。またモデルは検証時点で最適なものを選定するため、特定の型番を固定してのご提供ではありません。
実際に動いている場所
銀行2件と開発チーム1件、あわせて3件で運用しています。いずれもクラウドへの接続を持たず、推論とデータ保存はお客様の機器内で完結しています。
導入3件の構成と用途
| 事例と用途 | ハードウェア | モデル |
|---|---|---|
| M社銀行 開発チーム ── 社内文書の検索QA、テストケース生成 | Threadripper PRO 7975WX ／ RTX 6000 Ada 48GB ×2（ワークステーション1台） | Qwen3.6-35B、Qwen3-Coder-30B、BGE-M3（埋め込み） |
| M社銀行 機密会議 ── 議事録の自動生成、日英中のリアルタイム翻訳 | Apple M3 Ultra（統一メモリ 512GB・80コアGPU）1台 | Qwen3.5-35B（議事録）、Qwen3.5-9B（翻訳）、Whisper-V3（音声認識） |
| T社 開発チーム ── コードレビュー、コード補完、設計書分析 | Ryzen 9 9900X ／ RTX 5090 32GB（同一構成2台） | Qwen3.6-27B |
3件いずれもクラウドへの接続を持たない構成です（2026年8月時点）。実行環境は Ubuntu・Docker・vLLM で、機密会議の1件のみ macOS のローカル構成です。銀行の2件では、物理的に隔離された自社専用の構成であることが導入判断の前提になりました。当社の受託開発プロジェクトでも同じ構成を運用しています。
この構成で確保できること
NEXT
ご相談は、担当者までご連絡ください。
対象を一つ指定いただければ、成果物とその検証レポートを実物としてご提示します。
この方式が有効かどうかは、件数の説明ではなく、ご自身のシステムから出てきた成果を見ていただくのが最短です。
対象を一つお知らせいただくところから始まります。