カテゴリ: AI活用
約8分で読めます
最終更新: 2026年7月15日
はじめに
AI導入のご相談で、最も多くいただくお断りの理由があります。
「うちの扱っているデータは、外に出せないので」
顧客の個人情報、取引先との契約書、図面、カルテ、人事評価——。業種を問わず、この一言でAI活用の検討が止まってしまう会社を、私たちは数多く見てきました。
この理由は、決して的外れではありません。ただ、半分は正しく、半分は誤解です。そして2026年6月、その「誤解」の側を崩す動きがありました。Googleが公開したGemma 4 12Bという小型モデルが、16GBのメモリを積んだ手元のマシンで動くというのです。
本記事では、ローカルAIという選択肢が現実的になってきた背景を確認したうえで、「外に出せない」という条件を抱えた会社が、実際に何から検討すべきかを整理します。
まず、「外に出せない」の中身を分解する
技術の話に入る前に、避けて通れない確認があります。
「データを外に出せない」とおっしゃるとき、その根拠は次のどれでしょうか。
| 根拠 | 実態 |
|---|---|
| A. 法令・業法上の制約 | 本当に制約がある。要確認 |
| B. 顧客との契約・NDAの条項 | 契約書を読めば分かる。第三者提供の定義次第 |
| C. 社内規程にそう書いてある | 規程を作った当時の前提が古い可能性 |
| D. 何となく怖いから | 実は最も多い |
私たちの実感では、C と D が相当な割合を占めます。 そして重要なのは、CとDであれば、ローカルAIを持ち出すまでもなく解決することが多い、という点です。
生成AIサービスの多くは、法人向けプランと個人向けプランとで、入力データの取り扱い方針が異なります。 法人向けプランでは、入力内容をモデルの学習に使わないことを明示している事業者が一般的です。つまり、「外に出せない」の実態が「学習に使われるのが不安」であれば、適切なプランを契約するだけで要件を満たせる可能性があります。
ですので、順番としてはこうです。
- まず契約書と規程を読む（何が禁止されているのかを確定する）
- 法人向けプランの取り扱い方針で足りるか確認する
- それでも足りない場合に、ローカルAIを検討する
ローカルAIは、最初の選択肢ではなく、3番目の選択肢です。 ここを飛ばして「機密だからローカルで」と始めると、必要以上に手間とコストを抱え込みます。
そのうえで——A や B に本物の制約があり、3番目に進む会社にとって、状況はいま確実に良くなっています。
何が変わったのか — Gemma 4 12B
Googleは2026年6月のAIアップデートで、オープンモデル Gemma 4 12B を発表しました。公式発表によれば、次のような特徴を持ちます。
- わずか16GBのメモリでローカル動作する
- 新しい統合アーキテクチャに、画像認識（vision）とネイティブの音声処理を単一のシステムに統合
- 一般的なハードウェア上で、速度を犠牲にせずに高度な推論とプライベートなワークフローを実現する
- スマートなAIエージェントを、手元のノートPCに直接もたらす
ここで注目すべきは 16GB という数字です。これは特別なマシンではありません。そこそこのスペックのノートPCや、業務用のデスクトップが持っている量です。数年前まで、この種のモデルを動かすには専用のGPUサーバーが必要でした。それが、いま社内にある1台で完結しうる、というのが変化の中身です。
しかも、テキストだけではありません。画像と音声を同じシステムで扱えるという点が実務的に効きます。「外に出せない書類をスキャンして読ませる」「外に出せない会議の音声を扱う」といった用途が、ネットワークの外に出ずに成立しうるということです。
あわせてGoogleは、Gemini 3.5 Flash with Computer Use も発表しています。こちらはローカルではなくクラウド側の話ですが、デスクトップ・モバイル・ブラウザをまたいで「見て、考えて、操作する」エージェントを構築できるもので、継続的なソフトウェアテストや知識労働のような、長い工程を要する自動化での性能向上が図られたとされています。
なお、Gemma 4 12Bの性能に関する記述は、いずれもGoogleの公式発表に基づくものです。日本語での業務利用における実際の精度について、私たちMoruAppが独自に検証した結果ではありません。 導入検討にあたっては、後述のとおり自社のデータで試すことをお勧めします。
ローカルAIとクラウドAI — 何が違うのか
ローカルAIとは、AIモデルを自社の端末やサーバーの中で動かす方式です。データがインターネットを通じて外部のサービスに送られることがありません。
両者の性格の違いを整理します。
| 観点 | クラウドAI | ローカルAI |
|---|---|---|
| データの行き先 | 事業者のサーバー（プラン次第で学習不使用を明示） | 社外に出ない |
| 性能 | 最上位モデルを使える | 小型モデルが中心。最上位には及ばない |
| 費用 | 使った分だけ（従量課金・月額） | 初期にマシン代。以後の変動費は小さい |
| 止まるリスク | 事業者側の都合で止まりうる | 自社で管理できる |
| 手間 | 契約すればすぐ使える | 構築・更新・保守を自社が担う |
| オフライン | 不可 | 可能 |
ローカルAIの最大の利点は「データが出ない」ことですが、最大の欠点は「手間を自社で抱える」ことです。
ここは正直に申し上げます。ローカルAIは、タダではありません。 マシンを用意し、モデルを更新し、動かなくなったら直す担当が要ります。情報システム担当のいない会社が、思いつきで始めると、たいてい半年で誰も触らない箱になります。
向いている業務・向いていない業務
現実的な線引きをお示しします。
ローカルAIが向いている
- 外に出せないことが確定している文書の、定型的な処理（分類、要約、項目の抜き出し）
- 同じ処理を大量に繰り返す業務（変動費が小さいメリットが効く）
- オフライン環境が要る現場（工場、車両、通信が不安定な場所）
- 音声・画像を含み、かつ外に出せないもの（Gemma 4の強みが活きる領域）
ローカルAIが向いていない
- 難しい判断や、長い文脈の読み解きが要る業務 — 素直に最上位のクラウドモデルを使うべきです
- とりあえずAIを試してみたい段階 — 手間の割に成果が見えず、挫折します
- 社内に触れる人が1人もいない会社 — 保守できない仕組みは、いずれ止まります
現実的な三択
多くの中小企業にとって、答えは「クラウドかローカルか」の二択ではありません。組み合わせです。
① クラウド法人プランで完結させる
最も費用対効果が高く、最も多くの会社に当てはまる選択肢です。 契約と規程を確認したうえで、法人向けプランのデータ取り扱い方針で要件を満たせるなら、これで終わりです。ローカルAIの検討に入る必要はありません。
② ハイブリッド（現実的な落としどころ）
データの機微度で処理を振り分ける方式です。
- 個人情報や契約書の全文を含むもの → ローカルで処理
- 一般的な文書、公開情報、たたき台作成 → クラウドの高性能モデル
たとえば、「顧客名簿から個人名を伏せる前処理だけをローカルで行い、伏せた後の分析はクラウドの高性能モデルに任せる」といった設計です。機微なデータは外に出さず、それでいて難しい判断はクラウドの性能を借りられます。
私たちが「外に出せない」制約のあるお客様にご提案する際、実務的にいちばん多い着地点がここです。
③ フルローカル
法令・業法上の制約が本当に厳しい場合や、オフライン要件がある場合の選択肢です。性能と手間のトレードオフを受け入れる覚悟が要ります。
始めるなら、どうするか
ローカルAIを検討する段階に来た会社に向けて、進め方をお示しします。
- 「外に出せない」の根拠を確定する — 契約書と社内規程を読む。ここを飛ばさない
- 法人向けプランで足りないことを確認する — 足りるなら、ここで終了
- 業務を1つだけ選ぶ — 全社導入から始めない。定型的で、量があり、外に出せない業務を1つ
- 手元のマシンで試す — 自社の実データ（の一部）で、実際の精度を測る。カタログスペックではなく、自社の日本語文書で使えるかどうかが唯一の判断基準です
- 触れる人を決める — 保守の担当が決まらないなら、進めない
ポイントは4番です。ローカルで動く小型モデルは、クラウドの最上位モデルと同じ品質にはなりません。 重要なのは「最高性能か」ではなく、「その業務に必要な水準を満たすか」です。定型的な分類や抜き出しであれば、小型モデルで十分なことは珍しくありません。実際に試してみないと分かりません。
まとめ
- 「データを外に出せない」の根拠は、法令・契約・社内規程・漠然とした不安のどれか。まず契約書と規程を読んで確定させる
- 多くの場合、クラウドの法人向けプランで要件を満たせる。ローカルAIは3番目の選択肢
- GoogleのGemma 4 12Bは、16GBのメモリでローカル動作し、画像認識と音声処理を統合。ローカルAIの現実味が上がった
- ローカルAIの利点は「データが出ない」、欠点は「手間を自社で抱える」。保守する人が決まらないなら始めない
- 実務的な着地点はハイブリッド — 機微なデータはローカル、難しい判断はクラウド
- 判断基準はカタログスペックではなく、自社の実データで必要な水準を満たすか
「外に出せないから、AIは無理」——その結論を出す前に、何が本当に出せないのかを一度分解してみる価値があります。 分解した結果、多くの会社では思ったより多くのことができます。そして本当に出せないものが残ったとき、それを扱う技術の選択肢は、いま確実に増えています。
契約書と規程の確認から、業務の切り分け、実際に自社データで試すところまで、ご一緒できます。お気軽にご相談ください。
参考・出典
- Google「Google AI updates – June 2026」
https://blog.google/innovation-and-ai/technology/ai/google-ai-updates-june-2026/
本記事に記載の仕様は執筆時点（2026年7月15日）のGoogle公式発表に基づきます。Gemma 4 12Bの日本語業務利用における精度は、各社の実データでの検証をお勧めします。データの取り扱い方針は各AIサービスの契約条件により異なりますので、導入時は必ず最新の規約をご確認ください。