クラウドに送らないAIがB2B商談を変える——オンデバイス設計という新しい武器
先日、ソウルのスタートアップのCTOとオンラインで話をしていたとき、こんな一言が出てきました。 「うちのアプリ、ユーザーのデータをクラウドに送るたびに、欧州のコンプライアンス担当からメールが来るんですよ。毎回、毎回。」 笑い話のように話していましたが、これはもう冗談で済まない話になっています。 GDPRに始まり、日本の...
クラウドに送らないAIがB2B商談を変える——オンデバイス設計という新しい武器
オンデバイスAIの台頭が、B2B営業の現場を静かに変えつつあります。先日、ソウルのスタートアップのCTOとオンラインで話をしていたとき、こんな一言が出てきました。
「うちのアプリ、ユーザーのデータをクラウドに送るたびに、欧州のコンプライアンス担当からメールが来るんですよ。毎回、毎回。」
笑い話のように話していましたが、これはもう冗談で済まない話になっています。 GDPRに始まり、日本の改正個人情報保護法、韓国のPIPAと、データの「移動ルート」を問われる場面が確実に増えています。
そこにAppleが打ち込んできたのが、Apple Intelligenceとその中核技術「Private Cloud Compute」、そして開発者向けに整備されつつあるオンデバイスAIの仕組みです。 「クラウドに送らないAI」という選択肢が、ようやく現実的なアーキテクチャとして議論されるフェーズに入ってきました。
このコンテンツは、韓国AIスタートアップの開発者・プロダクトマネージャー、そして日本市場への進出を検討している方々に向けて書いています。
クラウドAI依存が生む「見えないコスト」
ここ数年、AIを使ったアプリやSaaSを作るとき、多くの開発チームがほぼ同じルートを通ってきました。
OpenAIやAnthropicのAPIを叩いて、テキストや画像をクラウドに送り、推論結果を返してもらう。 このパターンは手軽で、実装も早い。 ただし、コストが見えにくい形で積み上がっていきます。
まずAPIコスト。 トークン課金なので、ユーザー数とともにリニアに増えます。 プロダクトが成長するほど、粗利が圧迫される構造です。
次にレイテンシ（応答速度）。 エッジが遅い地域、特にアジア太平洋の一部では、クラウドAPIの往復で体感できる遅延が発生します。
そして、冒頭のCTOが直面していたようなプライバシー規制への対応コスト。 「どこで処理されているか」を説明できないアプリは、エンタープライズ向け営業で詰まります。
これらは別々の問題に見えますが、根っこは同じです。 「推論をクラウドAIに依存するアーキテクチャ」への構造的な依存が生んでいる課題です。
Appleのプライバシー設計が示すオンデバイスAIの方向性
Apple Intelligence（2024年秋に発表、2026年も段階的に機能追加が続いている）の設計思想を読み解くと、技術的な野心よりも、一つの問いへの答えが見えてきます。
「ユーザーの個人データを、できる限りデバイスの外に出さずに推論できるか？」
Appleが公開した「Private Cloud Compute」の技術ドキュメント（2024年10月、Apple Security Research Blog）によると、このアーキテクチャは三層で設計されています。オンデバイス処理・Private Cloud Compute・外部モデル連携（ユーザー同意時のみ）という構成で、層の選択がユーザーの同意に紐づいているという設計哲学が特徴的です。
ただ、私がここで強調したいのは技術アーキテクチャの詳細ではなく、この設計が日本のB2B商談においてどんな意味を持つか、という問いです。
韓国スタートアップが日本市場で受けるプライバシー質問のリアル
韓国のスタートアップが日本市場を見ていると、ひとつ際立ったパターンが見えてきます。
意外だったのは、データの処理場所に関する質問が、商談の「かなり早い段階」で来るという事実でした。
RINDAでは、海外営業AIエージェントを通じて韓国企業の日本市場向けB2B営業を支援しています。韓国のAIスタートアップが日本市場に売り込む際、このプライバシー設計の問いは避けて通れないと実感しています。私たちが支援してきた企業のやり取りを振り返ると、日本側の購買担当者から受けるデータ関連の質問にはいくつかの典型的なパターンがあります。
パターン①「データはどのサーバーで処理されていますか？国内ですか？」 製造業・医療周辺・金融系の企業からは、この質問が商談の第1〜2回目に出てくることが珍しくありません。「クラウド」という答えだけでは不十分で、「どのリージョンか」「Appleのサーバーか、AWSか、自社か」まで問われます。
パターン②「情報システム部門のセキュリティ審査が必要です」 これは事実上、データフロー図の提出を意味します。準備がない企業は、ここで商談が数週間止まります。
パターン③「オンプレミスでの導入は可能ですか？」 エンタープライズ規模になると、クラウド自体を避けたいという要望も出てきます。
韓国のスタートアップ開発文化では、クラウドAPI活用を前提にしてプロダクトを組み立てることが多く、「データがどこで処理されるか」をドキュメントに明示する習慣がまだ十分に定着していないケースもあります。一方、日本の大手企業では、情報システム部門がベンダー審査の際にデータフロー図の提出を標準的に求めます。この「文化的ギャップ」が、商談を遅らせる最初の壁になっています。
オンデバイスAIがB2B営業・日本市場進出を変える理由
データを見ていて、ひとつ気づいたことがあります。「クラウドに出したくない情報」を抱えている日本企業は、特定の業種に集中しているということです。
製造業の設計データ、医療周辺の患者情報、人事・給与にかかわる社内情報——これらを扱う担当者は、AIツールを評価するとき、機能よりも先にデータの流れを確認する傾向があります。
「オンデバイスAIで動く」「データが外に出ない」というプライバシー設計は、日本のB2B営業でひとつの安心材料になりえます。
逆に言えば、これまでは「クラウドAPIを叩くだけ」の設計でも通用していた場面が、エンタープライズ向けでは徐々に難しくなっていく可能性があります。 プライバシー設計を「後付け」ではなく「最初から」議論に載せるプロダクトが、日本のエンタープライズ採用で優位に立ちやすくなる、というのが私たちが観察している範囲での実感です。
開発者が今、考えておくべきこと
では、これはAppleのプロダクトを使うユーザーだけの話でしょうか。 そうは思っていません。
AppleがPrivate Cloud Computeという概念を市場に持ち込んだことで、「クラウドAIとオンデバイスAIのどちらを使うか」という問いが、アーキテクチャ議論のテーブルに乗るようになりました。 QualcommはNPU（ニューラルプロセッシングユニット）をスマートフォンやPCチップに組み込む動きを加速させています。 GoogleはPixel向けのオンデバイスAI機能「Gemini Nano」を展開中です。
つまり、オンデバイスAIはAppleの専売特許ではなく、業界トレンドとして動いています。
アプリ開発者やSaaSプロダクトマネージャーが今の段階で考えておくと良いのは、以下の三点です。
ユースケースの「機密度」を分類する
全ての推論をオンデバイスにする必要はありません。 ただ、扱うデータを「機密度が高い／そうでない」で分類する習慣をつけておくと、後の設計判断が楽になります。
たとえばチャット履歴、医療情報、社内の人事情報などは「できればデバイス外に出したくない」データの典型です。 一方、一般的なコンテンツ推薦や翻訳などは、クラウド処理でも多くのユーザーは問題を感じません。
「どこで処理されているか」をドキュメントに書く
日本市場進出において、B2B営業で詰まるポイントのひとつがここです。 「データフロー図を出してもらえますか」という依頼は、情報システム部門から必ず来ます。
これは面倒な要求ではなく、先に用意しておけば商談を加速させる材料になります。 「クラウド処理」「オンデバイスAI」「どちらも選択可能」のどれであるかを、製品ドキュメントに明記する。 これだけで印象が変わることがあります。
Appleプラットフォーム外でもオンデバイス推論の選択肢を持つ
現時点では、llama.cppやMicrosoft ONNX Runtimeなど、オープンソースのオンデバイス推論ツールが整備されてきています。 Appleのエコシステム外でも、軽量モデルをローカルで動かす選択肢は現実的になっています。
「自分たちのユースケースならどのモデルサイズが適切か」を一度試算しておくと、アーキテクチャ議論のときに具体的な話ができます。
まとめにかえて——「送らない」プライバシー設計が武器になる日
「クラウドに送らないAI」は、技術的な面白さとして語られることが多いですが、私がより関心を持っているのは商慣習の側面です。
日本のB2B市場では、データの扱いを丁寧に説明できるベンダーが、長期的な信頼を得やすい構造があります。 「うちのAIはデータをどこにも送りません」という一文が、商談の空気を変えることがあります。
AppleがPrivate Cloud Computeを設計レベルで作り込んだのは、ユーザーへのプライバシー約束を「ポリシー文書」ではなく「アーキテクチャ」で示したかったからだと読んでいます。
オンデバイスAIというプライバシー設計の選択は、アプリ開発者にとっても参考になる考え方だと思っています。
日本市場参入における技術選定について疑問や相談があれば、RINDAにてサポートしています。海外営業AIエージェントを通じた日本市場向けのゴーツーマーケット支援、プライバシー設計を踏まえた商談資料の整備など、お気軽にご相談ください。
RINDA 日本市場デスク · 韓国輸出企業向け日本市場ゴーツーマーケット担当
#オンデバイスAI #プライバシー設計 #B2B営業 #韓国スタートアップ #日本進出 #AIエージェント #AppleIntelligence #データセキュリティ #海外営業AIエージェント #日本市場進出 #海外営業 #輸出ビジネス
