这篇文章也有英文版本Read in English →
公司用 AI，数据会外泄吗？自架 LLM、云端托管、订阅制三种部署方式完整比较
| 路线 | 方案 | 数据经过谁 | 月成本 / 人 | 启动时间 |
|---|---|---|---|---|
| 🍽️ 去餐厅吃 | Claude Pro / ChatGPT | AI 公司服务器 | $20（大量补贴） | 今天 |
| 🧑🍳 租厨房请厨师 | AWS Bedrock / Azure OpenAI | 你的 AWS / Azure 帐号 | API 按量计费（远高于订阅制） | 1-2 周 |
| 🏠 自己盖厨房 | Ollama + Llama / gpt-oss | 你自己的机房 | 硬件千万台币 + ML 工程师 | 数月 |
三条路的差别不是安全性高低，是你愿意为「数据不经过 AI 公司」付多少代价。
「公司的数据传到 AI，安全吗？」
「这样数据不就放到云端了？不会有外泄风险吗？」
「那我们是不是要自己架一套 LLM，数据才不会外流？」
这是我帮企业导入 AI 时最常听到的三连问。从模糊的不安，到「云端 = 不安全」，最后跳到「那就自己架」。
但自己架一套能用的 LLM 系统，光硬件就是千万台币起跳。而且你用不到最强的模型——因为 Anthropic 和 OpenAI 都不卖旗舰模型的权重。
自己架不是唯一的答案，多数情况下也不是最好的答案。这个问题归根到底只有三件事：
- 你的数据敏感到什么程度？
- 你的员工是谁？
- 你愿意为「数据不经过 AI 公司」付多少代价？
这篇把三条路摊开——成本算到具体数字，资安政策附上官方来源，帮你做出正确的决策。
想像你要让公司员工每天吃到好菜。
去餐厅吃。 你带员工去米其林餐厅。厨艺顶级、点了就上、不用管厨房。食材（你的数据）会经过餐厅的厨房处理，但餐厅有严格的卫生认证，用完后短期内就清掉，不会拿你的食谱去开分店。
租厨房请厨师。 你请同一位米其林厨师到你公司的员工餐厅煮。厨艺一模一样，但食材从头到尾只在你租的厨房里，厨师的老板（AI 公司）碰不到。代价是：外烩按原价计费，没有餐厅的套餐优惠。而且你的员工餐厅只有厨房，没有前台——员工怎么点餐？这个你要自己想办法。
自己盖厨房。 你盖一间专属厨房，自己请厨师。食材百分之百在你手上。但米其林厨师不外派——你只能请到手艺不错但没那幺顶的师傅。盖厨房要买设备（GPU）、请人维护、付水电费（机房 + 电费），而且不管有没有人吃饭，这些成本都在烧。
| 🍽️ 去餐厅吃 | 🧑🍳 租厨房请厨师 | 🏠 自己盖厨房 | |
|---|---|---|---|
| 对应方案 | Claude Pro / ChatGPT | AWS Bedrock / Azure OpenAI | Ollama + Llama / gpt-oss |
| 数据经过谁 | AI 公司服务器 | 你的 AWS / GCP / Azure 帐号 | 你自己的机房 |
| 厨师（模型） | 米其林（Opus / GPT-5） | 同一位米其林 | 家常菜等级 |
| 需要 GPU | 不用 | 不用（云端商管） | 要，很多 |
| 前端接口 | claude.ai / ChatGPT 完整接口 | ⚠️ 只有 API，没有接口 | 自己做 |
| 付费方式 | 订阅制（大量补贴） | 按量计费（API 原价） | 一次性大额 + 持续维护 |
| 不用的月份 | $20（订阅费） | $0 | GPU 还是在折旧、吃电 |
| 启动时间 | 今天 | 1-2 周 | 数月 |
来源：Anthropic Pricing、AWS Bedrock Pricing、Azure OpenAI Pricing
代表方案： Claude Pro ($20/月)、ChatGPT Plus ($20/月)、API 直接调用
这是大部分企业的正确起点。
「数据传到 AI 安不安全？」与其猜，不如拆开来看——从数据离开你的电脑、到结果回到你手上，中间到底经过什么、每一步谁能看到、风险多高：
| 步骤 | 做了什么 | 谁能看到数据 | 风险 |
|---|---|---|---|
| 1. 加密打包 | 数据变密文离开电脑 | 没有人 | 极低 — 跟网络银行同技术 |
| 2. 到达服务器 | 进入 Anthropic AWS 机房 | 没有人 — 机器自动接收 | 低 — 通过国际资安稽核，同等级银行机房 |
| 3. 安全检查 | 自动进程扫描 | 没有人 — 除非触发违规警报（仅在要求 AI 产出严重违法内容时才会触发，如暴力、犯罪教唆等。一般商业文书作业不可能触发） | 低 |
| 4. 模型推论 | AI 读数据、生成回应 | 没有人 — 纯机器 | 低 — 不训练、不保存到模型 |
| 5. 回传结果 | 加密传回电脑 | 没有人 | 极低 |
※ 服务器端会暂存加密的处理纪录，依方案不同保留 7-30 天后自动删除，一律不用于模型训练。访问有严格权限管控，只有法院命令才能调阅。
来源：Anthropic Certifications、Anthropic — Data Retention
大部分企业员工每天都在用 Google Workspace 处理公司数据。两者的资安等级其实很接近：
| 项目 | Claude API | Google Workspace（企业版） |
|---|---|---|
| 数据加密传输 | ✅ | ✅ |
| 云端数据保留 | 7-30 天后自动删除（依方案） | 永久保存（除非主动删除） |
| 用于训练 / 改善服务 | 否（合约明确保障） | 否（企业版合约明确保障） |
| 安全认证 | SOC 2 Type II + ISO 42001 | SOC 2 + ISO 27001 + FedRAMP |
| 人类会看到内容 | 不会（除非法院命令或安全违规） | 不会（企业版合约保障，除非法院命令） |
差异在保留时间——Claude 自动删除，Google 永久保存。你已经接受云端服务的安全等级了，Claude 的保护至少不比它差。
这是多数人不知道的——订阅制是吃到饱（有速率限制），API 是按量计费。同样的使用量，API 费用远高于 $20/月的订阅价。
AI 公司在订阅制上大量补贴，目的是养成用户习惯。OpenAI CEO 公开承认订阅方案正在亏钱，因为用户使用量超出预期。
这代表什么？如果你让员工用 Claude Pro 或 ChatGPT Plus，每人 $20/月就能大量使用（用太快会有冷却期，但日常工作绰绰有余）。但如果你走 Bedrock / Azure OpenAI 的 API 按量计费，同样的使用量要贵很多——因为 API 没有补贴。
后面讲第二条路时会再回来看这个差距。
- 一般商业文书、行政作业、内容产出
- 非高度监管产业
- 想要最快启动、最高性价比的企业
- 启动时间：今天
代表方案： AWS Bedrock（Claude）、Azure OpenAI Service（GPT）、GCP Vertex AI（Claude）
这是最多人搞错的地方。Bedrock 不是「买一套 Claude 回来装在自己的服务器」。
回到厨师的比喻：厨房是你跟 AWS 租的，厨师是 Anthropic 派来的。 食材（数据）从头到尾在你的厨房里，厨师的老板（AI 公司）碰不到。
你不需要碰 GPU、不需要管模型、不需要懂机器学习。就跟用 AWS 上的任何其他服务（S3、RDS）一样，只是多了一个 AI 的 API endpoint。帐单也是跟 AWS 结，不用另外付 Anthropic。
关键差异是：数据的进出口绑在你的 AWS 帐号里，Anthropic 看不到。
Anthropic 在官方文档里写得很明确：
“The technology provided by Anthropic to AWS to enable Customer’s access to the Services does not give Anthropic access to Customer’s AWS instance, including Prompts or Outputs.”
翻译：Anthropic 无法访问你在 AWS 里的任何东西，包括你问的问题和收到的回答。
来源：Claude on Amazon Bedrock、AWS Bedrock Data Protection、Azure OpenAI Data Privacy
Bedrock 上的 Claude 定价和 Anthropic API 一模一样：
| 模型 | Anthropic API | AWS Bedrock |
|---|---|---|
| Sonnet 4.6 Input | $3 / M tokens | $3 / M tokens |
| Sonnet 4.6 Output | $15 / M tokens | $15 / M tokens |
| Opus 4.6 Input | $5 / M tokens | $5 / M tokens |
| Opus 4.6 Output | $25 / M tokens | $25 / M tokens |
帐怎么走？你只付 AWS 帐单，不需要另外付 Anthropic。AWS 和 Anthropic 在后面自己拆帐，跟你无关。
来源：AWS Bedrock Pricing
看起来没差？别忘了前面算过的补贴差距——订阅制是吃到饱，Bedrock 是按量计费。同一个员工同样的使用量，Bedrock 的费用会远高于 $20/月的订阅价。这就是让数据留在你自己云端帐号的代价。
如果公司本来就在用 AWS，云端环境的费用是既有成本，不算添加。但 token 费用是真金白银多出来的。
很多企业评估到「Bedrock 比较安全」就决定用了。但他们漏了一个问题：
Bedrock 只有 API，没有聊天接口。
Claude Pro 有 claude.ai——打开浏览器就能聊天、上传文档、管理对话。Bedrock 什么都没有，只有一个 API endpoint。
| 用户类型 | 有没有前端问题 | 怎么解 |
|---|---|---|
| 一般员工 | ⚠️ 有 — 不会用 API | 要自建或买第三方接口（Typingmind、Librechat 等），开发 + 维护成本远超 $20/月 |
| 工程师用 Claude Code | ✅ 没有 — CLI 本来就不需要前端 | 两个环境变量就能切换到 Bedrock |
| 系统自动化 | ✅ 没有 — API 对 API | 本来就不需要人用的接口 |
我见过的案例：老板说「Bedrock 比较安全，我们用 Bedrock」。IT 收到需求，开始开发内部聊天接口。两个月后接口还在做，员工还是没有 AI 可以用。原本想解决的效率问题，反而多卡了两个月。
如果你的团队本来就在用 Claude Code，Bedrock 反而是最干净的路——因为 Claude Code 是 CLI，不需要前端。只要设两个环境变量就能切换到 Bedrock，其他使用方式完全不变。IT 设好 AWS IAM 权限，工程师就能用，数据走公司 AWS VPC，Anthropic 碰不到。
来源：Claude Code on Amazon Bedrock
数据处理环境必须在已通过内部合规审计的基础设施上，不能多一个新的外部供应商——这是走 Bedrock / Azure OpenAI 的内核理由。如果你的 AWS/Azure 已经在核准名单上，加一个 Bedrock 比重新审计 Anthropic API 简单得多。
但要有心理准备：Bedrock 走的是 API 按量计费，没有订阅制的补贴，同样的使用量成本会高出不少。这是合规的代价。
- 已有 AWS / GCP / Azure 且有合规需求的企业（金融、医疗等）
- 工程团队用 Claude Code（最无痛的组合）
- 启动时间：1-2 周（IT 设置）
代表方案： Ollama + Llama、gpt-oss、vLLM 推论引擎
先讲一个很多人不知道的事实。
你没办法「买一套 Claude Opus 装在公司机房里跑」。同样的，GPT-5 也不行。
不管 Anthropic 还是 OpenAI，最强的模型权重都不对外发布。
| 模型 | 能不能下载回来自己跑？ |
|---|---|
| Claude Opus / Sonnet | ❌ 不卖 |
| GPT-5 / GPT-5.4 | ❌ 不卖 |
来源：anthropic.com/company、OpenAI GPT-5 Models
想自建？只能用模型。
| 模型 | 来源 | 参数量 | 硬件需求 | 能力 |
|---|---|---|---|---|
| gpt-oss-120b | OpenAI (Apache 2.0) | 117B（MoE, 5.1B active） | 单张 H100 (80GB) | AIME 2025: 97.9%（超越 o4-mini）、SWE-bench: 62.4%（o4-mini: 68.1%） |
| gpt-oss-20b | OpenAI (Apache 2.0) | 21B（MoE, 3.6B active） | 16GB GPU（需 MXFP4 量化） | 接近 o3-mini |
| Llama 3.1 405B | Meta | 405B | 多张 GPU | 中上 |
gpt-oss-120b 在数学上超越 o4-mini，但软件工程略输。整体接近打平。不差，但跟 Claude Opus 或 GPT-5 比仍有明显差距。
来源：OpenAI gpt-oss、gpt-oss Model Card
API 和订阅制是用多少付多少——这个月没人用，费用是 $0。
自建不是。GPU 买了就在折旧、在吃电，不管有没有人用。
| 成本项目 | 概估 |
|---|---|
| GPU 硬件（H100 一张） | ~$30,000-40,000 USD |
| 跑大型模型的 GPU 需求 | 数张到数百张，看模型大小 |
| ML 工程师 | 年薪百万台币以上 |
| 电费、机房、散热 | 持续性支出 |
| 模型更新 | 每次新版本手动重新部署 |
| 前端接口 | 自己开发 + 持续维护 |
gpt-oss-120b 只需要一张 H100 就能跑，门槛比以前低很多。但如果你要服务整个公司的员工、需要多 instance 并行，硬件需求会快速上升。
- 法规明确禁止数据离开内网（国防、特定政府机关）
- 有自己的 ML 团队和 GPU 集群
- 能接受模型能力不如旗舰的 trade-off
- 启动时间：数月
你的数据敏感到什么程度？ │ ├─ 一般商业数据 │ → 去餐厅吃：Claude Pro / ChatGPT，$20/月/人 │ （API 安全措施与 Google Workspace 企业版同等级） │ ├─ 有合规需求（金融 / 医疗 / 个资法） │ → 租厨房请厨师：Bedrock / Azure OpenAI │ │ │ ├─ 员工是一般人 → 要解决前端问题，成本高 │ └─ 员工是工程师 → Claude Code + Bedrock，最干净 │ └─ 数据不能离开自己的机房 → 自己盖厨房：模型 + 自有 GPU （千万台币起步，模型能力打折）| 你的员工是谁 | 最佳方案 | 原因 |
|---|---|---|
| 一般员工（行政、行销、业务） | Claude Pro / ChatGPT | 完整接口、补贴最多、马上能用 |
| 工程师 / 开发团队 | Claude Code（可走 Bedrock） | 不需前端，Bedrock 可数据隔离 |
| 系统自动化（客服、报告） | API 或 Bedrock API | API 对 API，用量可控 |
| 国防 / 晶圆厂 IT | 自建模型 | 法规要求 |
以下是我的个人观点。每个论点附有来源，你可以自己判断。
我在帮企业导入 AI 时推荐 Claude，不只是因为模型能力。
Claude 的开发公司 Anthropic 是目前主要 AI 公司中对安全立场最强硬的：
- 2026 年 2 月：美国国防部要求 Anthropic 移除合约中「禁止用于自主武器」和「禁止大规模监控」的条款。Anthropic CEO 公开拒绝，表示「无法昧着良心同意」。国防部因此将 Anthropic 列为「供应链风险」，下令所有联邦机构停用 Claude，预估损失数十亿美元营收。Anthropic 选择接受损失，并于 2026 年 3 月对美国政府提起诉讼。
- 公司创立背景：Anthropic 由前 OpenAI 研究员于 2021 年创立，正是因为认为 OpenAI 将商业利益置于安全之上。他们的 Responsible Scaling Policy v3.0 公开可查。
一家公司愿意为了安全原则放弃数十亿美元的政府合约，这代表他们对数据保护的承诺不只是写在纸上。
来源：ABC News、TechPolicy.Press Timeline、EFF Analysis
Claude 不只安全，在企业导入上也是目前的市场领导者：
| 指针 | Claude (Anthropic) | ChatGPT (OpenAI) |
|---|---|---|
| 企业市占率 | 约三分之一 | 约 25% |
| Fortune 10 采用率 | 10 家中有 8 家 | — |
| 年花费 >$100 万的企业客户 | 500+ 家 | 未公开 |
| 年化营收（2026/2） | $14B | $25B |
来源：Fortune、Anthropic Series G、Yahoo Finance
大部分企业不需要花千万台币自建 LLM，就能得到足够的数据保护。
你的员工每天都在用 Google Workspace，那也是云端，安全等级跟 Claude API 相当。真正的问题不是「要不要上云端」，是你愿意为「数据不经过 AI 公司」付多少代价。
| 你的答案 | 走哪条路 | 成本 |
|---|---|---|
| 不需要特别多 | Claude Pro / ChatGPT | $20/月，今天开始 |
| 数据不能经过 AI 公司 | Bedrock / Azure OpenAI | API 按量计费（远高于订阅制），需自建前端接口，1-2 周起 |
| 数据不能离开我的机房 | 自建模型 | 千万台币起，数月启动 |
选错路的代价不是不安全——是员工等了半年，还是没有 AI 可以用。
部署方式选好了，下一个问题是怎么开始——企业导入 AI 工作流，为什么总是卡在第一步？记录了我在企业现场做 AI 工作流导入时，实际遇到的瓶颈和突破方式。
常见问题
- 企业用 AI 数据会外泄吗？
- 取决于你选的部署方式。API 直接调用时，数据会经过 AI 公司的服务器，但全程加密且商业用户数据不用于训练。云端托管（如 AWS Bedrock）的数据留在你自己的云端帐号，AI 公司看不到。自建模型则数据完全在你自己的机房。三条路的安全等级不同，成本也差很多。
- AWS Bedrock 是自建 LLM 吗？
- 不是。Bedrock 是 AWS 的托管服务，模型由 Anthropic 提供并跑在 AWS 的 GPU 上。你不需要管硬件、不需要懂 ML。差别在于数据的进出口绑在你的 AWS 帐号里，Anthropic 无法访问。
- Claude Pro 和 Claude API 的数据保留政策有什么不同？
- API（商业条款）数据保留 7 天后自动删除，且不用于训练。Pro 个人方案在关闭训练选项时保留 30 天，打开训练时最长 5 年。企业用 API 商业条款最严格。
- 自建 LLM 可以跑 Claude 或 GPT-5 吗？
- 不行。Anthropic 和 OpenAI 都不发布旗舰模型（Claude Opus、GPT-5）的权重。想自建只能用模型如 Meta 的 Llama 或 OpenAI 的 gpt-oss 系列，能力与旗舰模型有落差。
- 订阅制和 API 按量计费差多少？
- 订阅制是吃到饱（有速率限制），API 是按量计费。同样的使用量，API 费用远高于订阅价。AI 公司在订阅制上大量补贴，所以让员工日常使用 AI，订阅制的性价比远胜 Bedrock。
