一、选型先看四个维度
| 维度 | 要问的问题 |
|---|---|
| 场景 | 是聊天问答、写文案，还是自动化工作流？不同场景工具不同 |
| 数据安全 | 数据能否出内网？有无合规要求？决定私有化还是公有云 |
| 集成 | 能否接企微 / 飞书 / CRM？能不能调内部 API |
| 成本 | 按席位、按调用量、还是一次性部署？算 TCO 不是单价 |
常见误区：追着”最强模型”买。多数企业场景吃的是「接上业务数据 + 工作流」，模型能力过剩，集成和落地才是瓶颈。
二、私有化 vs 云端
| 方式 | 适合 | 代价 |
|---|---|---|
| 公有云 API | 数据可外发、求快上线 | 按量付费、数据出境风险 |
| 私有化部署 | 合同 / 客户等敏感数据 | 需 GPU / 运维、模型效果折中 |
| 混合 | 通用问答走云、敏感走本地 | 架构复杂、需网关分流 |
三、私有化部署要点
- 模型选型：7B—14B 量化模型可跑在单卡，覆盖多数问答；对质量要求高再上更大模型；
- 向量库：pgvector / Milvus，和主业务库隔离；
- 网络隔离：推理服务不暴露公网，经内网网关 + 鉴权访问；
- 模型网关：统一收口各业务对模型的调用，便于限流、审计、换模型。
四、数据安全审计清单
- 入库前是否脱敏（手机号 / 金额 / 客户名）；
- 传输是否 HTTPS / 内网加密；
- 谁能访问知识库、谁能改 Prompt，权限是否最小化；
- 对话日志是否留存、是否含敏感信息、保留多久；
- 员工能否把公司内部文档粘贴到外部公共 AI（需制度 + 技术双控）。
选型与部署决定「能不能用」，安全决定「敢不敢长期用」。两者都过，才算接上了。