选型先定一条主线,别被架构图带跑偏
我们做企业 AI 落地这几年,踩过最深的坑,不是在"选哪个模型"上翻车,而是好几个项目跑下来,才发现从一开始就没有一条主线——工具越上越多,能力反而越散,到最后谁也接不住。这篇不是来给你列标准答案的,是我们自己交过的学费,讲给正在选型的人听。
下面这套判断,是从我们陪客户落地的项目里,一次又一次撞出来的。它是一套我们自己用的实践框架,不是什么外部行业标准;你的组织数据现状、合规要求、团队能力未必和我们一样,具体口径请结合你自己的情况调。
先定主线,再选工具

我记得很清楚,我们最早介入一个客户的 AI 办公助手项目时,对方技术负责人第一件事就是拉了一张特别漂亮的架构图:大模型、向量库、Agent 框架、工作流平台,一排排标得整整齐齐,然后追着问"现在哪个大模型最火"。
我们当时也顺着这个节奏走了一阵。结果很快露馅——这些工具彼此不连通,客户的知识散在好几个系统里被切碎,没有统一入口,流程也没有统一编排。表面看"什么都有",实际是"什么都不通"。 这个项目后来花了远超预期的时间,才把主线重新理清楚。
那次之后我们给自己定了一条:选型第一步不是挑模型,是先把边界条件写出来。 合规要求是什么?数据能不能出域?性能边界在哪?团队到底有没有运维私有化集群的能力?边界列清楚了,再去筛平台。主线清晰了,工具才放得进去;主线没有,工具越多越乱。
部署方式别追潮流,先看数据分级,再谈性价比
我们最早帮客户搭 AI 的时候,也走过"一刀切"的弯路——要么全都上公有云图省事,要么一听"安全"就全量私有化。后来在好几个项目里反复对比,我们才把这件事想明白:部署方式不是单纯的成本题,也不是单纯的安全题,关键是先把手里的数据按敏感度分好类,再按场景去匹配性价比最高的架构。
我们自己的经验是,按场景拆开看反而简单:
- 低敏感度场景,比如内部知识问答、办公流程辅助、对公开材料的初稿生成——这类调用的数据本来就不涉密,直接走公有云 API 是成本最低的选择。我们给不少客户算过账,这类场景硬上私有化,光算力和电费等投入就把预算吃没了,不划算。
- 高敏感度业务、或者身处强监管行业的场景,比如涉及核心客户信息、内部风控口径、受监管的业务数据——这类就必须私有化部署。但私有化这件事,我们踩过坑才知道它不只是"买几台机器":硬件投入是一笔,大模型本身的更新迭代成本是一笔,后面 AI 智能体怎么搭、数据治理团队能不能跟上,都是要提前掂量的事。 技术能力接不住,私有化反而成了甩不掉的包袱。
所以现在我们给客户的建议很朴素:别用一种部署方式硬套所有场景,用不同的部署应对不同的事。 低敏的用公有云把成本压下来,高敏的该私有化就私有化,但动手之前先把硬件、迭代、团队能力这几本账算清楚——这件事我们交过学费,真心建议你先把自己团队的家底摸一遍,再下判断。
四类平台分层看,别指望一个"全家桶"
大模型、工作流平台、Agent 平台、知识库平台,在我们早期的理解里,常被混成一锅。我们当时的直觉是"找一个功能最全的平台一把梭",结果每一层都不深,集成的时候互相打架。
后来我们把这四类的职责拆开,才真正理顺:
- 大模型:负责理解和生成,是"大脑",但它不天然懂你的业务知识和流程。
- 知识库平台:负责把企业自己的制度、案例、口径管起来,是"记忆",解决"大模型的生产资料"的问题。
- 工作流平台:负责把任务串成可控的步骤,是"骨架",解决"流程不乱"的问题。
- Agent 平台:负责在受控边界内自主执行子任务,是"手脚",但必须有明确的人工复核和升级机制。
我们现在的做法是:先把四类职责拆开看清楚,再决定哪些自研、哪些采购、哪些共建。 而不是赌一个平台能替你把一切搞定。这条路我们走过弯,所以把它写进方法论里,提醒自己,也提醒你。
供应商锁定,是选型时最容易忽略的隐藏成本
这个坑,是我们自己在一次替换模型时狠狠摔的。当时为了快,直接用了某家闭源平台的 Agent 工具、知识库和工作流,等我们想换一家做国产化适配时,才发现数据导出困难、提示词和工具生态全绑死在上面,替换成本指数级上升,议价能力直接归零。
从那以后,我们把"退出治理"当成选型的前置条件,而不是事后补救:
- 锁定识别:先把模型、SDK、API、数据格式、向量库、提示与工具生态列出来,看清绑在哪。
- 尽调材料:供应链清单、第三方组件、数据流、分包方、版本和漏洞披露机制,要问清。
- 合同控制:数据用途与删除、模型训练授权、审计配合、事件通报、可用性和退出支持,写进合同。
- 退出方案:替换路径、数据和配置导出、双跑验证、切换阈值、回滚与终止条件,提前备好。
选型时就要为"换得掉"留后路。 这件事我们交过学费,真心建议你在签合同之前就把这一栏填了。
什么时候必须停手
- 有人提出"直接用最火的那个模型/平台"时——先问边界条件,别追热点。我们当初就是顺着热点走的。
- 部署方式想"一刀切"、没先按数据敏感度分级时——低敏的公有云、高敏的私有化,分场景最划算。
- 想用"一个全家桶包揽所有"时——先拆四类职责,再谈整合。
- 供应商锁定毫无预案时——换不掉的成本,是最贵的成本。我们替你记着这条。
落地前,先问自己三个问题
- 你的选型,是从"边界条件"开始,还是从"哪个最火"开始?
- 你的数据按敏感度分好级了吗?低敏的走公有云、高敏的走私有化,还是一种方式硬套所有?
- 如果明天要换掉这个平台,你的退出路径通不通?
互动
上面这些,都是我们自己在项目里交过的学费,不是从哪本手册抄来的。我们在企业 AI 落地里沉淀了一套《技术选型表》《部署方式说明》《平台能力清单》的最小可用模板,已经放到知识星球,供你对照着把选型主线理一遍。你踩过最深的坑是哪个——是追了热点、栽在部署方式上,还是被供应商锁死?留言或到星球里说,我接着聊。
参考资料

- 内部实践:CheersAI 企业 AI 落地方法论中「模型、平台与部署方式选型」及「供应商锁定与退出治理」一节——本文框架来源。
- 外部参照:企业 AI 平台选型的通用实践与供应商治理经验(作为背景参考,具体字段与口径以各组织内部制度及合同为准,不引申为外标)。