很多企业上大模型,预算只算了软件,上线后才发现钱花在别处。把成本拆开看,才清楚这笔钱到底值不值。
一次性投入和每月都在花的钱
一次性投入集中在场景梳理、系统对接开发、提示词与流程调试、员工培训这几块。按月花的则有两块:调用量计费,按 token 计费的商用模型 API,单价各家官方定价为准;私有化部署要承担 GPU 服务器租用或采购,租用按小时或按月计费,价格和卡型、地域波动明显,以实际报价为准。向量库和对象存储的月费看起来不多,数据量起来之后也是一笔持续支出。
语料这块的成本常被低估
文档整理、切片、标注、清洗,往往要占掉一半以上的项目工时,而且离不开业务部门的参与。技术团队单干做出来的知识库,常常和一线实际话术、真实流程对不上。有些企业还要把历史工单、合同、产品手册逐批喂进去,每批都要人工核对准确性,这部分人力成本在立项时基本没人算。
运维与人工复核的长期账
模型版本升级后要回归测试,知识库要持续更新,权限和日志要审计,这些都需要专人或外包。更关键的是人工复核成本:AI 给出结果、人来核对,核对工时未必比原来少,但出错率下降是实打实的。粗算 ROI 时,把复核工时和纠错返工一起计入,别只算省下的打字时间。
真正划算的场景,往往是一个高频、低风险、原本就靠人反复做的流程,被稳定替代掉一部分,而不是指望它一次解决所有问题。
天蓬数字科技的软件定制团队帮客户做 AI 落地时,先做场景评估再谈开发,把语料整理和复核机制一并设计进去,而不是只卖一个模型接口。