业务场景 / 长尾问答
企业上AI这件事,八成的失败发生在第一步:老板问的是能不能用起来,供应商答的是我们有大模型。两句话根本不在一个频道上。机器能不能帮你干活,跟模型多强关系不大,跟你厂里的资料是不是一堆躺在各人电脑里的word、有没有人能说清哪份是最新版,关系大得多。
我们自己这两年就在把这条路走一遍,不是给客户吹的PPT,是自己的活。踩过的坑和跑通的环节,摊开讲讲,比听十场发布会有用。
先说清楚RAG到底是什么
现在但凡讲企业AI,绕不开一个词叫RAG,中文一般译成检索增强生成。名字唬人,机制很土。
大模型本身像一个博览群书但没进过你公司的顾问,你问他行业通识他答得头头是道,你问他你们厂去年那个客户投诉是怎么处理的,他只能编。RAG干的事,就是在他张嘴之前,先去你自己的资料库里把相关的几段翻出来,塞到他面前,让他照着这些材料回答。
所以RAG的效果上限,不在模型,在你递过去的那几段材料准不准。资料库是垃圾,模型再强也只是把垃圾复述得更流畅。这就是为什么很多企业上完AI觉得像个玩具:它没被喂过你这家公司真正的知识。
第一步不是选模型是把资料变成能被检索的东西
我们自己动手时,第一件事是把散在各处的东西归拢:历史方案、诊断报告、会议纪要、老板的录音、案例复盘。这些原本以PPT、Word、录音文件的形式散在十几个人的电脑里。
归拢之后要做三件很枯燥的事。第一是格式统一,各种文件转成机器好读的纯文本,PPT里的图和表尤其麻烦,那里往往藏着最值钱的方法论。第二是分级,不是所有资料都配进库,老板的原始判断、真实项目复盘是高价值,网上抄来的行业报告是噪音,分不清等级,检索出来的就全是废话。第三是切块,一份三万字的报告不能整块塞给模型,要按语义切成小段,切得太碎丢上下文,切得太大掺杂质,这里没有标准答案,只能拿自己的问题反复试。
这三件事没有任何炫技成分,占掉的时间却是整个项目的一大半。老板要有心理准备:企业AI落地,八成工作量是资料工程,两成才是所谓的AI。
录音是被严重低估的一座矿
有个环节值得单独说。很多企业最值钱的知识从来没有落成文字,它在老板嘴里、在老师傅嘴里、在客户会议的争论里。
我们后来把老板的演讲、访谈、客户会议全部转成逐字稿,再整理成结构化的纪要进库。本机一块消费级显卡跑开源的语音转写模型,八十分钟的录音六分钟出稿,成本几乎为零。这一步打开之后,库里第一次有了别人抄不走的东西:这家公司特有的判断方式和话术。
对制造业老板,这个思路可以直接搬。你厂里那些老师傅的经验,与其指望他们写成SOP,不如把他们讲的过程录下来转成文字,再让懂行的人整理。人不爱写字,但都愿意讲。
跑通之后要接到具体活上不然就是玩具
资料库能检索了,接下来要回答一个问题:它到底替谁干哪件活。这一步不定死,AI永远停在人人称赞、无人使用的阶段。
我们给它定的活很具体:客户材料进来,它做初步诊断,从库里召回相似的历史案例,出一份初步方案的初稿。这件事以前顾问要花两三天,现在初稿几分钟出来,顾问的时间挪到判断和打磨上。别误会,它不能替代顾问,出的稿必须有人改,客户的具体事实必须人工注进去,否则一股模板味。但它把顾问从翻旧文件里解放出来了,这就是真价值。
选活有三条经验。第一,选那些答案就在你自己资料里的活,别选需要拍板的活。第二,选高频重复的活,一年干三次的事不值得为它上系统。第三,选出错代价可控的活,初稿写歪了人能看出来,报价算错了就是事故。
对制造业,符合这三条的活其实不少。客诉回复的初稿,答案在历史客诉库里;新员工问工艺参数,答案在作业指导书里;报价前查这个客户以前给过什么价、有过什么纠纷,答案在往来记录里。这些都是天天有人问、答案在库里躺着、答错了也有人兜底的活。反过来,让它决定要不要接一张单、判断某个供应商能不能用,就属于自找麻烦。
老板最该管的三件事
这套东西的成败,老板管三件事就够,别陷进技术细节。
第一件是谁来喂资料。资料库不是一次性工程,是要天天喂的。新的项目复盘、新的录音、新的案例,谁负责整理进库,进库前谁把关质量,这个岗位不明确,库会在半年内变成一潭死水。这跟当年上ERP一模一样,系统不会死于代码,会死于没人维护主数据。
第二件是允不允许失败。前三个月的产出一定难看,答非所问、召回一堆不相关的东西,都正常。这时候老板要么给时间调,要么当场判死刑。判死刑很省事,代价是明年再看着同行用起来干着急。
第三件是别买大套餐。市面上一套企业AI报价从几万到上百万都有,多数中间商卖的是把开源模型包一层界面。真正要花钱的地方是资料整理的人力和一块能跑模型的显卡,这两样加起来,比很多报价单便宜得多,而且资产在你自己手里。
数据别随便往外送
还有一条底线要提前想清楚:你的方案、客户资料、报价逻辑,是不是愿意上传到别人的服务器。
写春秋选的路是本地跑,自己的显卡、自己的模型、自己的库,数据不出门。这条路前期折腾,好处是往后不用担心哪天供应商涨价或者关停,也不用跟客户解释你们的资料在哪。制造业老板尤其要算这笔账,图纸、工艺参数、客户名单,这些东西一旦进了别人的云,就再也说不清了。
如果只想先试试水,可以先用公开模型跑不敏感的场景,比如整理会议纪要、写通用文案;等验证了确实有用,再把核心资料的那部分挪到自己机器上。分两步走,不必一步到位。
从写春秋的落地经验看
回头看这条路,最反直觉的一点是:AI落地的难度从来不在AI。模型是现成的,代码是开源的,真正卡人的是那些老掉牙的管理问题:资料有没有人管,知识愿不愿意共享,老师傅肯不肯把经验交出来,老板给不给试错的窗口。这跟上ERP、上MES踩的坑是同一批坑,只是换了个更时髦的名字。
所以老板下次再被问要不要上AI,可以先反问自己三个问题:我们最值钱的知识在不在文字里,谁负责天天喂它,第一件让它干的活是什么。这三个问题答得出来,剩下的都是技术细节;答不出来,买什么系统都是白花钱,越贵的越亏。