（来源：上观新闻）

8月底，工信部中国信息通信研究院公布了一份检测报告。上海原点星辉科学技术有限公司（下简称StartLux）研发的本地大模型StartLux-V1.0-27B-Preview，在可信AI大模型基准测试——MCP专项测试中，以27B的参数量取得综合性能排名第二的成绩。第一名的DeepSeek-V4-Pro模型规模高达1.6万亿参数。

几乎同期，国内外的动作频频。8月，Meta发布了30B本地模型Muse Glimmer，扎克伯格高调宣称AI应走向本地；云端巨头Perplexity AI宣布进入本地模型市场；9月初，北京大学“出品”的元空AI联合惠普在上海发布端侧模型产品，让35B的模型跑在可断网的电脑上。

“AI圈”正在重新审视一条曾被轻视的技术路线：更轻量的本地模型，到了崛起的时机吗？

小模型追平“大块头”

过去三年，AI行业笃信“越大越好”，最直接的竞争方式是扩大参数、增加算力和训练数据。不过StartLuxCTO、语生科学首席科学家郭权玮却发现，当基础模型能力不断提升之后，能进入用户工作流的应用却没有同步增加。

郭权玮一直在研究如何提高模型的“智能密度”，通过架构、训练和系统协同，让有限规模模型释放更强能力，并在真实任务上逼近更大规模的云端模型。中国信通院的测试结果显示，StartLux以Qwen3.6-27B为基座，通过自主设计的后训练优化技术，把一个27B的本地模型推到了与1.6T旗舰同级的位置。“我们采用AI训练AI的方法自主开展训练实验，并通过反馈持续优化训练策略。”他表示，这一方法也代表了当前全球模型研发的前沿方向。

有业内专家判断，模型能力的竞争正在从“参数量军备竞赛”转向“智能密度竞赛”，而本地模型的进步速度远超硬件。2023年，最佳本地模型对前沿模型的胜率或平局率仅为23.2%，2025年就攀升至71.3%，每年提高约20个百分点。到2026年，由另一个本地AI为任务挑选的最优本地模型，这个数字将接近90%。

“三条曲线在今年交汇，打开了端侧AI的窗口。”北京大学AI联合实验室主任、元空AI创始人兼CEO逄大嵬认为，一方面，小模型的智能密度快速提升，今天35B参数的模型已达到一两年前云端大模型的能力，另一方面，Agent的脚手架能力走向成熟，同时端侧芯片算力持续增长，本地化浪潮是模型能力、任务执行框架和底层算力三重力量同步成熟的结果。就在这几天，元空AI在上海发布Boxer端侧模型，涵盖27B稠密和35B-A3B稀疏版本，智能密度已能追平一年半前的云端标杆，这意味着本地设备已具备承载高质量模型并高效执行任务的能力。

盛大网络联合创始人、StartLux创始人兼CEO陈大年做了一个生动的类比：“人的大脑就这么点容量、这么点功耗，却产生了人类辉煌的文明；同样水平的能力，现在的大模型却要靠巨大的参数量去堆，这应该是策略上出了问题。”他判断，在95%的场景下，未来本地模型的能力一定可以打平云端模型，3年内本地模型会占据80%的市场。

“离线可用”为端侧模型提供商机

无独有偶，全球巨头也开始关注本地模型的可能性。8月10日，Meta 发布30B本地模型Muse Glimmer，主张AI应走向本地。8月25日，头部云端AI公司 Perplexity AI宣布进入本地模型市场，推出多模型编排智能体数字员工“Perplexity Computer”的本地化版本。

在专家看来，本地模型定制需求的上升与企业需求有关。逄大嵬认为，云端大模型在落地时会面临几个现实问题，首先是数据安全考量与隐私考量，“今天你把企业的数据全部丢到云上跑一圈，包括个人的隐私数据、企业的财务数据、制造业的敏感数据，这真的安全吗？”IDC报告指出，欧盟《AI法案》与中国《个人信息保护法》配套标准已明确要求涉及敏感信息的AI处理“原则上应在本地完成”。

逄大嵬认为，成本的骤升和稳定性问题也是企业选择云上模型的痛点。目前，云端Token费用随使用量线性增长，已进入企业财务报表，而且部分长任务跑到一半会出现中断，无法保证持续可预期的输出。据此他判断： “AI的下一站 ，不在云端 ，在本地。”

源自北京大学科学智能学院的元空AI最近就与惠普一起，将开源大模型和Agent框架，以及面向常规办公、金融、科研等不同场景的专有知识，全部塞进了本地设备。元空AI联合创始人宁鲲鹏向记者演示在惠普电脑上“断网整理53张发票并按月分类、生成Excel报告”的工作流。记者看到，在Linux环境下，元空AI Work调用Boxer本地模型，自动调取底层的脚本工具，逐张扫描了本地文件夹里的53张发票，完成格式解析与分类归档，并在本地生成了一张结构完整的Excel报表，整个过程大约几分钟。

“金融、医疗、政务等行业对数据出域零容忍，‘离线可用’的能力为端侧模型提供了爆发的可能。”逄大嵬表示，元空AI Work可持续24小时不间断工作，科研场景下可连续执行超过100组复杂实验并完整保留每一组的参数与轨迹。StartLux也表示，计划于年内推出第一代本地智能解决方案，与此同时，团队正在稳步推进模型训练的脚步，也正对扩散式语言模型等新架构进行深入研究和优化。

原标题：《本地模型崛起的时机到了吗？》

栏目主编：唐玮婕

来源：作者：文汇报 徐晶卉