编号:YRY-HY-2026-1111
密级:内部
音 容 元 数 字 科 技

数字人智能体本地化部署技术研讨会
会 议 须 知

研讨对象:某区移动污染源智慧监管系统建设三期项目 · AI 数字机器人模块
会议时间2026 年 11 月 11 日(星期三)10:30—12:00
会议地点音容元数字科技会议室
召集人音容元数字科技 负责人
会议形式内部技术研讨(两方)
参会单位音容元数字科技、深圳市汇壹智慧科技有限公司
会议记录音容元 产品部(会后 24 小时内出纪要)

一会议背景与情况介绍

1.1 项目由来

某区移动污染源智慧监管系统建设三期项目于 2026 年 6 月签订合同,其中包含「AI 数字机器人」1 套。该模块要求整合车辆数据、法规文件等建成知识库,支持快速查询、多格式数据处理与多部门系统协同,自动生成政策讲解稿,支撑非现场执法的精准决策;硬件形态为 65 英寸级数字人一体机,要求本机渲染、多模态交互、PPT 讲解与大屏播控。

1.2 当前实施状态

集成方已自行采购一台联想数字人一体机(安卓系统,RK3568 级平台,无触摸)。目前的软件方案为:语音识别与合成调用科大讯飞 API,对话应答调用豆包大模型 API,数字人形象在设备本机播放。该方案已完成基本演示,但未获客户方认可。

1.3 客户方不认可的理由

客户方明确提出,应当采用本地部署大模型的方式,以本地现有的政策文件、PPT 介绍等资料对模型进行「训练」,使数字人能够基于本地知识作出准确回答。其关切可以拆解为三层:

关切客户方的实际担忧对应的技术命题
合规政策文件、执法数据上传至公网大模型,是否构成数据外流推理本地化 + 敏感数据不出内网
效果通用大模型不了解本地政策,回答空泛甚至编造,无法用于执法场景本地知识库 + 检索增强 + 回答附出处
可靠断网、限流、API 涨价或停服,数字人就成废铁全链路本地可运行,断网仍可用

这三条看似是三个问题,实则指向同一件事:算力必须落到客户侧。这不是更换一个 API 能够解决的,需要在现有设备之外新增边缘推理服务器,形成「端(一体机)—边(服务器)—库(知识库)」的三层结构。

1.4 本次会议的性质

本次为我方与硬件供应方的内部技术研讨会,客户方与集成方均不在场。会议不涉及对客户方的承诺,目标是形成可对外交付的技术方案与商务口径。会议结论由我方统一对外表达,汇壹智慧不单独与客户方对接技术细节。

二会议目的

本次会议须形成五项可交付结论,缺一不可:

序目标判定标准(做到什么程度算达成)
1统一技术边界明确「本地化」覆盖范围:大模型推理、知识库、语音识别与合成,三项分别是否必须本地,形成书面结论
2确定硬件选型路线在昇腾(信创)与 NVIDIA(生态)之间给出倾向意见,或确定双路线并行报价
3锁定性能指标口径并发数、上下文长度、单路生成速度、首字时延四项指标给出明确数值,不留模糊表述
4厘清知识注入方式确定以检索增强(RAG)为主路径,是否叠加轻量微调,以及对外如何向客户解释
5明确分工、节点并表决工期两方任务界面清晰到「谁在什么时间交什么东西」,形成任务表并当场确认责任人;就 14 天压缩节奏是否采纳形成决议

三研讨议题

六个议题按逻辑递进排列,每项均标注待决策点,请各方带着意见入场,不做无准备讨论。

议题一 客户诉求的准确解读:「训练」还是「知识注入」

客户方表述为「用政策文件和 PPT 对模型进行训练」。工程上需要区分两条路径,二者成本、周期、效果差异很大:

路径做法优势局限
检索增强
推荐主路径
文档解析 → 分块 → 向量化入库;提问时检索相关片段,连同问题一起交给模型生成 资料更新即生效;回答可附出处;不改变模型本身,幻觉可控 依赖检索质量;对跨文档归纳类问题稍弱
微调(LoRA) 用问答对数据对模型做轻量参数调整 更贴合特定表达风格与话术 需构造训练集;知识仍会过时;无法给出出处;每次更新要重训
待决策点:① 是否确立「RAG 为主、LoRA 可选」的技术路线;② 是否由我方出具一份《知识注入方式说明》,把客户的「训练」诉求翻译成工程语言,避免验收标准写偏;③ 若客户坚持要做微调,是否接受以「RAG + 风格微调」的组合形态回应。

议题二 本地化的边界与总体架构

「本地部署」在实际工程中有三种粒度,覆盖范围不同,成本相差数倍,必须当场划清:

粒度覆盖内容说明
推理本地
必须
大模型在本地位于客户内网的服务器上运行客户诉求的核心,也是本次会议的主要议题
知识库本地
必须
政策文件、PPT、案例库全部存储于本地,检索在本地完成原始文档不出内网,这是合规的底线
语音本地
建议
语音识别与合成改用本地模型(如 FunASR、CosyVoice)若保留云端语音,音频仍需出网,可能成为合规缺口

据此形成目标架构:联想一体机(端)负责形象渲染与交互呈现 → 局域网调用边缘服务器(边)完成语音识别、知识检索、大模型生成、语音合成 → 全部过程不出客户内网。现有设备不需更换,仅作为端侧载体,算力由新增服务器承担。

待决策点:① 语音链路是否一并本地化,若保留云端语音,能否向客户解释清楚;② 边缘服务器部署于客户机房还是我方先做样机演示;③ 一体机与服务器之间的接口形态(HTTP 服务 / 私有协议),是否需要断网降级预案。

议题三 硬件配置与选型路线

汇壹智慧已提供《端侧算力服务器客户需求表》,核心配置如下(详见附件):

类别表内配置
计算鲲鹏 CPU 24 核;内存 64GB;Atlas 300I A2 64GB × 2 卡
存储NVMe 4.0 系统盘(2 块 RAID 1);2×1TB SATA + 2×4TB SATA 数据盘
网络2×2.5GbE 电口,可选 10G/25G 光口;IPMI/BMC 独立管理口
系统Ubuntu 22.04 LTS,Docker 容器化,风冷,满载 ≤85dB
需当场澄清的三处技术问题:
  1. 软件栈与硬件不匹配。表内「AI 软件栈需求」写的是 TensorRT / CUDA / cuDNN,这是 NVIDIA 生态;而 Atlas 300I A2 是昇腾 NPU,对应软件栈应为 CANN + MindIE(或 PyTorch + torch_npu)。两者不能混用,照单采购会导致环境搭建直接卡住。需确认是笔误,还是表内混入了另一条 NVIDIA 路线的配置。
  2. 模型型号描述不规范。表内写「Qwen 3.8 27B」。Qwen3 开源系列为 0.6B / 1.7B / 4B / 8B / 14B / 32B / 235B-A22B,并无 27B 规格;27B 是 Gemma 3 的参数规模。需确认是 Qwen3-32B 的笔误,还是确有定制模型。
  3. 性能指标三者不可兼得。表内同时要求「20 并发 / 128K 上下文 / 总吞吐 20t/s」,这三个数在 2 卡配置下无法同时成立,详见议题四测算。

议题四 模型规格与性能指标口径

以 Qwen3-32B、W4A16 量化估算(权重约 20GB),KV Cache 按每 token 约 256KB 计算,不同上下文长度下的显存占用如下:

组合模型权重KV Cache合计显存2×64GB 可行性
20 路 × 8K 上下文20 GB约 40 GB60 GB可行,余量充足
20 路 × 32K 上下文20 GB约 160 GB180 GB不可行
20 路 × 128K 上下文20 GB约 640 GB660 GB完全不可行
测算口径:KV Cache ≈ 层数 × KV 头数 × 头维度 × 2(K/V)× 2 字节 × token 数 × 并发数。实际值随模型结构与量化方式浮动,此处用于说明量级关系。
结论与建议:「128K 上下文」应理解为模型的能力上限,而非每路并发都要跑满。实际业务中,数字人单次问答的上下文通常在 4K—8K。建议将验收指标表述为:支持 20 路并发、单路上下文 8K(峰值可扩展至 32K)、单路生成速度 ≥20 t/s、首字时延 ≤1.5 秒。这样既真实可测,也保留了对客户的解释空间。
待决策点:① 模型最终选型与量化方式(32B-W4 或 14B-FP8,后者显存更省、速度更快);② 上表四项指标是否作为我方对客户的承诺值;③ 是否需要预留 235B 级模型的升级空间。

议题五 知识库工程与内容责任

知识库质量决定最终效果,其工作量常被低估。需明确以下边界:

环节内容建议责任方要点
语料提供政策文件、PPT、执法案例、车辆数据字典客户方提供,我方协助梳理需明确交付格式与完整性
解析清洗PDF/Word/PPT 抽取、表格还原、去噪音容元扫描件需 OCR,PPT 需抽取备注页
分块与向量化按语义分块、元数据标注、入库音容元分块策略直接影响检索命中率
数据分级公开级 / 内部级 / 敏感级分流音容元设计,客户确认敏感级仅在本地处理,日志不外传
效果验证构造 200 条问答对,测命中率与准确率音容元主责,客户参与评审无出处的回答按错误计
待决策点:① 语料是否由客户方一次性提供,若分批提供,版本如何管理;② 是否接受「回答必须附出处、无出处则转兜底话术」的设计;③ 知识库更新是否由客户自行操作,还是由我方代为维护(涉及后续服务费)。

议题六 与存量设备衔接、工期压缩与节点安排

存量联想一体机予以保留,作为端侧显示与交互载体,需完成三件事:解除或绕过系统对第三方应用的安装限制、开放与边缘服务器的通信、适配原有数字人形象的播控。若设备确实无法安装应用,则退化为「显示器 + 外接小主机」形态,仍不影响整体方案成立。

工期是本次会议的正式议题,不是会后的执行细节。我方倾向将「技术方案 → 客户澄清 → 样机 → 实测 → POC → 商务定稿」整体压缩至 14 天(详见第七节对比表)。压缩能否成立,取决于三个前提,须逐项确认:

压缩前提现状需确认事项
样机交期需求表承诺 2 周能否压到 6 天?以现货机型替代定制配置是否可接受
并行度知识库与硬件部署原为串行样机未到期间,知识库构建与端侧改造能否先行
客户配合语料尚未到手能否在 D+2 前拿到首批政策文件与 PPT
待决策点:① 一体机改造由哪方主导(我方或原设备供应方);② 样机演示先在我方场地还是直接进客户现场;③ 是否采纳 14 天压缩节奏,若采纳,样机交期与并行安排如何落实;④ 整体交付周期按 60 天还是 75 天排定。

四会议议程

10:30—10:35
开场与会议说明会议目的、议程、输出要求
召集人 · 5 分钟
10:35—10:50
项目背景与客户诉求解读对应议题一:训练还是知识注入
音容元 · 15 分钟
10:50—11:10
本地化边界与总体架构对应议题二:端—边—库三层结构
音容元 · 20 分钟
11:10—11:35
硬件配置与选型路线对应议题三:昇腾与 NVIDIA 对比、三处技术澄清
汇壹智慧 · 25 分钟
11:35—11:50
模型规格、性能指标与知识库工程对应议题四、五:显存测算、指标口径、内容责任
双方技术 · 15 分钟
11:50—12:00
分工确认与工期表决对应议题六:14 天压缩方案是否采纳、任务表与责任人
全体 · 10 分钟
时间纪律:各议题发言控制在规定时间内,超时由主持人终止。技术争议不在此展开辩论,统一记入「遗留问题清单」,会后由双方技术人员专项对接,48 小时内给出书面答复。

五对客户的沟通口径(内部统一)

本次会议形成的技术判断,对外须以统一口径表达,避免两方说法不一致引发客户疑虑。

客户可能的表述我方回应要点
「要用我们的资料训练模型」我们采用知识库注入 + 检索增强的方式,效果上等同于让模型学会了你们的资料,而且资料一更新立即生效,比训练更快;每一条回答都会标注出自哪份文件的哪一段,便于核对。
「数据不能传到外面」大模型、知识库、语音识别与合成都部署在本地服务器,全程不出内网。可以在演示时直接拔掉网线,数字人仍能正常回答政策问题。
「云端 API 也能用,为什么不用」云端方案在演示阶段没问题,但存在三个风险:数据出网、断网即失效、资费与接口随时可能变化。本项目用于执法支撑,这三条都必须提前排除。
「为什么要加一台服务器」大模型本地运行需要专用算力,现有数字人一体机是显示与交互终端,不具备这个能力。服务器放在机房,一体机通过内网调用,前端形态与位置都不变。
「多久能用上」样机两周内到位,完成部署与实测后再进现场。演示当天可断网验证,这是最直接的证明。

六两方任务分工

任务责任方配合方交付物时限
总体技术方案音容元汇壹智慧《本地化部署技术方案 V1》,含架构图、数据流、接口定义D+1
知识注入方式说明音容元—面向客户的《知识库构建与检索增强说明》,替代「训练」表述D+1
硬件配置定稿与报价汇壹智慧音容元正式配置单 + 报价单,昇腾与 NVIDIA 双路线各一份D+1
软件栈澄清汇壹智慧—书面确认 CANN/MindIE 版本与模型适配清单,纠正表内 CUDA 表述D+1
模型选型与量化方案音容元汇壹智慧模型清单、显存与吞吐测算表D+1
样机提供与部署汇壹智慧音容元样机到货、系统与推理环境就绪D+6
性能实测汇壹智慧音容元实测报告:首字时延、单路 t/s、并发稳定性、显存占用D+8
知识库构建与调优音容元—知识库 v1、200 条问答对测试结果D+10
端侧改造与集成音容元汇壹智慧一体机接入边缘服务,交互链路打通D+10
POC 演示音容元汇壹智慧本地问答 + 数字人播报 + 断网演示D+12
商务方案与合同音容元汇壹智慧整体报价、交付计划、质保条款D+14

七下一步任务与时间节点建议稿 · 会上确认

以下节点为压缩后的建议方案,是议题六的讨论材料,不是既定安排。会上逐项确认后,方作为双方考核依据。

7.1 压缩对比:28 天 → 14 天

阶段常规节奏压缩目标压缩手段
技术方案与报价D+3D+1套用标准架构模板,配置单复用现成方案,不重新设计
客户技术澄清D+5D+2与文档定稿并行推进,不等最终版;先讲结论再补材料
样机到货与部署D+14D+6以现货机型替代定制配置;系统镜像与推理环境提前预装
性能实测D+17D+8与知识库构建并行,先测四项核心指标
知识库与端侧集成D+20D+10语料分批入库,先覆盖高频问答 200 条,其余滚动补充
POC 演示D+24D+12先打通主链路,边缘功能(播控、二维码)后补
商务方案定稿D+28D+14报价与合同条款同步准备,不等技术收尾
压缩的代价必须讲在前面:并行度提高后,返工风险同步上升。因此 D+2 的客户澄清会必须拿到两样东西——首批政策文件与 PPT、信创口径的明确答复。这两样任何一样缺失,后续节点整体顺延,且不视为我方延期。此项建议写入会议决议。

7.2 建议节点

D+0 2026-11-11(周三)
会议纪要发出,附《待确认问题清单》答复状态
音容元 · 当日 24 时前
D+1 2026-11-12(周四)
《本地化部署技术方案 V1》《知识注入方式说明》定稿;汇壹出具双路线配置单与报价
音容元 + 汇壹智慧 · 同日交付
D+2 2026-11-13(周五)
向客户方技术澄清;同步索取首批语料与信创口径
音容元主导
D+6 2026-11-17(周二)
样机到货,系统与推理环境跑通,模型可正常加载
汇壹智慧 · 音容元配合
D+8 2026-11-19(周四)
性能实测报告出具:首字时延、单路 t/s、并发稳定性、显存占用
汇壹智慧
D+10 2026-11-21(周六)
知识库 v1 与端侧集成完成,200 条问答对测试通过
音容元 · 内部节点
D+12 2026-11-23(周一)
POC 演示:本地知识问答 + 数字人播报 + 拔网线验证
音容元主导 · 汇壹智慧到场
D+14 2026-11-25(周三)
商务方案定稿,进入合同流程
音容元 + 汇壹智慧

八待确认问题清单

以下问题分两类,A 类当场确定,B 类会后由我方统一向客户确认,不在本次会议讨论。

A 类 两方当场确定(会议决议项)

序问题答复方备注
A1选型路线:昇腾单路线、NVIDIA 单路线,还是双路线并行报价汇壹智慧影响交付周期与信创合规
A2Atlas 300I A2 的软件栈究竟是 CANN/MindIE 还是 CUDA/TensorRT;表内表述是否笔误汇壹智慧必须先澄清
A3模型型号:Qwen3-32B 还是其他;量化方式 W4A16 或 FP8音容元影响显存与速度
A4性能指标口径:并发数、单路上下文长度、单路 t/s、首字时延双方作为对外承诺值
A5语音识别与合成是否一并本地化音容元合规完整性
A6样机部署地点与到货时间(表内承诺 2 周)汇壹智慧影响 D+6 节点,能否压缩至 6 天
A7报价模式:整机买断、租赁,或分期汇壹智慧影响客户预算安排
A8一体机改造由哪方主导;若无法安装应用,是否接受外接主机形态音容元—

B 类 会后向客户确认(本次不议)

序问题为何重要
B1是否强制要求信创(昇腾 / 鲲鹏)决定选型路线,影响成本与工期
B2「本地部署」是否必须覆盖语音链路若允许语音上云,成本可下降
B3语料由谁提供、由谁脱敏、以何种格式交付直接影响知识库工期
B4是否要求出具「数据不出内网」的书面证明或第三方测评可能需要增加合规工作量
B5验收指标是否接受「回答须附出处」的设计决定产品形态与测试方式
B6POC 演示是否可作为阶段性验收依据影响回款节奏

九会议纪律与输出要求

会场纪律

  • 手机静音,会议期间不接听电话
  • 发言按议程限时,技术争议记入遗留清单,不现场辩论
  • 涉及客户信息的内容仅限会场口头交流,不得外传
  • 会议材料会后回收,不外带、不拍照

输出要求

  • 会后 24 小时内发出会议纪要,含决议事项与遗留问题
  • 决议事项须由两方责任人 48 小时内书面确认
  • 未达成一致的事项,明确责任人与答复期限,不得悬空
  • 纪要中区分「已决议」「待确认」「有分歧」三种状态

十附件:端侧算力服务器需求表(摘要)

以下为汇壹智慧提供的原始需求表内容整理,供会议对照使用。表中标注 待澄清 的条目,见议题三、四。

类别项目配置 / 描述
一、整机与部署部署环境办公区域
主要业务场景边缘 AI 推理
模型需求「Qwen 3.8 27B」,20 并发,128K 上下文,总吞吐 20 t/s 待澄清
采购数量1 台
期望交付2 周
二、计算配置CPU鲲鹏,24 核
内存64 GB
GPUAtlas 300I A2 64GB
GPU 数量2 卡
软件栈表内填 TensorRT / CUDA / cuDNN 待澄清
三、存储系统盘NVMe 4.0 2280,2 块 RAID 1
数据盘(1)1TB SATA × 2
数据盘(2)4TB SATA × 2
RAID2 块系统盘 RAID 1
四、网络电口网卡2 × 2.5GbE
光口网卡可选 10G / 25G
远程管理IPMI / BMC 独立管理口
五、散热与系统散热风冷,满载 ≤85 dB @25℃
操作系统Ubuntu 22.04 LTS
容器Docker
运维监控BMC 健康监控
原始文件:src/端侧服务器客户需求表.xlsx,共 28 行,含少量空行与重复行(数据盘数量与容量重复列出),已按逻辑归并。

十一参会签到

序号单位姓名职务 / 角色签名
1音容元数字科技负责人(主持)
2音容元数字科技产品
3音容元数字科技算法
4音容元数字科技交付
5汇壹智慧曾总总经理
6汇壹智慧技术负责人
7汇壹智慧售前 / 方案
8
内部 · 会后回收
音容元数字科技 产品部编制 | 2026 年 11 月 11 日
本文件仅供本次研讨会内部使用,含商务与技术判断,不对外分发。文中涉及的硬件配置引自供应方提供的需求表,技术判断为我方基于公开资料的分析,最终以实测结果为准。