Page 92 - 《振动工程学报》2026年第5期
P. 92
1296 振 动 工 程 学 报 第 39 卷
input 模块进行设计,将跨座式单轨列车齿轮箱振动 平稳数据的复杂时序特性、从而难以有效提取信号
信号特征和趋势嵌入 prompt 中。为此,提出了 VSP- 特征的问题。通过结合跨座式单轨列车齿轮箱振动
LLM 架构,如图 6 所示,将预训练好的大语言模型冻 信号的趋势、特征嵌入和精心设计的 prompt(提示),
结,利用大语言模型(LLM)的强大语义理解能力和 来实现高精度的跨座式单轨列车齿轮箱振动信号
时序建模能力,来解决难以捕捉振动信号这一类非 预测。
Output Embeddings
输出预测层 预测结果
Add & Layer Norm
Feed Forward
可视化层
Add & Layer Norm
后处理
Multi-Head
Arttention Pre-trained LLM Flatten & Linear
(Body)
Prompt and Input Output Patch
Embedding Embeddings
振动信号预测嵌入
Output Token Pre-trained LLM vibration signal Patch
Embeddings (Embedder) Linear
Token Embedder Patching
Multi-Head Cross Attention
实例归一化
Tokenization Text Prototypes
Patch
Embedder
DCBiformerNet Linear
Input文本 通用提示模板 预测特征
时间序列 Pre-trained
Patches Word Embeddings
prompt模块 input 模块
训练 冻结 prompt嵌入 input嵌入 前向 反向
图 6 VSP-LLM 的模型框架
Fig. 6 Framework of VSP-LLM
2.2.1 prompt 模块 素;Special Instructions 用于指定预测过程中需考虑的
prompt 设计是确保 VSP-LLM 能够有效理解振动 外部因素。
信号预测任务的关键步骤。本文在 VSP-LLM 架构 表 1 数据类型案例
中,设计了一个专门用于振动信号预测的 prompt 模 Tab. 1 Data type cases
板。这个 prompt 模板包含如表 1 所示的关键要素。 关键字 相关描述
VSP-LLM 模型将表 1 中的内容嵌入 prompt 模块 Context 提供模型对数据上下文的理解,比如数据的
中,形成如图 3 第二步的 prompt 模板。该模板包括 Information 类型或领域
Historical Data 描述数据的收集时间范围和观测频率,帮助
了表 1 中多个关键部分: Context Information 用于描 Description 模型理解时间序列的结构
述数据的应用场景和背景(如信号类型、采集条件 Statistical 提供时间序列的统计摘要,帮助模型把握数据
等);Historical Data Description 提供时间序列的观测 Summary 的波动性和分布情况
描述时间序列最近的趋势或显著变化,增加
范围、频率及观测点总数;Statistical Summary 总结信 Recent Trends
模型对最近事件的敏感性
号的均值、标准差、最大值和最小值等主要统计特
Prediction Request 明确指出预测需求,包括预测步数
征;Recent Trends 捕捉信号的最新变化情况和变化速 Special
如果预测需要考虑外部因素,此处可以指定
率; Prediction Request 明 确 预 测 步 长 和 外 部 影 响 因 Instructions

