Page 92 - 《振动工程学报》2026年第5期
P. 92

1296                               振     动     工     程     学     报                     第 39 卷

              input 模块进行设计,将跨座式单轨列车齿轮箱振动                        平稳数据的复杂时序特性、从而难以有效提取信号
              信号特征和趋势嵌入          prompt 中。为此,提出了        VSP-    特征的问题。通过结合跨座式单轨列车齿轮箱振动
              LLM  架构,如图    6  所示,将预训练好的大语言模型冻                  信号的趋势、特征嵌入和精心设计的                  prompt(提示),
              结,利用大语言模型(LLM)的强大语义理解能力和                          来实现高精度的跨座式单轨列车齿轮箱振动信号
              时序建模能力,来解决难以捕捉振动信号这一类非                            预测。


                       Output Embeddings
                                                           输出预测层                                预测结果
                       Add & Layer Norm

                        Feed Forward

                                                                                                可视化层
                       Add & Layer Norm
                                                                                                 后处理
                         Multi-Head
                         Arttention                      Pre-trained LLM                       Flatten & Linear
                                                            (Body)
                       Prompt and Input                                                         Output Patch
                         Embedding                                                              Embeddings









                                                                                            振动信号预测嵌入
                       Output Token       Pre-trained LLM           vibration signal Patch
                       Embeddings              (Embedder)                                      Linear
                      Token Embedder                                   Patching
                                                                                          Multi-Head Cross Attention
                                                                      实例归一化
                       Tokenization                                                              Text Prototypes
                                                                                          Patch
                                                                                         Embedder
                                                  DCBiformerNet                                    Linear
                       Input文本      通用提示模板         预测特征
                                                                                         时间序列     Pre-trained
                                                                                          Patches  Word Embeddings
                                   prompt模块                                      input  模块

                    训练          冻结         prompt嵌入             input嵌入            前向             反向


                                                   图 6 VSP-LLM  的模型框架
                                                  Fig. 6 Framework of VSP-LLM

              2.2.1    prompt 模块                                素;Special Instructions 用于指定预测过程中需考虑的
                  prompt 设计是确保     VSP-LLM  能够有效理解振动            外部因素。
              信号预测任务的关键步骤。本文在                  VSP-LLM  架构                      表 1 数据类型案例
              中,设计了一个专门用于振动信号预测的                    prompt 模                   Tab. 1 Data type cases

              板。这个     prompt 模板包含如表      1  所示的关键要素。               关键字                   相关描述
                  VSP-LLM  模型将表    1  中的内容嵌入      prompt 模块         Context   提供模型对数据上下文的理解,比如数据的
              中,形成如图      3  第二步的    prompt 模板。该模板包括               Information            类型或领域
                                                                  Historical Data  描述数据的收集时间范围和观测频率,帮助
              了表   1  中多个关键部分: Context Information    用于描          Description       模型理解时间序列的结构
              述数据的应用场景和背景(如信号类型、采集条件                               Statistical  提供时间序列的统计摘要,帮助模型把握数据

              等);Historical Data Description  提供时间序列的观测            Summary            的波动性和分布情况
                                                                              描述时间序列最近的趋势或显著变化,增加
              范围、频率及观测点总数;Statistical Summary         总结信         Recent Trends
                                                                                     模型对最近事件的敏感性
              号的均值、标准差、最大值和最小值等主要统计特
                                                                Prediction Request  明确指出预测需求,包括预测步数
              征;Recent Trends 捕捉信号的最新变化情况和变化速                       Special
                                                                              如果预测需要考虑外部因素,此处可以指定
              率; Prediction Request 明 确 预 测 步 长 和 外 部 影 响 因        Instructions
   87   88   89   90   91   92   93   94   95   96   97