随机深度学习:用于建模结构化时间数据不确定性的概率框架

Gemini AI生成的图像
本文介绍了随机潜在微分推理(SLDI),这是一个结合了随机微分方程(SDEs)和深度生成模型的框架,旨在增强机器学习中的不确定性量化。通过在变分自编码器的潜在空间中嵌入伊藤随机微分方程,SLDI 支持连续时间建模,并利用神经网络对 SDE 的各个组成部分进行参数化。这一方法有效应对了不规则数据采样的问题,同时保持了数学上的严谨性。其主要创新包括用于潜在和梯度动态的耦合前向-后向系统,以及用于稳定深度潜在 SDE 训练的路径正则化伴随损失,为随机概率机器学习的进步铺平了道路。
利用随机深度学习框架进行不确定性量化的进展
一种名为随机潜在微分推断(SLDI)的新框架被提出,以增强在涉及结构化时间数据的机器学习应用中的不确定性量化。通过将随机微分方程(SDE)与深度生成模型相结合,这种方法提供了一种新的连续时间不确定性建模方法。
该框架在变分自编码器的潜在空间中嵌入了一个伊藤随机微分方程,使得不确定性建模更加灵活。SDE的核心组成部分——漂移项和扩散项——通过神经网络进行参数化,使SLDI模型能够推广经典时间序列模型,并有效处理不规则采样。
理论贡献
一个重要的进展是与专门的神经网络共同参数化伴随状态,创建了一个耦合的前向-后向系统,捕捉潜在演变和梯度动态。此外,引入路径正则化的伴随损失增强了深度潜在SDE的训练稳定性,使SLDI成为随机概率机器学习中的一个重要发展。
相关主题:
随机深度学习随机微分方程深度生成模型不确定性量化变分推理
📰 原始来源: https://arxiv.org/abs/2601.05227v1
所有权利和署名均属于原出版商。