潜特征学习是统计机器学习中的重要研究领域,其目标是寻找高维数据的有效低维表示。其中,贝塔过程是一种用于潜特征学习模型的强有力的工具。贝塔过程作为一种非参贝叶斯模型,可以学习到模型中特征的数目且该数目可以随着数据量的改变而自适应改变。对时序或空间数据建模时,由于数据通常依赖于时间或空间,不能任意交换数据的顺序。然而,传统的贝塔过程假设了交换数据顺序不影响数据的分布。为了解决上述问题,依赖的贝塔过程应运而生,通过引入依赖信息,它可以更精确地建模时序或空间数据。本文从广度和深度两个角度对依赖的贝塔过程进行研究。在广度上将核贝塔过程应用于对偶特征空间的字典学习问题,在深度上提出了折棍构造的依赖贝塔过程并对其进行变分推理研究。一方面,考虑到需要建模数据之间的依赖关系,本文将核贝塔过程应用于单幅图像的超分辨率任务,在高低分辨率对偶空间中分别构建两个特征空间的字典。实验表明,该方法比贝塔过程更好地解决了图像的超分辨率任务。另一方面,本文深度探索依赖贝塔过程的构造问题,提出了一种新的依赖贝塔过程——变分依赖贝塔过程。主要工作包括:1)提出使用折棍的方法来构造依赖贝塔过程;2)采用灵活且高效的高斯过程对数据的依赖信息进行建模;3)使用近似变分推理方法来推导模型中潜变量的后验分布。变分依赖贝塔过程引入了数据之间的依赖信息,可以去除数据顺利可交换的假设,同时折棍构造方法的采用使得模型有利于变分推理求解。本文给出了依赖贝塔过程的变分推理的简洁表示,将所提出的变分依赖贝塔过程用于伯努利过程的先验,构建了使用变分依赖贝塔过程的稀疏贝叶斯模型,在图像去噪和图像修复的实验上证实了模型的有效性。
基本信息
| 题目 | 依赖贝塔过程的变分推理算法研究 |
| 文献类型 | 硕士论文 |
| 作者 | 曹泽慧 |
| 作者单位 | 华东师范大学 |
| 导师 | 孙仕亮 |
| 文献来源 | 华东师范大学 |
| 发表年份 | 2020 |
| 学科分类 | 信息科技 |
| 专业分类 | 计算机软件及计算机应用,自动化技术 |
| 分类号 | TP181;TP391.41 |
| 关键词 | 依赖贝塔过程,特征学习,变分推理,折棍构造,特征工程 |
| 总页数： | 80 |
| 文件大小： | 3530K |
论文目录
| 摘要 |
| abstract |
| 第一章 绪论 |
| 1.1 研究背景与意义 |
| 1.2 研究现状 |
| 1.2.1 依赖非参贝叶斯模型的相关研究 |
| 1.2.2 依赖贝塔过程的相关研究 |
| 1.3 本文研究内容 |
| 1.4 本文组织结构 |
| 第二章 相关知识介绍 |
| 2.1 贝塔过程 |
| 2.1.1 贝塔过程的定义 |
| 2.1.2 贝塔过程的构造方法 |
| 2.1.3 贝塔伯努利过程 |
| 2.2 依赖贝塔过程 |
| 2.2.1 核贝塔过程 |
| 2.2.2 采样高斯贝塔过程 |
| 2.3 变分贝叶斯推理 |
| 2.3.1 变分下界 |
| 2.3.2 变分平均场 |
| 2.4 潜特征模型 |
| 2.4.1 稀疏字典学习 |
| 2.4.2 稀疏贝叶斯字典学习 |
| 2.5 本章小结 |
| 第三章 核贝塔过程的对偶空间字典学习 |
| 3.1 贝塔过程的对偶空间字典学习 |
| 3.2 核贝塔过程的对偶空间字典学习 |
| 3.2.1 核贝塔过程相关知识 |
| 3.2.2 核贝塔过程的对偶空间字典学习 |
| 3.3 核贝塔过程处理单幅图像超分辨率问题 |
| 3.3.1 问题描述 |
| 3.3.2 求解方法 |
| 3.4 实验结果及分析 |
| 3.4.1 实验介绍 |
| 3.4.2 实验结果及分析 |
| 3.4.3 实验小结 |
| 3.5 本章小结 |
| 第四章 变分依赖贝塔过程的构造及推理 |
| 4.1 贝塔过程的折棍构造 |
| 4.1.1 贝塔过程的原始折棍构造 |
| 4.1.2 贝塔过程的改进折棍构造 |
| 4.2 依赖随机过程框架 |
| 4.3 变分依赖贝塔过程的折棍构造 |
| 4.3.1 变分依赖贝塔过程的折棍表示 |
| 4.3.2 变分依赖贝塔伯努利过程 |
| 4.4 变分依赖贝塔过程的变分推理 |
| 4.4.1 模型的联合分布 |
| 4.4.2 模型的变分分布 |
| 4.4.3 模型的变分下界 |
| 4.5 变分依赖贝塔过程的参数更新 |
| 4.5.1 坐标上升算法更新参数 |
| 4.5.2 梯度优化算法更新参数 |
| 4.6 本章小结 |
| 第五章 变分依赖贝塔过程的实验结果及分析 |
| 5.1 图像去噪问题 |
| 5.1.1 问题描述 |
| 5.1.2 求解方法 |
| 5.2 实验结果及分析 |
| 5.2.1 实验介绍 |
| 5.2.2 图像去噪结果及分析 |
| 5.2.3 图像修复结果及分析 |
| 5.2.4 实验小结 |
| 5.3 本章小结 |
| 第六章 总结及展望 |
| 6.1 本文总结 |
| 6.2 未来工作 |
| 参考文献 |
| 致谢 |
| 攻读学位期间发表的学术论文以及学术成果 |
参考文献
| [1] 走出大森林[J]. 数学小灵通(3-4年级版) 2017(Z1) |
| [2] 卡通漫画秀 舒克和贝塔[J]. 少儿科技 2011(05) |
| [3] 舒克和贝塔[J]. 小雪花(小学生成长指南) 2020(03) |
| [4] 舒克和贝塔相亲相爱[J]. 布老虎青春文学 2009(35) |
| [5] 贝塔咖啡:相逢何必曾相识?[J]. 中关村 2012(04) |
| [6] 不务“正业”的贝塔咖啡店[J]. 中国连锁 2011(09) |
| [7] 上市金融企业增长机会与贝塔系数关系实证研究[J]. 商业经济研究 2015(10) |
| [8] 贝塔,失望的爱国者[J]. 西部 2011(07) |
| [9] 噪声交易者风险对利用市场信息估测经营贝塔的影响[J]. 财会月刊 2013(10) |
| [10] 浅析贝塔精确度与证券投资风险的关系[J]. 宁波工程学院学报 2012(01) |
| [11] 我国A股股市零贝塔率估计值究竟说明了什么?[J]. 数量经济技术经济研究 2008(06) |
| [12] 智力资本对贝塔系数影响路径的数理分析与数据检验——上市公司数据的例证[J]. 软科学 2017(07) |
| [13] 中国股市时变贝塔实证研究[J]. 统计与决策 2016(10) |
| [14] 系统性跳跃风险与贝塔系数时变特征[J]. 中国管理科学 2013(03) |
| [15] 贝塔分布在数据转换中的应用及其优化分布参数确定[J]. 机械强度 2011(04) |
| [16] 基于贝塔系数变动影响因素条件下贝塔系数的稳定性研究[J]. 时代金融 2017(20) |
| [17] 基于马尔可夫过程的贝塔系数预测研究[J]. 现代商业 2016(06) |
| [18] 贝塔宁艺术之家的艺术家工作室项目[J]. 荣宝斋 2011(04) |
| [19] 别样派对[J]. 青年文学家 2018(11) |
| [20] 单项资产贝塔系数实证研究[J]. 商 2013(21) |
| [21] 混合整参数贝塔分布及其应用[J]. 应用概率统计 2010(02) |
| [22] 沪市时变贝塔及财务影响因素分析[J]. 武汉理工大学学报(信息与管理工程版) 2014(01) |
| [23] 中国股票市场随机贝塔的估计[J]. 系统管理学报 2008(01) |
| [24] 智力资本影响了高新技术公司的贝塔系数吗?——基于2011-2014年的数据检验[J]. 华东经济管理 2017(02) |
| [25] 采用中国市场数据估计贝塔系数(β)过程中的注意事项及参数分析[J]. 中国资产评估 2015(06) |
| [26] 我国石油行业贝塔系数的测算与预测[J]. 河南科学 2014(04) |
| [27] 次贷危机以来福建省上市公司系统性风险实证研究[J]. 福建江夏学院学报 2016(05) |
| [28] 我国金融行业贝塔系数与其稳定性分析[J]. 商业时代 2014(08) |
| [29] 资本资产定价模型应用研究——对伊泰股份贝塔系数的测算[J]. 经济论坛 2013(05) |
| [30] 业务性贝塔系数的含义及确定[J]. 商业时代 2009(10) |
相似文献
| [1]高斯均值场变分推理的算法研究[D]. 陈亚瑞.天津大学2007 |
| [2]概率模型的随机变分近似推理算法及应用研究[D]. 马秀.北方工业大学2020 |
| [3]全变分型图像修补与分解问题研究[D]. 张艳君.河南大学2013 |
| [4]气象资料变分同化高效优化算法研究及并行实现[D]. 杨永滔.国防科学技术大学2005 |
| [5]全变分图像复原一阶对偶算法研究[D]. 肖兢兢.南京邮电大学2015 |
| [6]基于能量图的变分优化应用研究[D]. 梁广会.山东大学2015 |
| [7]基于全变分模型压缩传感图像重构的快速算法[D]. 李艳红.河南大学2012 |
| [8]变分贝叶斯深度生成网络故障诊断方法研究[D]. 王昱.重庆大学2019 |
| [9]变分光流法的异构计算方法研究[D]. 喻津.江南大学2015 |
| [10]基于随机变分的在线监督主题模型与并行化实现[D]. 宋文卓.吉林大学2017 |
