基于原子分解的次梯度下降用于矩阵分类
矩阵适用于表示具有复杂结构的大量数据,例如图像和脑电图数据(EEG)。 为了学习处理这些矩阵数据的分类器,特征矩阵的结构信息是有用的。 本文着重于正则化的矩阵分类器,其输入样本和权重参数均为矩阵形式。 现有的一些方法假设权重矩阵具有低秩结构,然后利用权重矩阵的流行核规范作为正则化项。 但是,这些矩阵分类器的优化方法通常涉及大量昂贵的奇异值分解(SVD)操作,从而无法扩展到适中的矩阵大小。 为了降低时间复杂度,我们提出了一种新颖的学习算法,称为基于原子分解的次梯度下降法(ADBSD),它解决了以目标函数为Frobenius.matrix范式和核范式相结合的矩阵分类器的优化问题。重量矩阵以及铰链损失函数。 我们的ADBSD是一种迭代方案,它在每次迭代中从目标函数的次梯度中选择信息量最大的秩一矩阵。 我们考虑使用基于原子分解的方法来最小化核范数,因为它们主要依赖于顶部奇异矢量对的计算,从而在效率上具有很大的优势。 我们根据经验评估了拟议算法ADBSD在合成数据集和实际数据集上的性能。 结果表明,我们的方法比最先进的方法更有效,更健壮。
用户评论
推荐下载
-
梯度下降法Python实现示例
梯度下降法一个简单的梯度下降算法的Python实现示例
11 2023-01-29 -
梯度下降法python代码.py
梯度下降法
3 2023-01-27 -
matlab随机梯度下降算法详解
本文将详细讲解matlab中的随机梯度下降算法,包括其原理、应用场景、优缺点等方面的内容。除此之外,还会分享一些实际应用案例,帮助读者更好地理解和掌握该算法。关注本文,让你的机器学习之路更加顺畅!
16 2023-03-14 -
下山寻路:梯度下降法
寻找下山之路:梯度下降法想象置身山巅,目标是抵达山脚的最低点。环顾四周,你只能感知到脚下的坡度。此时,你会选择最陡峭的下坡方向迈出一步。重复这个过程,每一步都朝着更陡的方向前进,直至抵达山脚。这种
3 2024-04-30 -
优化算法和梯度下降法
这个文件里面主要讲述了优化算法和梯度下降法
42 2018-12-31 -
飞控梯度下降法BATA
现在技术日新月异,无人机资料!值得收藏的学习资料!
22 2019-01-08 -
线性回归及梯度下降_20170509
线性回归及梯度下降.
26 2020-08-15 -
用于图片特征分解的稀疏多因式非负矩阵分解算法
非负矩阵分解(NMF)是一种流行的数据分析方法,其目标是使其接近通过所有非负成分产生的两个非负矩阵。文中描述了一种对于多因式非负矩阵分解(mfNMF)问题新的且有效的算法,概括了原始NMF问题的一些因
15 2021-02-01 -
矩阵分解的LU和QR分解
利用Java的jama包实现了对LU和QR方法的矩阵分解。同时也可以自己写关于SVD的分解。
68 2019-06-05 -
基于旋转矢量的本质矩阵分解方法
基于旋转矢量的本质矩阵分解方法,张曦,,本文针对由运动重建物体结构(Structure From Motion,SFM)问题,重点讨论了在使用标定相机的情况下,如何通过两个视图恢复摄像机的运动
18 2020-08-22
暂无评论