您目前的位置: 首页» 学术交流» 科研进展» 理学院最优化研究团队在大规模稀疏优化研究方面取得进展

理学院最优化研究团队在大规模稀疏优化研究方面取得进展

    

    大规模稀疏优化是最优化学科近十余年发展起来的一个崭新方向,主要研究带有稀疏特征的高维数据优化理论和算法。它源于著名华裔数学家、2006年菲尔兹奖得主T.Tao(陶哲轩)& Candes、美国科学院院士Donoho独立提出的压缩感知理论,在大数据分析与处理、机器学习与人工智能、信号与图像处理、模式识别、生物信息学、统计推断、金融风险管理等领域扮演着核心数学模型的角色。然而,大规模稀疏优化是一类非凸非连续优化,属于NP-难问题,传统优化理论和算法面临极大挑战。

    我校理学院最优化研究团队于2015年承担国家自然科学基金重点项目“大规模稀疏优化问题的理论与算法”,经过5年精心研究,取得一系列创新成果:

    (1)在稀疏优化理论方面,建立了L0最优变量选择理论、一阶和二阶最优性条件、对偶理论,并给出L0正则与L0约束优化之间关系特征,以及低秩优化一阶和二阶最优性条件

    (2)在稀疏优化算法方面,设计出多个具有公开代码的新算法,如HFPA、IIHT、NHTP等。团队成员罗自炎等提出的求解一类稀疏分组模型的半光滑牛顿增广Lagrange算法,通过对大量真实数据进行实验表明,不仅求解精度高,而且运算速度是目前最好算法的几十倍乃至几百倍,相关成果以《Solving the OSCAR and SLOPE models using a semismooth Newton-based augmented Lagrangian method》为题,发表在《Journal of Machine Learning Research》上;

  

    (3)在应用软件方面,团队成员把稀疏低秩优化理论和算法应用到机器学习等实际问题中,开发出多个特色求解器,如多维标度降维求解器、逻辑回归分类器、支持向量机分类器等。

    这些结果不仅为求解大规模稀疏优化问题提供了新理论和新方法,而且也为最优化、数据科学、信息科学、计算机科学技术的交叉融合提供了新元素,具有重要的科学意义和实用价值。