国防科技大学关磊等 | 一种有效求解非凸正则化线性支持向量机的并行与分布式方法

原创关磊，等信息与电子工程前沿FITEE

内容介绍

中文摘要：

支持向量机（SVM）被视为线性分类的有力工具。与可以产生稀疏效果的非凸惩罚项组合时，SVM能同时执行分类和变量选择。然而，由于其不可微、非凸和非平滑特性，非凸正则化SVM通常难以有效求得全局最优解。已有针对非凸正则化SVM的求解方案通常以串行方式求解，因而无法充分利用现代多核机器的并行处理能力。另一方面，现实世界中数据多以分布式方式存储，迫切需要一种并行与分布式方法求解非凸正则化SVM问题。为应对这一挑战，本文提出一种基于交替方向乘子法（ADMM）的并行算法高效求解非凸正则化SVM问题。采用有效技术降低并行算法的计算与同步开销。时间复杂度分析证明所提并行算法具有低复杂度。此外，该并行算法能保证收敛性。在LIBSVM数据集上的实验证明了所提并行算法的有效性。

关键词：

线性分类；支持向量机；非凸惩罚项；交替方向乘子法（ADMM）；并行算法

作者：

关磊¹，孙涛¹，乔林波¹，杨智慧^2,3，李东升¹，葛可适¹，卢锡城¹

单位：

¹国防科技大学计算机学院，中国长沙市，410073
²复旦大学计算机科学技术学院，中国上海市，201203
³上海市数据科学重点实验室，中国上海市，201203

本文引用格式：

Lei Guan, Tao Sun, Lin-bo Qiao, Zhi-hui Yang, Dong-sheng Li, Ke-shi Ge, Xi-cheng Lu. An efficient parallel and distributed solution to nonconvex penalized linear SVMs[J]. Frontiers of Information Technology & Electronic Engineering, 2020, 21(4): 587-603.https://doi.org/10.1631/FITEE.1800566

本文精要导读：

点击下方“阅读全文”，下载全文PDF

关于本刊

Frontiers of Information Technology & Electronic Engineering（简称FITEE，中文名《信息与电子工程前沿（英文）》，ISSN 2095-9184，CN 33-1389/TP）是信息电子类综合性英文学术月刊，SCI-E、EI收录，最新影响因子1.033。前身为2010年创办的《浙江大学学报英文版C辑：计算机与电子》，2015年更为现名，现为中国工程院信息与电子工程学部唯一院刊。覆盖计算机、信息与通信、控制、电子、光学等领域。文章类型包括研究论文、综述、个人视点、评述等。现任主编为中国工程院院士潘云鹤、卢锡城，实行国际同行评审制，初次转达意见一般在2~3个月内。文章一经录用将快速在线。

FITEE官网：http://www.jzus.zju.edu.cn

期刊Springer主页：

http://www.springer.com/computer/journal/11714

在线投稿地址：

http://www.editorialmanager.com/zusc

微信加群

为方便广大科研人员交流讨论，本平台建有以下学科微信群。有需要加群的用户，请加小编个人微信号fitee_xb，并留言想要加入的群，小编会拉您进群。营销广告人员请勿扰。

计算机科学与技术学术群	光学工程与技术学术群
控制科学与技术学术群	信息与通信学术群
电力电子学术群	人工智能学术

加关注 ID: fitee_cae

本公众号为中国工程院院刊《信息与电子工程前沿（英文）》（SCI-E、EI检索期刊）官方微信，功能包括：传播期刊的学术文章；为刊物关联学人（读者、作者、评审人、编委，等）提供便捷服务；发布学术写作、评审、编辑、出版等相关资讯；介绍信息与电子工程领域学术人物、学术思想、学术成果，展示该领域科学研究前沿进展；为该领域海内外学者提供友好互动平台。