为何探讨AI芯片落地时软硬融合被大咖们频频提及？| CCF-GAIR 2019
▲点击上方 雷锋网 关注
自学术界、工业界、投资界的重磅嘉宾齐聚AI芯片专场共同探讨了芯片的前沿技术以及AI落地的挑战。值得关注的是，演讲嘉宾们在分享中频频提及软硬融合，这是为什么？
文 | 包永刚
编者按：7月12日-7月14日，2019第四届全球人工智能与机器人峰会（CCF-GAIR 2019）于深圳正式召开。峰会由中国计算机学会（CCF）主办，雷锋网、香港中文大学（深圳）承办，深圳市人工智能与机器人研究院协办，得到了深圳市政府的大力指导，是国内人工智能和机器人学术界、工业界及投资界三大领域的顶级交流博览盛会，旨在打造国内人工智能领域极具实力的跨界交流合作平台。
这一轮的AI热潮让芯片行业又一次出现了多年未见的创业热潮，2015年前后，AI芯片初创公司相继成立，不仅如此，国内外芯片巨头们的纷纷布局更是让AI芯片的赛道更加拥挤，形成了传统芯片巨头、科技巨头、初创公司共同竞争的局面。2018年下半年开始，资本寒冬来袭，2019年，中美贸易摩擦让半导体处于风口浪尖，同时，全球半导体市场也面临衰退挑战，AI芯片的落地显得尤为重要。
2019年7月13日下午，来自学术界、工业界、投资界的重磅嘉宾齐聚CCF-GAIR 2019 AI芯片专场共同探讨芯片的前沿技术以及AI芯片的落地。值得关注的是，演讲嘉宾们在分享中频频提及软硬融合，这是为什么？
英特尔是全球最重要的芯片公司之一，也引领着全球芯片行业的发展。英特尔首席工程师 数据中心技术销售部人工智能首席技术架构师夏磊带来了主题为《异构 | 统一》的开场演讲。随着AI、大数据技术的不断发展，计算的应用层面需要很多专业的设计、专业的方案去应对不同类型的数据。英特尔通过提供多样化的标量、矢量、矩阵和空间架构组合，以先进制程技术进行设计，由颠覆性内存层次结构提供支持，通过先进封装集成到系统中，使用光速互连进行超大规模部署，提供统一的软件开发接口以及安全功能，从而实现超异构计算的技术愿景。
英特尔首席工程师 数据中心技术销售部人工智能首席技术架构师夏磊
对于AI计算，一定需要硬件+软件的结合。在英特尔第二代至强可扩展处理器的新计算方案中，英特尔针对AI的场景进行加速，推出了英特尔DL Boost加速指令集，通过软硬件的结合达到了非常高的水准，在某些场景的性能超越了GPU加速器的方案。
目前，英特尔软硬结合的AI技术已经在实际应用当中落地，比如英特尔与美的合作，利用AI进行缺陷检测，帮助美的在生产制造中管控产品质量。
对英特尔而言，异构和统一其实是针对面向硬件和软件的不同的策略。未来，硬件方案会越来越细分，针对特定的数据处理的类型和需求有很多选项，但对软件开发者而言，他们并不希望在开发一个AI软件应用时候需要针对不同的硬件器件来学习不同的编程框架、编程工具、编程接口。为此，英特尔提出了OneAPI的软件策略，不断推进软件通用化、标准化，通过一个软件平台和一套软件工具，支撑四种不同类型的加速方案，更好满足开发人员的需求。
地平线联合创始人兼副总裁、深度学习专家黄畅带来了《打造极致效能的AI计算平台，构建安全、美好的智能世界》的主题分享。他指出，AI普惠化和民主化的背后，数据计算带来了巨大的能源消耗。数据统计显示，2017年全国有40家中小型数据中心，遍布在各处，但这些中小数据中心单2017年消耗电量比三峡大坝的发电量还多，等量的碳排放量两倍于民航的碳排放量，这是很恐怖的数据。
地平线联合创始人兼副总裁、深度学习专家黄畅
地平线特别强调算法和芯片的优化，需兼顾灵活性和通用性，第一要务是追求极致的能效比和性价比。这就要求地平线并不仅仅是做算法和架构这两件事情，还包括编译器等外延。比如说架构设计需要考虑未来重要场景中的关键算法，实验、探索、判断，与业界共同定义未来重要场景是什么、未来重要的关键算法是什么等问题。
数据、AI模型和设备形成一个闭环，这个闭环结合在一起高速地循环、快速地推进AI技术发展和商业化落地。
“地平线努力做到能够更好地预测、把握、选择未来真正重要的AI算法趋势，并且把算法发展的趋势进行拆解，融入到架构中，使我们预先将未来可能成为主流的，最有效的算法提前考虑到计算架构中，这点非常重要。” 黄畅说道。
前段时间，地平线正式对外公布了“AI on Horizon，Journey Together”的公司战略，他们希望打造面向整个产业界的通用AI应用平台，赋能客户，让AI的技术可以更好更早的普惠化、造福大家的生活。
中科院计算所研究员、先进计算机系统研究中心主任，中国开放指令生态联盟秘书长包云岗在其《面向未来领域专用架构的敏捷开发方法与开源芯片生态》的主题演讲中指出，今天软件、硬件之间有巨大的性能差异，同样一个算法或者一个程序，一个普通的程序员来写和一个懂体系架构的人来写，性能可以差63000倍。如果按照摩尔定律折算，相当于可以把摩尔定律再延长二十多年，实际上就是摩尔定律赋予了很大的能力，但是并没有挖掘出来。
中科院计算所研究员、先进计算机系统研究中心主任，中国开放指令生态联盟秘书长包云岗
如何弥补软硬件之间的性能差异？包云岗研究院认为有两种思路：一种是可以雇更好的程序员写出更好的软件，但是这样的人终究少；还有一种是在硬件上加速，有一些工作让硬件来做，也就提出了硬件加速器，就是领域专用的体系结构。
但领域专用体系种结构出来以后又带来一个新的问题，每个领域都需要一种专用芯片，成本和时间的问题如何解决？如果我们可以做到芯片开发像软件开发一样协作，那未来我们可以把芯片开发变成月迭代，软硬件就可以协同起来，这是未来有可能做到的。
他在演讲中也指出，目前开源芯片生态四要素为：开源指令集与IP、硬件开发语言与开源EDA工具链、仿真/模拟、软件工具链。
“芯片是不是可以像开源软件一样，帮助我们把硬件设计的门槛降下来。实际上现在存在一个死结。首先，做一个芯片和软件需要花那么多精力，做完以后很多企业不愿意开源，导致在市场上、业界没有开源可以用。大家只能去买，而且IP都还很贵，买过来以后只能花很多力气和时间去验证它来降低风险，进而又增加了人力的投入，所以整个是一个死结。” 包云岗表示。
怎么打破它？最近几年很多力量都在试图把开发投入这一环给解开，从而打开开源芯片的死结。此外，开源的IP，RISC-V降低了IP的成本。
深聪智能 CTO 朱澄宇分享的主题是《端侧专用芯片——AI 算法的理想载体》。他认为语音技术的演进和IoT时代的到来，某种程度上可以说是一种天作之合，这两个技术必定是未来十年增长的亮点，特别是在芯片领域。
深聪智能 CTO 朱澄宇
我们知道，思必驰是一家算法很强的公司，不断把算法移植到不同的芯片和平台上，但在移植的过程中还是有很多不方便的地方。朱澄宇指出，如果使用第三方通用芯片，产品研发与AI市场需求、AI算法、AI数据不能形成闭环，如果没有闭环就不能形成生态，不利于把这块蛋糕做大，这些问题的存让思必驰最终决定成立一家公司专门做芯片。
朱澄宇强调：“我们做芯片不是赶时髦，而是有长远的规划，我们的第二代芯片要解决本地语音识别的问题，增加安全、声纹特性，会采取更深度的融合，从算法到基础IP都做专门的优化，达到更好的目的。再下一代芯片，我们会考虑多模态以及进行存储、工艺、封装的优化。”
最终，思必驰芯片+算法的软硬结合方案将会给用户带来非常好的体验，不仅能够听得清和听得懂，还有很高的识别率和快速的反应。能够实现非常低的功耗，基本上都可以做到使用电池供电。软硬结合的方案也具备多种接口，可以做很多扩展。更重要的是，与通用芯片相比，因为不需要移植，能够让产品更快上市。
触景无限科技联合创始人兼CEO肖洪波带来了《重构边缘芯片，让感知融入城市》的演讲。他指出，智慧城市的提出已有十几年历史，但是今天智慧城市领域却依然没有达到想要的效果——这是因为人们忽略了很多在边缘和感知领域的投入，只是在后端打通了一些数据，并没有对前端更丰富的数据进行收集和前端的智能分析。而现有AI芯片在边缘数据的分析处理上存在局限性，因而需要重构边缘芯片。
触景无限科技联合创始人兼CEO肖洪波
随着技术发展，肖洪波认为从智慧城市到感知城市的转变有三点非常关键。第一是物联网技术，改变前端数据收集方式；第二是边缘计算技术，越来越强的算力、越来越低的功耗以及感知融合处理；第三是通讯技术的发展。
肖洪波相信，未来智慧城市+感知能力会变成“感知城市”，通过传感器技术应用和边缘计算相结合，能够迅速反馈到城市治理的方方面面。
过去几年触景无限一直专注做边缘计算，一共研发了四代边缘计算的产品，基本覆盖了现在市面上各种前端的芯片解决方案，比如第一代基于嵌入式GPU，随后的VPU、NPU，以及下一代基于FPGA的产品。
肖洪波表示，感知城市的建设中会遇到很多边缘问题，必须在前端部署一款高性能、低功耗、感知融合的芯片。我们要解决产品和场景里碰到的挑战和问题，提供更易于使用的感知芯片，使其成为一个软件内核级和芯片架构级的综合产品。
天数智芯创始人、董事长、CEO 李云鹏带来了《海量数据时代的全算力》的主题分享。李云鹏在演讲中指出，海量数据时代，数据的收集、组织、分析、运用都将推动社会的发展。随着数据量的不断增长、算法不断演进和迭代，对极致算力的需求也越来越大，而软硬件的充分结合则显得尤为重要，这也是天数智芯决定打造AI芯片的原因之一。
天数智芯创始人、董事长、CEO 李云鹏
他说：“我们技术的开发逻辑是非常有意思的，第一天从事软件算力，软件算力是提升已有硬件的平均算力。如今，我们的中间件产品可以和已有市场上任何一款开源计算框架完美配合，在已有的硬件处理器上达到更高的处理效率。随着中间件的推出和上层应用的不断落地，我们推出相应的芯片产品，为已有的硬件产品和已有的系统解决方案提供平滑的、透明的迁移。”
据雷锋网了解，天数智芯已经布局了云端和终端的AI芯片，将针对不同的市场，提供云、边、端的算力支持。其GPGPU流片计划正在如期推进，据现有PPA数据显示，对比Nvidia V100，会有三倍的功耗比提升。还值得指出的是，在一月前斯坦福的DAWN Bench榜单中，天数智芯的ImageNet推理成绩排名第一。
李云鹏还谈到了动态平衡，他表示：天数智芯两方面（软件和硬件）的业务具备动态平衡两个特征，两者是相互可以转换的，换句话说软件能为硬件迭代，硬件能为软件的进步和提升提供帮助。任何一个状态本身此消彼涨，软件多一点，硬件就会少一点。
云天励飞副总裁李爱军分享的主题是《芯联万物，智创未来》。他首先指出，云天励飞一直致力于通过提升算法、芯片、数据三方面的核心竞争力，实现人工智能大规模产业化落地。
云天励飞副总裁李爱军
李爱军进一步指出，在一个有机的循环和推动下，全新的5G+AIoT时代到来了。但5G+AIoT的场景更加复杂，一个边缘和端运算平台，不能只跑某一种算法，需要在AIoT场景下应对用户各种各样的需求，同时要满足实时数据的处理要求，还要能保证数据的安全性和隐私性。
传统的芯片很难满足上述需求，需要更高效的神经网络处理器的架构设计。李爱军指出：“AI芯片和计算架构一定是从场景出发、为场景服务，这样的计算架构也才能真正满足大规模应用需求。云天励飞先是在我们AI系统大规模产业化落地和部署情况下，去了解行业的需求和痛点，基于对行业的需求和痛点的深刻理解来打造AI的芯片，通过芯片来解决这些场景下的关键问题，然后通过我们的服务来更多赋能这个行业。”
云天励飞自主设计的DeepEye1000神经网络处理器芯片是面向多个应用场景设计，支持多模态的计算，可以支持一键式AI部署，同时针对端和边缘做了优化，是异构的并行架构。
李爱军表示，围绕着5G+AIoT，云天励飞希望跟合作伙伴一起打造自主可控的5AIoT生态，使得人工智能能够更快速、更高效地大规模产业化落地。
最后一位登台演讲的，是华登国际副总裁苏东。针对处于风口浪尖上的半导体产业，作为一家风险投资机构的投资人，他分享的主题是《集成电路产业投资趋势》。苏东表示，过去的十几二十年间，中国的芯片还是在做廉价替代的事情，通过廉价替代逐步提升附加值，其中，一些公司实现了突破。接下来，这类公司能在全球范围内引领市场，另外，这些公司上市之后进行并购，也能极大促进他们的发展。
华登国际副总裁苏东
他强调，做芯片不是那么容易，我们看到了中国芯片公司上市的高光时刻，但不要忘记这些公司都成立很长的时间，而且有很多艰难的时刻。
“未来，我们觉得新的应用可以催生出半导体新的机会，最主要的是四个：一是AI；二是5G在2019年的部署和应用；三是消费升级，很多新的品类消费硬件逐渐进入家庭。四是汽车电子，汽车电子的电子化程度会越来越高，包括无人驾驶、新能源，都能极大促进汽车的电子化。”苏东进一步表示。
苏东还指出，4大因素将促进人工智能进入繁荣期，分别是：GPU使得训练深度神经网络的速度提升255倍；全球数据中心数据量在最近以及未来几年年均增速40%；算法突破减少了人工总结特征的不完备性，推动AI技术成熟和实用化；最后是包括政府和大学的学科投入，大公司的AI战略以及各风险资本的疯狂押注。
推荐阅读
▎最前沿！机器人研究落地报告全天汇总 | CCF-GAIR 2019
▎“5G+AI+IoT”的技术融合，重新定义2019年战局 | CCF-GAIR 2019
▎腾讯 AI Lab & Robotics X 主任张正友博士：计算机视觉的三生三世 | CCF-GAIR 2019
▎京东城市郑宇：AI与大数据将“重塑城市” | CCF-GAIR 2019
我们将会在本次峰会后，在「AI投研邦」上线CCF GAIR 2019峰会完整视频与各大主题专场白皮书，包括机器人前沿专场、智能交通专场、智慧城市专场、AI芯片专场、AI金融专场、AI医疗专场、智慧教育专场等。「AI投研邦」会员们可免费观看全年峰会视频与研报内容，扫码进入会员页面了解更多。峰会期间专享立减399元福利，可进入页面直接领取，或私信助教小慕（微信：moocmm）咨询。（最后一天50个名额，速抢。）