看见新力量NO.016|专访千芯科技副总裁尚会滨

「看见新力量」栏目由阿里云创新中心全新出品，挖掘创业者和企业创新背后的故事，以访谈、直播等形式，多视角、多纬度进行价值报道，让你听到创业者的真实声音，看见科技创新的力量。 

目前，我国AI芯片行业的发展正处于起步阶段，随着人工智能技术的兴起，专注于处理人工智能应用中大量计算任务的AI芯片拥有广阔的市场前景。第十六期《看见新力量》采访了中国5G产业创新创业大赛全国总决赛新锐奖获得者——千芯科技副总裁尚会滨，一起聊聊千芯科技关于AI芯片的创新故事。 

瞄准中国AI芯片行业的市场潜力 

成立于2019年的千芯科技是一家基于“算法-芯片-存算协同”技术为产业界各类应用提供先进的“AI+业务算法”芯片产品与解决方案的公司。 

2020年AI芯片全球市场逾101亿美元，根据甲子光年的研究数据得出，中国AI芯片市场规模预计2023年可达到557亿。随着超级数据中心，各行业AI应用的落地，边缘计算及云-边-端的协同发展，中国AI芯片行业具有较高市场潜力。 

“现在AI技术发展和落地是大趋势，但是芯片作为算力直接支撑，国产芯片使用情况并不理想。”尚会滨说道。 

“目前，国内芯片有三种发展模式。第一种，是跟随NVIDA(GPU图形处理器的发明者)制作GPU产品，走国产替代路线。但因为生态垄断、性能算力无法匹及等原因始终无法对标NVIDA。第二种，是基于主流算法抽取常见算子进行支持和加速。但算子的更新迭代导致基于以前算字开发的芯片无法兼容新算子。第三种，就是我们公司的技术路线，考虑到之前两种路线存在的计算效率及生态劣势，我们采用将数字存算技术和可重构技术结合的路线。”尚会滨告诉我们。 

作为国内领先的计算芯片领域的核心原创技术，千芯科技研发的存算技术和可重构技术结合的新架构超越了GPU的专业壁垒和大算力AI领域的同质化竞争。 

国内领先的数字存算与可重构技术结合的芯片 

利用先进的存算一体的可重构芯片及技术，千芯科技可在高于同期ASIC芯片性价比的前提下，兼具ASIC的算力与GPU的灵活性。通过可重构技术，产品可以跟随算法进行升级且兼具低成本的优势；通过存算一体的技术，可以有效提升算力降低计算延时，为5G及低延时AI计算提供算力平台。可重构存算处理器（RMU）结合了可重构的灵活性和存算技术的高算力。 

千芯科技目前有三款核心产品。 

第一款是AI推断计算卡，利用先进存算架构，深度优化存储墙与编译墙，提供更强更高效的大模型。其使用的RMU芯片采用热硬压缩，高精度处理设计架构方式能效比可达到15.2TOPS/W，优于GPU10-15倍，且具备灵活的算子可变能力，高度兼容易用的深度学习部署环境。 

第二款是边缘AI计算芯片，以成本效益和低功耗的AI推断为目标，为各类边缘计算提供强大算力支持。支持边缘计算的灵活算法部署与客户自定义算子，为多模态多场景边缘计算提供创新支持。 

第三款是AI加速工具包，它面向硬件工程师提供一站式部署，支持3-500倍AI性能的提升，友好兼容开源生态，支持ARM / RISC-V / x86平台和自有算法的平滑迁移。千芯科技的产品可广泛应用于云计算、自动驾驶、智慧安防等领域，同时提供芯算一体技术服务，协助客户将自有算法结合适用平台进行落地及批量生产。 

千芯科技的产品具备诸多优势，例如利用AI加速工具包（tinyAI SDK）快速部署芯来RISC-V内核的a lot应用，经过实测，芯来UX600的AI应用相较于原生AI算法提升了11.01倍，如此显著的性能提升使tinyAI SDK成为首个支持芯来UX600图像AI计算部署与加速的工具包。tinyAI SDK将AI模型剪枝、量化等先进技术整合入工具包，并针对RISC-V内核的存储、架构特点进行了针对性的特定优化。tinyAI，不仅方便了AI算法在端侧RISC-V平台的部署，更大大加速了AI算法的性能，使得端侧AI应用实用化。 

高精尖的技术团队，正在开发AI的无限潜力 

千芯科技的核心技术团队来自AMD、瑞萨半导体、联发科、长江存储等先进企业，在芯片及算法加速领域具备深厚的技术积累。 

创始合伙人陈巍博士来自清华大学本科硕士，中科院博士，是存算ai芯片领域的专家，个人已有五十多项发明专利。尚会滨本人在人工智能、芯片等技术领域深耕12年，千芯科技核心团队不仅具备专业学术背景，也都拥有丰富的行业实战经验。 

聊到对芯片行业目前存在的问题，尚会滨表示“AI计算主要放在云端的虚拟化世界，但其实在日常生活里运用智慧化的场景非常多，还有一些私密性边缘需求，这些差异化需求无法用通用性的解决方案是一大难点。”但正是这些难点让尚会滨看到了AI的无限潜力，智慧终端设备的安全性和私密性,加上云端强大存储和数据分析处理能力,将塑造下一代智能设备和物联网。 

目前千芯科技的产品在AI云计算方向进行产品原型的验证优化,与合作方在互联网、工业智能化，自动驾驶等领域落地。千芯科技RMU的崛起反映了中国芯片硬实力的快速提升，高技术和专利在芯片领域可谓是重中之重，把握先进技术脚踏实地发展，中国“芯”将势不可挡。这不仅是一个行业的进步，更是一个国家成为高新技术国家的重要一环。 

与阿里云早有渊缘，通过大赛更加了解未来客户的需求 

千芯科技凭借扎实先进的AI芯片技术在业界各大比赛获得了诸多亮眼成绩。2020年在第三届全国集成电路“创业之芯”大赛全国总决赛中荣获天使组二等奖第一名，2020年在由奥迪主办的“2020奥迪数字营销创新大赛”总决赛中作为唯一一家芯片企业成功入围前四。2021年参加由阿里云主办的中国5G产业创新创业大赛全国总决赛并斩获新锐奖。 

谈到与阿里云的缘分，尚会滨表示：“去年我们已经与阿里的平头哥达成在人工智能领域的合作，包括今年参加由阿里云组织的企业加速营，在深圳、杭州均进行过深度交流，此次通过参加5G产业大赛，让投资人了解到我们项目，也让我们对未来客户需求更加了解。在参加大赛的过程中，组委会对创业阶段企业发展遇到的问题也提供非常多的指导。阿里云创新创业中心对我们的帮助还是很大的。随着千芯科技技术的不断成熟，希望未来与阿里云展开更多合作。”尚会滨表示。 

2021年，千芯科技利用AI计算的可重构存算芯片已获得千万融资，尚会滨表示之后公司会继续研究核心技术，同时顺应国家产业大趋势，将技术价值运用到更多有社会价值的事情里。

您也可以关注我们的官方微信公众号（ID：ctoutiao），给您更多好看的内容。