亚马逊云科技上线机器学习新服务：提高30%吞吐量，每次推断成本降低45%

【猎云网北京】5月14日报道

机器学习正在不断向纵深发展，2024年将有75％的公司从试生产过渡到生产。

今天，我们看到越来越多的企业在机器学习或人工智能层面上投入了更多的资金。 IDC预测，到2023年AI支出将达到$ 97.9B，比2019年增长2.5倍。机器学习项目正从试点到生产迅速发展。Gartner预测，到2024年，将有75％的公司从试生产过渡到生产。机器学习对于建立现代企业至关重要。

2021年5月11日，在完全托管的机器学习服务AmazonSageMaker落地中国区域一周年之际，亚马逊云科技宣布通过与光环新网和西云数据的紧密合作在中国区域进一步落地多项人工智能与机器学习的新服务和功能，丰富了其针对不同企业需求而打造的人工智能与机器学习（AI/ML）工具集。

提高30%吞吐量，每次推断成本最高降低45%

亚马逊云科技针对不同需求的客户在机器学习技术堆栈三个层面提供广泛而深入的机器学习服务，包括顶层-人工智能服务、中间层-机器学习服务以及底层-框架和基础架构。

在人工智能（AI）服务层面，亚马逊云科技在北京区域推出了AmazonPersonalize，客户无需具备机器学习专业知识，即可方便、快速地构建个性化推荐系统；在中间层，将AmazonSageMaker在re:Invent 2020上亮相的包括Data Wranger、Feature Store、Pipelines等七项新功能在北京区域和宁夏区域上线，让客户可以更轻松地构建端到端的机器学习管道；

在算力层面，亚马逊云科技在北京区域和宁夏区域推出了Amazon EC2 Inf1实例，该实例基于亚马逊云科技自研机器学习推理芯片Amazon Inferentia。

生产中运行机器学习模型的推理占据了机器学习应用程序的总体开发和运行基础架构成本的绝大部分，甚至高达90%。机器学习从业者正在构建越来越复杂的模型，这些模型在生产中的运行成本有时会高得令人望而却步。使用Amazon Inferentia后，与当前成本最低的基于GPU的实例相比，可以提高多达30%的吞吐量，并使每次推断的成本最高降低45%。

亚马逊云科技大中华区云服务产品管理总经理顾凡表示，“AmazonSageMaker落地中国区域一年以来，我们见证了中国各个行业各种类型客户积极应用亚马逊云科技服务进行机器学习创新，我们希望通过将更多服务落地到中国区域，并坚持‘授人以鱼不如授人以渔’，甚至更进一步‘扶上马，送一程’的方式，帮助客户更快应用机器学习技术，把机器学习的能力交到每一位构建者手中，加速人工智能和机器学习的普惠。”

目前，亚马逊云科技机器学习服务得到医疗健康、教育、出行、工业智能、游戏、新媒体等各个行业客户的青睐，益体康、晶泰科技、新世纪医疗、LEMONBOX、有道乐读、叽里呱啦、全美在线、首汽约车、德比软件、Momenta、图森未来、行者AI、天和荣、中科创达、华来科技、大宇无限、陕西科技大学、易点天下、淄博热力等一批企业和机构的广泛采用，在各行各业实现了丰富多样的人工智能应用创新。

比如，山东淄博市热力集团有限责任公司利用亚马逊云科技丰富的AL/ML技术和服务，构建、训练和部署机器学习模型，实现了精准供热，可以根据气象、工控数据、建筑物维护结构等信息计算出最佳的供热模式，并给出具体的操作指令，既让用户室温始终保持人体最佳舒适温度，又做到尽可能节约成本。

“多年来，淄博热力利用信息化手段改造传统供热，通过与亚马逊云科技合作，借助机器学习能力创新，建成了基于机器学习和大数据分析的智能供热平台，帮助我们从传统供热向产业智能化方向转型，在满足用户需求的同时实现节能减排，建立绿色能源生态系统。”淄博市热力集团有限责任公司董事长、党委书记汪德刚表示。

上海音智达信息技术有限公司是亚马逊云科技合作伙伴网络成员之一，提供围绕人工智能和大数据技术的预测性分析及商务智能解决方案的技术专家服务，帮助客户实现数字化转型。

上海音智达信息技术有限公司CEO孙晓臻表示：“我们为亚洲地区数以百计的跨国企业及本土客户提供数据服务，拥有丰富的数据分析与业务实施经验。但是，我们在机器学习方面的算法和人才储备远远不能够满足客户需求。亚马逊云科技丰富的机器学习服务大幅提升了音智达的技术开发和服务能力，助力我们打造了覆盖不同行业和场景的解决方案，实现了业务发展和持续创新。”

根据过去一年的经验，亚马逊云科技针对企业应用机器学习提出四点建议。

1、企业要找到一个适合机器学习的场景作为切入点。先突破创新业务，再改造核心业务。

2、避免重复造轮子，利用平台能力。让数据科学家，开发人员专注于的自己的应用和业务创新。

3、拒绝闭门造车，数据科学家要业务化，学习业务。

4、跟真心诚意赋能的厂商合作， 牢牢把握住你对数据和算法模型的所有权

机器学习服务组合

如今，各种规模、各种类型的企业和机构，都在积极探索人工智能和机器学习技术的应用并希望能尽快发挥实际效应。为满足不同客户的创新需求，亚马逊凭借在人工智能/机器学习领域20多年深厚的技术积累，提供了广泛而深入的、并且不断迭代创新的机器学习服务组合。

首先，无需具备机器学习专业知识，即可通过Amazon Personalize构建个性化推荐系统。

在人工智能服务层面，针对没有机器学习专业知识和能力的客户，亚马逊云科技提供开箱即用的人工智能服务。Amazon Personalize，一项用于构建个性化推荐系统的完全托管型机器学习服务，已在北京区域上线。开发人员无需具备机器学习专业知识，即可通过该服务训练、调整和部署自己定制的机器学习模型，构建个性化推荐系统，可用于产品推荐、个性化营销、个性化搜索和定制化直销等广泛的个性化推荐场景。

其次，亚马逊云科技打造包罗万象的AI/ML工具集，七项新功能让AmazonSageMaker更强大

作为亚马逊云科技机器学习服务层面的核心产品，Amazon SageMaker是业界首个面向机器学习开发者的集成开发环境，它消除机器学习过程中的繁重工作，使客户能专注于自身的业务和应用创新，在提高客户工作效率的同时还大幅降低机器学习的总体拥有成本。去年12月在亚马逊云科技全球大会re:Invent 2020上刚刚亮相的七项AmazonSageMaker新功能，近期已经在北京区域和宁夏区域落地。

1．Amazon SageMaker Data Wranger，简化机器学习的数据准备工作。通过该功能，客户可以将各种数据存储中的数据一键导入。Amazon SageMakerData Wrangler内置了300多个数据转换器，让客户无需编写任何代码，就可以对机器学习用到的特征进行规范化、转换和组合。

2．Amazon SageMakerFeature Store，一个完全托管且专门构建的特征存储库，用于存储、更新、检索和共享机器学习特征。客户可以在其中存储和访问特征，以便更轻松地在各个团队中对其进行命名、共享和重复使用。

3．Amazon SageMaker Pipelines是业界首个针对机器学习专门构建、易于使用的持续集成和持续交付服务，通过编排和自动化提高机器学习工作的效率。借助该服务，用户可以大规模地创建、自动化和管理端到端机器学习工作流。

4．Amazon SageMaker Clarify让机器学习开发人员可以更好地掌控其训练数据和模型，从而识别和限制偏差并解释做出相关预测的原因。

5．Amazon SageMaker Distributed training libraries为训练大型深度学习模型和数据集提供了易用的方法，与现有分布式训练实现相比，以最高快 40% 的速度完成分布式训练，并且帮助用户减少手动实施数据并行和模型并行策略所需时间。

6. Amazon SageMaker Model Monitor帮助客户时刻保持机器学习模型的准确性，它能够自动检测生产环境中部署的模型，并在检测到不准确的预测时发出警报，从而帮助客户维护高质量的机器学习模型。

7．Amazon SageMaker Debugger，可以通过实时捕获训练指标，自动识别机器学习训练任务中正在出现的复杂问题，例如梯度值变得过大或过小等。它可以实时监控系资源（例如GPU、CPU、网络和内存等）的利用率，帮助用户提高资源利用率，对训练过程中的资源瓶颈进行告警，让开发者及时调度资源，快速采取纠正措施，减少时间和成本浪费。

这背后，是基于高性能机器学习推理芯片Amazon Inferentia的研发。在机器学习底层的框架和基础架构层面，亚马逊云科技全面提供基于各家芯片供应商的最新技术选项，提供从小到大多种配置，支持市面上流行的各种机器学习框架和算法。

此外，亚马逊云科技的人工智能与机器学习服务，还受益于亚马逊云科技在计算、存储、数据库和数据分析等方面广博深厚的能力，以及它们优异的安全性、可靠性、可扩展性和成本效率，这些服务无缝集成、有效支撑，赋能更多组织和个人进行数字化转型和创新。