腾讯云TI平台公有云全新发布，助力企业降本增效

为提高深圳制造业竞争力，实现传统制造业转型升级和产业健康蓬勃发展，由“科创中国”大湾区联合体、深圳市科学技术协会、深圳市工业和信息化局指导，深圳市科技交流服务中心、深圳市人工智能行业协会主办的第四届智能制造创新高峰论坛在深圳福田举行。

腾讯优图作为深圳市人工智能行业协会的副会长单位，在本次论坛上，腾讯云AI副总经理、AI开发平台资深技术专家李世平，特别分享了《腾讯云TI平台公有云全新发布》主题演讲，希望通过腾讯云TI平台帮助传统制造企业实现AI的落地应用，实现降本增效作用。

01 人工智能应用落地的现实挑战

AI作为下一个10年最核心的科技手段之一，正在加速渗透到各行各业，在各个行业应用蓬勃发展，如泛互领域的推荐、广告场景、政务领域的智慧化城市运营管理、医疗领域的疾病辅助诊断等。每个AI应用建设都离不开数据、算法、算力三要素，要有效组织这三要素需要付出大量的工程手段。而AI开发服务平台能帮助AI应用的开发者们简化工程上的研发投入，将精力聚焦在业务本身，从而提高AI应用的开发效率。

传统的软件开发，AI开发需依赖复杂的底层环境，进行深度学习开发时需要采用不同型号、不同规模的GPU满足不同场景的模型训练，有时候甚至需要选择不同显存配置的GPU来验证我们模型推理的效果。即便在进行传统机器学习开发时，也需要转背各种规模的存储设施来应对大数据场景下海量数据的IO问题。算法框架的选择和使用同样很复杂。即便是同一种算法框架，不同的版本对算力资源的兼容性也会有所差异。

而企业对于AI落地中的降本增效有着明确的痛点和需求。首先在训练上，AI应用场景处理的数据量越来越大、模型网络结构的复杂程度越来越高，导致模型的训练周期越来越长，复杂模型训练周期往往持续1-2周，严重影响模型产出的效率。其次在推理上，AI应用业务规模越来越大，需要支撑的GPU资源也越来越大，在GPU卡成本非常昂贵的情况下，企业的降本诉求十分强烈。

02 腾讯云TI平台赋能AI应用落地

腾讯云TI平台，是基于腾讯先进AI能力和多年技术经验，向开发者、政企提供的一站式AI开发服务平台，帮助用户快速创建和部署AI应用，管理全生命周期AI解决方案。

腾讯云TI平台系列产品支持公有云访问、私有化部署以及专用云部署。以TI平台公有云版为例，它具备五方面的技术优势，分别是性能强大、兼容性高、计费灵活、使用门槛低以及管理高效。

• TI-ACC是TI平台的重要功能，它支持大规模训练和推理加速，其性能强大。

• TI平台支持过类训练框架和分布式训练工具，能够构建、发布和管理各类模型格式、兼容性高。

• TI平台公有云版支持预付费和后付费两种计费模式，根据业务规模随时调解资源规模，计费灵活，满足用户弹性扩松的需求。

• TI平台提供丰富的算法框架和预制算法模型，大大降低AI应用开发门槛。

• TI平台提供标准化模型开发、部署以及运维工具，从而实现高效AI开发和运维管理。

 03 TI-ACC助力企业降本增效

TI作为一站式AI开发服务平台，可以帮助各行各业实现降本增效。AI应用的开发通常包含数据揭露、数据处理、模型训练、模型服务4个环节。TI平台在每个环节提供一系列工具帮助开发者提升开发效率：

在数据揭露环节，TI平台支持各类主流的结构化和非结构化数据揭露，同时提供存算分离的计算框架，能将数据揭露周期缩到80%。

在数据处理环节，TI平台提供丰富的图像标注工具，同时支持智能标注和智能增强，可以将标注成本降低70%。

在模型训练环节，TI平台针对不同技术背景的开发者提供多种训练建模工具，包括低门槛的自动学习工具、方便及时调试的notebook工具、任务式建模工具。同时TI平台提供的模型评测工具，能帮助开发者更有效的进行模型迭代优化。

在模型服务环节，TI平台提供模型管理、服务管理、弹性管理、定时调度等功能。

关于TI-ACC的技术实现，主要从计算优化、通信优化、并行训练、显存优化等多个技术方向，对模型训练过程进行加速，最大限度的为算法工程师提供降本提速的基础能力。

李世平以TI-ACC为例，具体介绍了TI平台如何助力企业实现降本增效作用。TI-ACC依托于优图实验室在CV领域以及外部推荐项目中的打磨沉淀，在产品能力上支持主流的训练框架和分布式训练工具。同时包含丰富加速优化手段，加速效果有意，通常比原生训练框架能提升30%以上的训练性能。比如推荐领域常见的Wed Deep模型，原生的TensorFlow训练框架，在V100卡上的训练速度是每秒处理59.5个样本，而TI-ACC能提速到124个，训练速度比原生框架快1倍。

未来，腾讯优图的TI平台还会持续打磨产品能力，与深圳市人工智能行业协会共同推动行业转型升级，帮助更多企业提高AI开发效率，实现降本增效。