在企业内容城池边，它建立起一支保卫军

来源：ToB行业头条

作者：海阳

当下的人们，不仅生活在物质空间，也生活在数字空间。这里充斥着各种信息、言论和行为，带来的有愉悦，亦有困恼。

“N号房”事件曾经引起广泛关注。未成年女性的非法视频在Telegram社交聊天房内广泛流传，画面不堪入目、手段极其残忍。1000多位聚集在内的始作俑者在白天与普通市民并无不同，却在聊天室内对此乐此不疲，逐渐演变为震惊全世界的数码“性剥削”犯罪。

不只是上述事件，包括笔者以及千千万万的网民，对这样的情况都有所经历，一些低俗暴力的话语、敏感媚俗的评论、乱七八糟的诈骗信息经常访问应用后台，或是身份信息和电话号码等敏感信息莫名其妙地泄露，贻害无穷。

据中国互联网络信息中心发布的第50次《中国互联网络发展状况统计报告》显示，截至2022年6月，我国网民规模为10.51亿，互联网普及率达74.4%；网民人均每周上网时长高达为29.5个小时。而这10.51亿人的每周29.5个小时中，时刻都在面临不良内容攻击。

由此可见，即便网络四通八达，数字世界愈发蓬勃生辉，宛如一座蒸蒸日上、人来人往、秩序井然的“赛博朋克”城邦，但其中的“黑暗角落”和“地下通道”也让某些非法行为得以滋生和繁荣。为了避免它变成一个永远不眠的“哥谭市”，各方正在采取行动。

政府监管率先到位，很多互联网平台、社区以及APP也都用尽办法管理，毕竟平台内容的丰富度及质量是获取用户的关键要素，而用户则是平台最宝贵的财富。如有内容违规、隐私泄露等事情发生，也将损害自身品牌形象和造成巨额的经济损失，奈何企业自身技术积累不足、安全防护经验不足等因素，因此效果有限。

例如，曾经声名赫赫的搜索引擎公司雅虎，在2016年期间就被曝出超15亿用户信息遭窃；同年，海外流媒体平台YouTube Kids上也接连出现不适合儿童观看的卡通色情内容，于次年遭到大众批评后才执行下架。

这些血淋淋的案例进一步刺激到企业安全意识的崛起，数字内容风控逐渐演变为网络安全之外另一大企业的细分安全需求，带动资本关注。

也因此，数字安全服务商如雨后春笋般出现，并通过企业定向培养、市场广泛征集等方式，带动了国内高校基于网络安全细分领域，开设诸如网络空间安全、网络信息管理等专业学科，全面推动我国网络安全全方面的建设。

01

ToB春风吹 ，吹动有心人

七年前，三两个人围着一张桌，看着一摞资料与一台电脑。在上海浦东新区的一处办公室内，一位程序员面色凝重，正与另外两人就“如何帮助一个旅游社交产品做好内容安全”展开激烈讨论。

“我们是以图片、文字为推荐、帮助用户预订门票、旅途分享沟通的社交平台。对用户社交过程做安全把控中，因为图文会涉及成像色彩、角度、文字断句、谐音、模糊、扭曲变形等诸多变化，使审核工作特别复杂。并且如果用户出现违规行为，我们也需要做好证据存留，给出足够准确反馈与解释，让用户了解哪些行为属于违规。”这个产品负责人说到，“这些问题给你们要如何解决？”

面对提问，这位平日里沉默寡言的程序员在脑海里的技术思路奔涌而出。他清了下嗓子便回应道：“的确，音视频的内容安全把控复杂，但是我们可以帮助你们完成三步建设，通过建设舆情预警、建设「AI+人工+举报」三级审核流程、建立审核员培训制度去解决。”

这位程序员名叫朱浩齐，任职于网易旗下的安全保障部，正在为“网易易盾”的诞生寻找客户。

见客户不甚了解，他又详细解释道，舆情预警建设是放在第一步的，我们可以帮助你们打造一个舆情系统，实时搜索网络传播中的热点问题及有害言论，并和有关部门做好沟通对接。将这些敏感信息录入形成相应规避词与舆情工作报告，上报主管部门，直接规避用户在平台上发出存有规避词的信息。

第二步则是建立三级审核规范，先基于大数据精准化层级管理应用，对用户生产的内容做分层处理，建立不同层级违规、违法内容数据库，再用AI技术对违规、违法等内容进行识别算法建模，并持续丰富完善模型数据库。等待用户发出内容后，将这段内容与AI建立的数据库做对照，将所有违规内容直接筛出，提升审核效率与准确度。

之后通过人工质检，核对AI机器筛选出的内容是否存在违规，将违规的扣留，未违规的正常推送。此时通过两层筛查已经基本能规避所有不良内容的推送。

最后即便存在漏网之鱼，或者日后有些内容成为敏感词，定期过检筛查与用户举报机制也能进行有效拦截，维护健康安全的内容环节。

第三步，网易易盾会帮助你们培育审核员，帮助你们建设培训制度，让相应培训人员梳理业务涉及的所有形态的信息内容，包括图、文、音视频等所有可能出现的违规特征，做到授人以鱼，也授人以渔。

一番口干舌燥地解释后，对面的业务负责人也被朱浩齐说动。看此情形朱浩齐乘胜追击，又与其就价格、建设周期、交付时间等问题展开讨论。三个小时后，对面起身表示：“我们都已经有所了解，回去会再探讨一下，下次见面我们可能就要将资料换成合同了。”

对此，朱浩齐内心也难掩激动，“终于离网易易盾立项成功更近了一步。”

朱浩齐的激动并非夸张，实在是由心的表达。2016年ToB风暴席卷市场，网易选择同BAT、京东、美团等公司入局企业服务，并对内提出，希望所有团队拥抱变化，积极探索有哪一些可做企业服务的技术能力。而朱浩齐与一些同事准备响应集团号召，从自身拿手的内容安全、应用安全、业务安全等方面入手，成立网易易盾。

由于材料准备十分齐全，加上团队选择的数字内容风控在对内服务的十余年间，为诸多集团内大热的音视频、游戏以及网易新闻等产品保驾护航，效果十分优异，这使其在立项审批的过程中极其顺畅地通过，但挑战也随即而来。 

“当时集团表示，网易易盾要通过立项审批，还需要在没有销售的情况下，三个月内签下5个一定额度的客户订单。”对清一色程序员的团队而言，这种情况无疑是困难重重，“起初我们是一个纯粹技术团队，技术人员毕竟都不善言辞，思维很难跟实际业务场景产生共振，还不具备什么市场资源。所以依靠自身在三个月内签约5个客户，还要达到一定金额，这让我们倍感压力。”

可即便如此，事情到了这个地步，放弃是不可能的。于是一帮技术人又肩负了市场、销售、品宣种种工作，通过混迹论坛、官方平台培育线索，又通过四处奔波，找到意向客户的所在地进行当面沟通洽谈。以最辛苦、最笨的方式，为网易易盾的诞生增添可能性。

苦心人，天不负。由于当时互联网发展的繁盛，数字产业在蓬勃发展中，越来越多的人意识到安全管理的重要性，配合当时互联网法律法规的逐步完善，倒逼企业们重视数字内容风控，对相应服务产生兴趣。

此时，配合着易盾团队100多个日夜的努力，让其接连在深圳拿下游戏公司订单，为其提供外挂对抗服务；广州拿下IM社交公司订单，为其提供内容安全服务；上海拿下娱乐平台订单，为其提供隐私和内容安全服务……最终，艰难地将网易易盾带到了人世间。

而经过了立项阶段，在2016年9月20号，网易易盾正式对外发布，由MVP（最简可行产品）阶段开始向1-100的PMF（市场规模化）阶段前行。

02

市场多变数，求索定前路

常言道，万事开头难。但1-100的PMF阶段可比0-1的MPV阶段难得多。

朱浩齐讲述了一个让他印象深刻的故事。当时网易易盾在1-100阶段，为了能更好地推广产品，上线了AI自动识别内容在线体验，让客户提前感受到产品能力增加成单概率，但问题是在实际中，偶尔出现的错误效果起到了反向作用，曾引来销售的下线争议。

按常规操作，当销售提出新需求的时候，业务部门和技术部门都会听从，但网易易盾没有这样做，而是着手客户沟通和优化AI训练。

朱浩齐讲到：“企业服务需要坚持长期主义，在业务的开始阶段我们就应该坚守实事求是。当前的争议，只能说现在AI的能力与企业主观认知出现了偏差，如果通过下线这个功能来规避这个偏差，事后客户还是会发现这个事实。不如大方的开放给客户，帮助客户更好地认识到AI的能力和边界”。

他还表示，AI已有70多年历史，作为数字空间的抽象产物，是连接物质空间与数字空间形成生产力升级的通道，这一点在互联网刚在国内风靡阶段，就已经被大众认识，但是真正了解AI能力和价值的人并不多。

2014年前后，许多人都奔向AI创业，想要做出些成绩。幸运的是，由网易集团孵化的网易易盾，过往通过网易内部的技术研究院储备了大量基础AI能力，方能让我们专注于智能化企业服务，走在时代前沿，难道现在要放弃这种先发优势吗？

直击心灵的两连问，让网易易盾团队再也没有放弃的理由。毕竟困难虽有，但也不能因噎废食。面对发展路上的重重暗礁，网易易盾选择谨慎前行。既然AI认知与市场上企业对内容安全的主观有偏差，那就通过频繁地与客户沟通，让客户理解AI原理，说清楚需求，反哺到AI模型，让认知和能力对齐。

还有，如果AI对隐私安全、数据安全的保障有纰漏，网易易盾团队依旧要与客户保持频繁的沟通，培养他们对AI技术为什么出现这样的问题有准确认知。这里面是没考虑业务场景特性，还是需求没有讲清，再度做认知拉齐，最后通过清晰的反馈让需求与产品能力匹配上。

在秉承AI一定会成为人们工作中最佳辅助手的信念下，网易易盾通过细培育、多沟通、快迭代的方式，逐渐摸清了如何完美度过1-100规模化的方式。并基于此悟出，“和客户在一起”和“MI市场洞察”发展方法论，助力自身发展。

值得一提的是，将“和客户在一起”、“MI市场洞察”这两个方法论做揉合，这刚好暗合经典的企业业务管理「服务三角」模型。 

「服务三角」模型，指的是将“培养客户、聆听反馈、丰富产品”三个环节点、串联成一套闭环且牢固的三角形市场服务体系。以保证在服务过程中，相关厂商能清晰且实时地获取市场需求反馈，并通过产品及服务的敏捷迭代匹配需求端。

例如，在面向近些年火热发展的游戏公司提供服务方面。目前很多大火的多人场景游戏中，都存在一些针对 Unity3D 单机游戏的模拟点击、加速器、修改器、破解版、定制外挂等作弊方式，这些行为不仅影响玩家体验，黑客还会通过外挂插件中植入木马，导致相关玩家游戏账号被盗、遭遇诈骗、个人信息泄露等问题。

面对这种情况，游戏公司一定会做出整治，可公司又不能完全将精力投入反外挂工作中，需要控制运维成本，考虑接下来的游戏迭代和开发新品，以保证公司长久发展，这也让其陷入两难境地。于是，为了能腾出手打造精品游戏，游戏公司在安全方面往往选择与安全服务商合作。

网易易盾在服务时，先是了解游戏中外挂是依靠什么机制诞生的，解释产品的运行原理是什么，在理论上能做到什么效果。之后做初服务测试，看看哪些领域没有做好，并让客户理解为什么这次智能防护出现偏差。

之后，当游戏客户理解安全产品的运行原理，理解遵循这套流程为什么还会出现问题，并给出清晰准确的问题反馈，网易易盾在对其做功能上定向补足，以保证对需求的完美匹配。

当然，这个过程中，由于外挂的迭代，二者之间保持着长时间且高频率的沟通。维系着服务优化、安全产品的迭代。而这个过程，也会让网易易盾的产品能力愈加丰富。

重点在于，很多游戏的外挂BUG机制，存在极大的相似性，都从底层人物模型数据、场景数据、剧情机制中挖掘，并与很多游戏中的恶意打金工作室有关联。

网易易盾通过在服务初始的几个游戏公司客户中，去丰富自身的产品、服务，而这里面的新功能，有大量都可直接复用，让这个产品成为具备行业场景属性的高标准化解决方案。

还有，现在汽车企业都在推出智能化、互联网化产品，通过一个APP随时随地远程控制车辆，获得安心的充电及车主服务，并可以在APP社区互动交流，获得更好的使用体验。

不过以APP做车主的使用和交流平台，就不可避免地要面对网络攻击、不良内容的骚扰，于是在此前提之下，不少第一梯队新造车势力选择网易易盾的数字内容风控解决方案。

而网易易盾为了更好服务这些客户，积极与其进行APP的用户注册，UGC内容发布、活动营销、攻击对抗和隐私合规等方面的沟通，双方勾勒出准确的诉求。

随后，根据源源不断的诉求，团队做出融合内容安全、验证码、反作弊与应用加固等技术能力，且最适合汽车行业场景的安全产品。同时，这也为面向汽车行业标准化的数字安全解决方案打下基础，网易易盾可直接向其他汽车企业提供服务。

“「服务三角」的方法论的出现，让我们对于在1-100规模化阶段有了明确前行方向，起到绝佳的利好效果。”朱浩齐如此表示。

03

风控成为热浪 ，而它在踏浪

自助者，天助之。从一片荒芜的市场出发，7年间网易易盾在数字内容风控赛道的坚守，终于在近些年迎来了“花开时刻”。

据「ToB行业头条」了解，自2016年之后，国内互联网产业进入繁盛阶段，随之出现的违法和不良信息日益增多，对诸多企业旗下产品造成了极大发展困扰。

公开数据显示，2017-2020年间，我国处理的违法和不良信息数量逐年增长，分别为1.9亿条、2.9亿条、4.9亿条以及9亿余条；关闭网站数量分别为1.8万、3.0万、3.8万以及4.4万；关闭违规APP数量分别为4.2万、3.5万、5.5万以及2.8万；撤下违规网络直播数量分别为1.7万、2.7万、3.6万以及1.8万；关停违规账号数量分别为60万、80万、150万以及3900万。

且因主要涉及虚假宣传、侵犯用户权益、非法收集使用个人信息等行为，2017-2020年间，工信部处罚的违法违规APP数量亦是居高不下，分别为7.1万个、4.9万个、6.8万个以及2.2万余个。

这些庞大到令人吃惊的数字，无一不在表明网信办与工信部在过去的几年中，加强了对网络内容、个人隐私安全、数据安全的监管和处罚力度，以便打造一个更加清朗的网络空间。从而倒逼相关企业重视这些方面，做好相应防护。

数字内容风控技术，则可以对用户的个人信息进行保护，避免信息泄露和被盗用，提高用户的信息安全感。同时在获取客户授权的前提下也能对账户的设备ID、IP、行为等进行分析，及时识别和预警欺诈交易，减少企业平台的损失。

因此在近些年受到企业及市场的极度关注，带动了这一产业的发展，推动了其在市场上形成热潮。

IT桔子数据显示，2020年-至今，我国每年有关企业安全方面的投资数量为76笔、109笔、68笔以及11笔，总计投资为264笔。投资金额分别为82.17亿元、126.93亿元、57.44亿元以及7.2亿元，总计投资金额为273.74亿元。

并且IDC的数据显示，全球数字内容风控市场规模在2020年达到了8.57亿美元，并预计将在2025年达到18.97亿美元，复合年增长率（CAGR）为17.6%，数字内容风控发展前景可观。

而网易易盾于2016年便进入数字内容风控领域，多年以来一直深耕技术、贴近客户，目前已是国内赛道中的龙头，服务了数千家头部企业，其中不乏互联网行业的滴滴、知乎、B站、汽车之家，金融行业的华泰证券、中信银行，政府部门及机构的人民网、外交部等一众标杆客户的认可。

因此，多年的技术积累、服务经验沉淀，以及诸多知名客户企业的肯定，也为网易易盾冲刺这波市场热潮奠定了基础，成功踏浪而行。

值得一提的是，网易易盾的发展优势还不止于此，熟悉网易易盾的都知道，它与网易云信、网易云商都隶属于网易智企业务，是网易旗下ToB的左膀右臂之一。而网易云信、网易云商同样是音视频PaaS赛道、数字营销赛道的第一梯队，三者之间起到了强强联合的服务支持。

当下，中国企业基本都在追求一套完整全面的服务体系数字化建设，网易智企则能通过网易易盾、网易云商、网易云信三大业务线，为企业提供综合性的企业服务。

在内，三者提供多渠道、多样化的客户触达新模式，在外，三者赋能企业实现了音视频通信纬度、安全合规纬度、市场商业化营销纬度的全生命周期互动管理，从而备受关注。

如此一来，随着与云商、云信形成联动的效果，在前两者面向潜在客户中，网易易盾也会获得更高的关注度与认可度，极大程度利于市场发展。这方面，通过整合网易易盾与网易云信两大业务能力，推出的“安全通”就是一个极好的证明。

安全通是一个基于云原生架构将通信、安全这两个能力融合，再以一些算法在共同的服务器上抽象出来的产品，对音频、视频传输通过人工智能进行内容安全检测，并且将实时通信服务与内容安全服务融合部署共建，以此提高检测效率。

相关企业在使用“安全通”之后，只需要一个系统、一个后台、一次结算，即可享受网易云信、网易易盾两大技术服务，不仅解决内容传输、安全检测两大问题，也能节省部分成本。据悉，安全通可平均为客户节省20%成本，在某些典型的1V1送检场景可以降低50%左右。

“我们旗下业务板块并非各自为战，而是能够完全打通融合，攥成一拳形成合力。”网易智企总经理阮良曾如此表示，这也说明，网易易盾势必会受网易云信、网易云商的资源反馈、能力反馈，从而获得更好的发展，相反网易云商、网易云信亦是如此。

作为一家在数字内容风控默默深扎数年的ToB服务商，网易易盾从市场一片荒芜开始，终迎春日到来，这是一段值得铭记的过往。不过时代还在滚滚向前发展，数字内容风控在国内还远未到达成熟期。网易易盾也清楚这点，因此还是维持努力态度，希望推动这一项服务再进步。

“正如空气一样，人们无感知，却又是生存的必备要素之一。”朱浩齐说，“网易易盾就是要发展成这个状态。让网民像享受空气一般，获得这个网络世界中必备的安全要素，同时不会对正常网络生活产生影响。成为所有企业、所有人的数字空间保护者。”