字节跳动技术“投毒”事件忧思录

字节跳动日前爆出的程序员“投毒”技术系统事件，迄今处于反转、再反转中，余波不断。

大概事实是，字节跳动某技术团队的一名实习生利用Huggingface（HF）平台漏洞，在公司的共享模型中写入了破坏代码，导致模型训练效果忽高忽低，无法产生预期的训练成果。

直接结果是，一个多月里， 8000多张英伟达 H100训练的模型都是错误的，损失超千万美元。

据媒体报道，字节跳动知情人士表示，确实有破坏模型训练一事，不过传闻有“夸张和虚构”的成分，损失没有那么大。

据悉，受影响的不是豆包大模型，而是商业化技术团队的模型训练任务，仅影响了“广告部门的一些技术工作”。

对此，字节跳动的处理方式是，“辞退+同步行业联盟+同步情况给学校”，并未像传闻中所说的，肇事者“被送进去”。

有点狗血的是，消息曝出后，该名涉事实习生在社交平台上找自媒体博主“辟谣”甩锅，说是其他人做的。不过很快便遭到否认。

有自知情人士在Gitbub上分享了一则调查人员对涉事实习生的询问录音，还原其攻击过程。

录音中疑似田某本人的回应，承认了其通过update使得code带有了攻击性。其也对问询人员明确表示，“就是因为某些原因导致了我们都非常不满”。

“所有的记录和审查都证明这是不容狡辩的事实”，Gitbub 这个爆料人称。

琐碎细节和口水战的子弹，相信还会飞扬一阵，是非论断在这些漩涡里有可能越来越不清晰，直至被遗忘。

与大厂的其他八卦相比，技术“投毒”事件，因信息认知差程度，往往掀不起太大波澜，但反而应该得到更多关注与重视。

一方面，类似事件并非偶发和孤例。

比如， 2020年2月，微盟研发中心技术人员通过VPN登录服务器，并对线上生产环境进行了恶意破坏，删除了数据库，导致微盟平台约300万个商家的小程序全部宕机，事件从发生，到数据全面找回历时一周。

该事件当时导致微盟市值蒸发超过30亿港元。此外，微盟还准备了1.5亿元的赔付拨备金。

另一方面，类似字节跳动这样，以完全的技术或算法控制的中心化平台，技术“投毒”可能造成的失控，其可能的影响，会比企业直接损失要更加可怕。

这种平台，通过强大的技术支撑，对生态企业和用户，有着绝对的主导权与控制力，比如流量分发、社会议题设置，直至产业纵深等。

对外部而言，这种控制力强硬而巨大，无懈可击。

但越精密的系统，就有可能越脆弱，尤其对内部而言，牵一发而动全身，及动全局。

很难想象，如果有核心算法部门的程序员，改动某个程序，造成流量分发紊乱，会导致怎样的财富爆发与幻灭。

或者，某个议题被情绪中的个别程序员无序推送后，会造成怎样的不可控后果。

因而，如何防范这种个别技术员的“偶发性投毒”事件，不仅是这些早已具备社会属性的平台公司所面临的挑战，更应该引起社会，及监管部门的更多注意。

另一种评论认为，这也是“大公司病”的一种表现。

以往的该病症，可能更多的认知里表现为，机构臃肿、效率低下、人浮于事，及战略迟钝等。

字节跳动CEO梁汝波曾提到，公司变大之后，效率可能比其他优秀团队低30%甚至50%。这种效率低下在公司响应市场的速度和创新能力上反应得最为直接。

但如此种种，最大的可能，也就是巨头的枯荣生灭，如诺基亚、如柯达、如飞利浦、如 GE。

如字节跳动、拼多多、美团、滴滴等，类似技术主导的平台型企业，偶发性技术投毒事件之病症，尚且可能如此，“大公司病”的遗患会是如何？值得忧思。

互联网往移动互联网，再往AI的技术形态演进过程中，纯粹技术对行业、产业、社会的影响正在变得越来越深切。

在享受其带来的便利与效率的同时，唯技术论、唯算法论等认知也越来越普遍，大家几乎相信技术能解决一切问题，比如延续增长、寿命逃逸、能源永续、星际移民。

与此同时，以AI为代表的，关于技术哲学与技术伦理的讨论也越来越多。

比如个体的、产业的、人类的安全问题与终极问题等。

结论尚需时日，或者不可结论，但不能忽视的事实是，技术主导性越大，其可能的反作用力就越大。

尤其对于技术主导的平台型、生态型企业而言，如何避免个人、随机性事件的危害产生与扩大，应该引起关注。

就是说，不能让随机的个人，掌握一个强大控制力的技术系统的“按钮”，成为可能。

您也可以关注我们的官方微信公众号（ID：ctoutiao），给您更多好看的内容。