近期见闻
抖音凭什么管好算法？
出品｜虎嗅ESG组 作者｜陈玉 立 头图｜视觉中国 本文是#ESG进步观察#系列第178篇文 章 本次观察关键词：算法治理 "算法肯定是可控的，不可控它上不了线。" 在一次近四小时的对话中，抖音 生态运营组刘霄（化名）用这句话回应了一个盘旋在推荐系统上空多 年的问题：算法究竟是平台可以控制的工具，还是连平台自己也说不 清的黑箱？
过去几年，对抖音算法的讨 论常有，如2024年钟睒睒公开喊话抖音要求道歉；再比如近一年 "满汉全席吃人""华伦天奴祖上 是满清贵族""红楼梦悼明"等谣 言被算法推送，引发公众质疑。这些争议也是本次对话的意义所在，虎嗅ESG组关注的是一个更直接的问题：当一个日活数亿的内容平 台声称自己在认真治理内容生态时，它的治理究竟在多大程度上是真 实的，又在多大程度上只是一种系统性的自我辩护？
按照刘霄在对话中 的陈述，一条视频能否进入流量池、会被推荐 给谁、能获得多大流量，既取决于用户行为，也受到安全审核、推荐目标、内容质量、价值 导向、人工规则和经营决策的共同影响。换句 话说，抖音不是在把内容交给算法之后便失去 了控制，它一直在通过不同层级的机制校准这 台机器。
但有能力控制和愿意为控制承担代价，是两件完全不同的事。借着这次近4小时的对话，我们想弄清楚一件事：在"可控";这两个字背后，抖音究竟把哪些内容拦在了流量池之外，又把哪些流量让给了事实与理性，当一个日活数亿的平台开口说"我在治 理"时，这句话真实的分量、代价与边界，究竟在哪里？
一、一条视频的生死线：治理到底在治什么？虎嗅ESG组： 外界对抖音最直接的一个批评，就是短视频上瘾。你们内部会回避"沉迷";这个词吗？刘霄： 我们确实发现，内外部视角差别很大，很多事情外界不理解，因为听起来反常识。"沉迷"是第一个反常识的事。
抖音是一个数据驱动 的产品，经常面向用 户做调研。其中一个反馈是 ：有用户觉得&qu ot;沉迷感很重"，这恰恰是他们 离开抖音的重要原因 。用户为什么走？刷 了很多东西，但最后觉得没 收获、内容浅。从平 台角度，我们当然希 望用户能够长期信任并使用 抖音，我们希望改善 的方向，是让用户有 价值感和收获感。
为降低"沉迷感"，我们从前台产品、中间层数据到底层模型做了很多事，努力让抖音上有更多有价值、有营养的内容供给。虎嗅ESG组： 既然不追求沉迷，那能否系统地讲一下，抖音的治理到底在做什么？刘霄：抖音的治理非常复杂。整体有一套大体系，业务流程叫四个环节：定义、识别、处置、沟通。
第一步是 定义：什么样的内容应该被治理、被拦截、不 应该被过度分发。大体分几类： 第一类是涉 及法律底线的违法违规问题； 第二类是违反 公序良俗、易引发用户反感不适的问题，严重 的会下架； 第三类是违背平台运营规范，不 利于构建健康的平台生态和创作公平环境，比 如搬运抄袭，背后可能是恶意营销号在工业化 、批量化地生产，造成了内容的严重同质化，这些都违背了平台鼓励原创的原则，也是要清 理处置的。
从平台内容生态的角度，我们希望创作公平，鼓 励真诚创作。第二步是识别，两个主体：人工审核员和机器。抖 音每天新增视频近 1 亿条，没有任何人工团 队能单独解决。这也是为什么第一步定义要非常 清楚——你既要教会人工审核员按标准拦截，也要教会机器。我 们针对不同领域训练了很多模型，比如识别网暴 和谣言各自有不同的模型。
在内容发布前，需要机器对所有内容是否存在违法违规等底线问题进行审核；随后，流量越高的内容经过评估的次数越多，标准也越严格。而像金融、医疗、国际问题这种专业性门槛很高的，有专门的高级编辑团队。第三步是处置，依据法律法规做梯度策略：有的是流量层面管控；有的是账号层面；有的是单条内容层面。
第四步是沟通。绝大多数用户不知 道标准和规则在哪，所以我们有一份《抖音社区自律公约》，是治理 体系的外化公开版本 。但公约太长，不可能让用户像背法条一样背下 来，所以用户触发某 条规则时，我们会同步告诉他命中了哪条，他了 解之后自己就能规避 。抖音App内的《抖音社区自律公约》 虎嗅 ESG组： 底线类 问题好办，就是违规不违规。
像第二类违反公序良俗的内 容，有统一标准吗，怎么治理？刘霄： 我举两个例子。有一类是引 人不适的内容，比如蛇虫鼠蚁，很多人看 了不舒服、很反感，但蛇虫 鼠蚁视频里也有优质的科普内容。算法会 基于用户举报、点击不喜欢 等行为，避免那些吸引眼球、引人不适的 视频过热，其中严重引发不 适的内容，会被下架处理。
还有一种典型案例是涉及传统习俗的，在山东部分地区，过年会给长辈磕头，家族里年长的坐在前面，下面几十个亲戚磕头，评论区在激烈地吵架，一派说"大清都亡了多少年了";，一派指责你们不尊重传统习俗。这种内容在一部分人群中容易引发争议对立、负向情绪，平台会综合用户的行为反馈和问卷调研结果，如果发现用户确实不喜欢该内容，就会减少相关内容的推荐。
另外算法会尽可能地在用户兴趣维度上分发更好的内容。二、争议热点事件怎么 治？虎嗅ESG组： 对一些发生在抖音的争议 热点事件，大家会怀疑这背后是不是有人在借此做营销，对这些争议热点的治理是什么机制？刘霄： 去年 5 月我们出了一份《抖音社区热点信息和账号治 理规则（试行）》，是跟主管部门、专家、媒体多轮前期沟通之后，依据法律法规和平台实践做的。
这个规范确定了抖音治理热点事件的五个原则，基本反映了争议热点事件涵盖的主要几类风险内容。除了第一条讲";依法依规运营，落实主体责任"，后面主要是四个方向： 第一，治理事件中的不实信息，让事实更好地传播。很多事件跑偏就是因为谣言，大家听信谣言、被极端情绪带着走。
第二，有些事件事实传播没问题，但很多账号发极端观点，最后导致 整个网络情绪撕裂，这是要控的。第三，治理蹭热营销号。恶意营销 号是我们的一个治理专项，外界可能觉得平台欢迎营销号，觉得他们 有流量——这又是一个反常识：抖音不欢迎恶意营销号，他们内容低 质，长期用户不喜欢。
而且他们为了 起号，一有热点就蹭，为了流量发表不负责任的言论，这是我们治理 的关键方向。第四，相关当事人的保护。一方面是网暴；另一方面，我们在规范里写了一条：不希望热点当事人在风口浪尖马上变现。这 条当时在和一些法学家交流时受到了质疑——他们说这是当事人的权 利，没有哪条法律规定不能变现。
我们后来 解释：平台实践中 发现，大量争议热点当事人 因为想快速变现，最后动作变形、自己塌房，钱没赚多少，平台 被骂、舆论乌烟瘴气，是多 输。这四个方向后 来落成了业务治理链路：有 专门团队研判什么 样的内容有问题；机器判断 里面有没有不实信 息或极端言论；运营把权威 媒体传达事实和理 性观点的内容做更多传播。
最终就两个目标——让事实传播得更多，让理性 的声音传播得更多。抖音安全与信任中心内的热点专项动态 虎嗅ESG组： 目前抖音的算法会服务商业目标吗？插入更多广告、更多电商内容，路径是什么 ？刘霄：平台主要的变现方式是广告和电商，这里面当然有平衡，广告对很多人来说也是有效信息，但每个人体感不同，如果推多了，有一种用户反馈的声音是 "营销感太重"，也会让用户流失。
有些所谓"不好的商业变现"，商业化和电商团队在治理。比如有电商主播，内容和言行的价值导向不好，会限制他的带货权限，严重的直接禁。再比如有些广告，实际服务跟不上——比如一些不正规的防水补漏广告，线下履约很差，我们也清掉。商业变现必须跟社区整体价值导向一致，因为平台最终重要的一个指标是"用户体验"——活跃度掉了、营销感太重了，数据都会反馈回来。
我们会 定期做用户主观调研，包括 满意度、营销感访谈 ，反过来推动业务优 化。虎嗅ESG组： 大部 分行业人的常识里有 一个预设，觉得商业 目标和治理目标天然冲突，应该警惕平台为了商 业利益牺牲治理。这 个预设对吗？刘霄：这个是 典型的误解，外界可 能觉得抖音需要更多 流量才有更多商业利益，所 以会推有争议的、低 俗的、爱互骂互撕的 内容——这条链可能看起来 特别合理，但在业务 场景里站不住脚。
前面说了，我们追求的是用 户长期能够信任、使用抖音，而不是短期的数据指标，我们的商业回 报也建立在这个前提上。而不良内容会降低用户对抖音的信任，甚至 直接把用户驱离抖音。先说狭义的争议——引战对立、愤怒诱饵、男 女对立、族群对立、婆媳对立这类内容，我们分供给侧和消费侧看：供给侧，用户发出来的对立攻击评论，占总评论量的比例极少；在消 费侧，对立攻击评论的实际展现，比供给侧几乎要再低一个数量级。
再说争议热点事件 ，这可能是大家对抖音负面观感最主要的来源 。这些争议事件在抖音流量大盘中的占比也非 常非常低，任何一家理性的公司，不会为了如 此低的流量去承担这么巨大的舆论风险。这些 争议内容、恶意营销号带来的流量，对抖音来 说是完全的负资产、毒流量。
"愤怒诱饵&quo t;成为2025年牛津年度词汇 三、算法到 底是谁说了算？虎嗅ESG组： 抖音现在怎么 理解算法的？它是人能控制的系统，还是人摸不着的黑箱？刘霄 ： 我们团队去年第一次把抖音算法系统梳理了 一遍并对外公开。用一句话总结：算法是通过A I机器学习技术，对用户过往的行为建模和计算，来推测用户未 来对不同信息的行为概率。
先把用户的各种行为特征——过往行为、点赞、收藏——转化成数学向量；再把各种内容也转化成数学向量；然后计算内容和用户在向量空间里的关系。抽象成二维或三维空间，每个用户是一个点，每个内容是一个点，用户喜不喜欢一条内容，最后算的就是两个点之间的距离。
这一点特别重要，因 为它能回应外界一个典型误解：大家觉得平台明 知道有些内容有争议 、有流量（比如网红跳舞），所以主动去推，其 实不是的。在推荐算 法的语言里，它根本不知道什么叫"争议事件" ;，也不知道什么叫"网红跳舞&q uot;，它只知道 这个内容的点跟这个用户的点离得近。
为什么近？因 为用户一次次行为反馈，每次反馈都在数学空间上把用户的点和某些 内容的点拉得更近。算法没有一个固定的判断说"你这个 人就喜欢什么"，它是动态的，你每次快速划走、点&q uot;不喜欢";，都是在校准它，最终计算出某位用户 和某些内容之间存在多大程度的数学统计关联。
具体一条 视频发出来之后，流程是这样的：第一步先过 安全审核——审核在分发之先。传统媒体里，把好稿子挑出来和把风险内容删掉是一个编辑 同时完成的，但今天我们的技术做不到一个算 法既管分发又管审核，所以分发算法和安全审 核算法是两套系统。