采编速览
抖音凭什么管 好算法 ？
出品｜虎嗅E SG组 作者 ｜陈玉立 头图｜视觉中国 本文是#E SG进步观察#系列第17 8篇文章 本 次观察关键词：算法治理 "算法肯定是可控的，不可控 它上不了线。" 在一次近四 小时的对话中 ，抖音生态运营组刘霄（化 名）用这句话 回应了一个盘旋在推荐系统 上空多年的问 题：算法究竟是平台可以控 制的工具，还 是连平台自己也说不清的黑 箱？
过去几年，对抖音 算法的讨 论常有，如202 4年钟睒睒公开喊 话抖音要求道歉；再比如近一年&q uot;满汉全席 吃人&q uot;&quo t;华伦天奴祖上是满清贵族&qu ot;" ;红楼梦 悼明"等谣言被算法推送，引发公众质疑。这些争议 也是本次 对话的意 义所在，虎嗅ES G组关注的是一个更直接的问题：当 一个日活 数亿的内 容平台声 称自己在认真治理 内容生态时，它的治理究竟在多大程 度上是真 实的，又 在多大程 度上只是一种系统 性的自我辩护？
按照刘霄在对话 中的陈述，一条 视频能否进入流 量池、会被推荐给谁、能获得多 大流量，既取决 于用户行为，也 受到安全审核、推荐目标、内容质量、价值导向 、人工规则和经 营决策的共同影 响。换句话说，抖音不是在把内 容交给算法之后 便失去了控制，它一直在通过不 同层级的机制校准这台机器。
但有能力控制和愿意为控制承担代价，是两件完全不同的事。借着这 次近4小时的对话，我 们想弄清楚 一件事：在";可控"这两个字背后，抖音究竟 把哪些内容拦在了流量 池之外，又 把哪些流量让给了事实与理性，当一个日活数亿的平台开口说&qu ot;我在治理&qu ot;时，这句话真实的分量、代价与边界，究竟在哪里？
一、一条视频的生死 线：治理到底在治什 么？虎嗅ESG组： 外界对抖音最直接 的一个批评，就是短 视频上瘾。你们内部 会回避"沉迷"这 个词吗？刘霄： 我 们确实发现，内外部 视角差别很大，很多 事情外界不理解，因 为听起来反常识。"沉迷&q uot;是第一个反 常识的事。
抖音是一个数据驱动的产品 ，经常面向用 户做调研。其中一个反馈是 ：有用户觉得 "沉迷感很重"，这恰恰是他们离开抖音的重 要原因。用户 为什么走？刷了很多东西，但最后觉得没 收获、内容浅。从平台角度 ，我们当然希 望用户能够长期信任并使用 抖音，我们希 望改善的方向，是让用户有 价值感和收获 感。
为降低";沉迷感"，我们从前台 产品、中 间层数据到底层模 型做了很多事，努力让抖音上有更多有价值、有营养的 内容供给 。虎嗅ESG组： 既然不追求沉迷，那能否系统地讲一下，抖音的治理 到底在做 什么？刘霄：抖音 的治理非常复杂。整体有一套大体系，业务流程叫四个 环节：定 义、识别、处置、沟通。
第一步是定义：什么样的内容应 该被治理、被拦截、不应该被过 度分发。大体分几类： 第一类 是涉及法律底线 的违法违规问题 ； 第二类是违反公序良俗、易引发用户反感不 适的问题，严重的会下架； 第 三类是违背平台运营规范，不利 于构建健康的平 台生态和创作公 平环境，比如搬运抄袭，背后可能是恶意营销号 在工业化、批量化地生产，造成 了内容的严重同质化，这些都违 背了平台鼓励原 创的原则，也是 要清理处置的。
从平台内容 生态的角度 ，我们希望 创作公平，鼓励真诚创 作。第二步是识别，两 个主体：人工审核员和 机器。抖音 每天新增视 频近 1 亿条，没有 任何人工团 队能单独解决。这也是 为什么第一步定义要非 常清楚——你既要教会 人工审核员 按标准拦截 ，也要教会 机器。我们针对不同领 域训练了很多模型，比 如识别网暴 和谣言各自 有不同的模 型。
在内容 发布前 ，需要机器对 所有内 容是否存在违 法违规 等底线问题进 行审核 ；随后，流量 越高的 内容经过评估 的次数 越多，标准也 越严格 。而像金融、医疗、国际问题这种 专业性 门槛很高的，有专门 的高级编辑团 队。第 三步是处置，依据法 律法规做梯度 策略：有的是流量层 面管控 ；有的是账号 层面；有的是单条内 容层面 。
第四步是沟通。绝大多数用 户不知道标准和规则在哪，所以我们有一 份《抖音社区自律公约》，是治理体系的 外化公开版本。但公约太长，不可能让用 户像背法条一样背下来，所以用户触发某 条规则时，我们会同步告诉他命中了哪条 ，他了解之后自己就能规避。抖音App 内的《抖音社区自律公约》 虎嗅ESG 组： 底线类问题好办，就是违规不违规 。
像第二类 违反公序 良俗的内 容，有统 一标准吗 ，怎么治 理？刘霄： 我举 两个例子。有一类 是引人不 适的内容 ，比如蛇 虫鼠蚁，很多人看 了不舒服、很反感 ，但蛇虫鼠蚁视频 里也有优 质的科普 内容。算 法会基于 用户举报 、点击不喜欢等行 为，避免那些吸引 眼球、引 人不适的 视频过热 ，其中严 重引发不 适的内容，会被下 架处理。
还有一种典型案例是涉及传统习俗的，在山东部 分地区，过年会给长辈磕头，家族里年长的坐在前面，下面几十 个亲戚磕头，评论区在激烈地吵 架，一派说"大清都亡了多少年了"，一派指责你们不尊重传统习俗。这种内容在一部分 人群中容易引发争议对立、负向 情绪，平台会综合用户的行为反馈和问卷调研结 果，如果发现用户确实不喜欢该内容，就会减少相关内容的推荐 。
另外算法会 尽可能地在用户兴趣维度上分发更好的内容。二、争议热点事件怎么 治？虎嗅E SG组： 对一些发生 在抖音的争议热点事件，大家会怀疑这背后是 不是有人在借此做营销 ，对这些争 议热点的治 理是什么机 制？刘霄： 去年 5 月我们出了一份《抖 音社区热点信息和账号 治理规则（试行）》，是跟主管部 门、专家、媒体多轮前期沟通之后，依据法律 法规和平台实践做的。
这个规 范确定了抖音 治理热 点事件的五个 原则，基本反映了争 议热点 事件涵盖的主 要几类 风险内容。除 了第一 条讲&quo t;依 法依规运营，落实主 体责任&qu ot;，后面主要是 四个方 向： 第一，治理事 件中的不实信 息，让 事实更好地传 播。很 多事件跑偏就 是因为 谣言，大家听 信谣言 、被极端情绪 带着走 。
第二，有些事 件事实传播没问题，但很多 账号发极端观 点，最后导致整个网络情绪 撕裂，这是要 控的。第三，治理蹭热营销 号。恶意营销 号是我们的一个治理专项，外界可能觉得 平台欢迎营销号，觉得他们 有流量——这 又是一个反常识：抖音不欢 迎恶意营销号 ，他们内容低质，长期用户 不喜欢。
而且他们 为了起号，一有热点就蹭，为了流量 发表不负 责任的言 论，这是 我们治理的关键方 向。第四，相关当事人的保护。一方 面是网暴 ；另一方 面，我们 在规范里写了一条 ：不希望热点当事人在风口浪尖马上 变现。这 条当时在 和一些法 学家交流时受到了 质疑——他们说这是当事人的权利，没有哪条 法律规定 不能变现 。
我们后来解释：平台实践中发现 ，大量争议热点当事人因为想快 速变现，最后动 作变形、自己塌 房，钱没赚多少，平台被骂、舆 论乌烟瘴气，是 多输。这四个方 向后来落成了业 务治理链路：有专门团队研判什 么样的内容有问 题；机器判断里 面有没有不实信息或极端言论；运营把权威媒体 传达事实和理性 观点的内容做更 多传播。
最终就两个目标——让事实传播得 更多，让理性的声音传 播得更多。抖音安全与信任中心内的热点专项动态 虎嗅ESG组： 目前抖音 的算法会服务商业目标 吗？插入更 多广告、更多电商内容，路径是什么？刘霄：平台主要的变现方式是 广告和电商，这里面当 然有平衡，广告对很多人来说也是有效信息，但每个人体感不同，如果推多了，有一种用户反馈的声音 是&quo t;营销感太重"，也会让用户流失。
有些所 谓"不好 的商业变现&quo t;，商业化和电商 团队在治理。比如有 电商主播，内容和言 行的价值导向不好，会限制他的带货权限 ，严重的直接禁。再 比如有些广告，实际 服务跟不上——比如 一些不正规的防水补 漏广告，线下履约很 差，我们也清掉。商 业变现必须跟社区整 体价值导向一致，因 为平台最终重要的一 个指标是" ;用户体验&quo t;——活跃度掉了 、营销感太重了，数 据都会反馈回来。
我们会定期做 用户主观调研 ，包括满意度、营销感访谈 ，反过来推动 业务优化。虎嗅ESG组： 大部分行业 人的常识里有一个预设，觉 得商业目标和 治理目标天然冲突，应该警 惕平台为了商 业利益牺牲治理。这个预设 对吗？刘霄：这个是典型的误解，外界可 能觉得抖音需 要更多流量才有更多商业利 益，所以会推 有争议的、低俗的、爱互骂 互撕的内容——这条链可能看起来特别合 理，但在业务 场景里站不住脚。
前面说了 ，我们追求的是用 户长期能够信任、使用抖音，而不是短期的数据指标，我们的商 业回报也建立在这 个前提上。而不良内容会降低用户对抖音的信任，甚至 直接把用 户驱离抖音。先说 狭义的争议——引战对立、愤怒诱饵、男女对立、族群 对立、婆 媳对立这类内容，我们分供给侧和消费侧看：供给侧，用户发出来的对立 攻击评论 ，占总评论量的比 例极少；在消费侧，对立攻击评论的实际展现，比供给 侧几乎要 再低一个数量级。
再说争议热点事 件，这可能是大 家对抖音负面观感最主要的来源。这些争议事件 在抖音流量大盘中的占比也非常 非常低，任何一家理性的公司，不会为了如此低 的流量去承担这 么巨大的舆论风险。这些争议内容、恶意营销号 带来的流量，对抖音来说是完全 的负资产、毒流量。
" ;愤怒诱饵 ";成为20 25年牛津年度词汇 三、算法到 底是谁说了 算？虎嗅E SG组： 抖音现在怎 么理解算法的？它是人 能控制的系统，还是人 摸不着的黑 箱？刘霄： 我们团队 去年第一次 把抖音算法 系统梳理了一遍并对外 公开。用一句话总结：算法是通过 AI机器学 习技术，对 用户过往的 行为建模和 计算，来推测用户未来 对不同信息的行为概率 。
先把用户的各 种行为 特征——过往 行为、点赞、收藏——转化 成数学向量；再把各 种内容也转化 成数学 向量；然后计 算内容 和用户在向量 空间里 的关系。抽象 成二维 或三维空间，每个用 户是一个点，每个内 容是一个点，用户喜 不喜欢一条内 容，最 后算的就是两 个点之 间的距离。
这一点特别重 要，因为它能回应外界一个典型误解：大 家觉得平台明知道有些内容有争议、有流 量（比如网红跳舞），所以主动去推，其 实不是的。在推荐算法的语言里，它根本 不知道什么叫"争议事件&q uot;，也不知道什么叫"网红跳舞"，它只知道这个内 容的点跟这个用户的点离得近。
为什么近？因为用 户一次次行为反馈 ，每次反 馈都在数 学空间上 把用户的 点和某些 内容的点拉得更近 。算法没有一个固 定的判断 说&qu ot;你 这个人就 喜欢什么 "，它 是动态的，你每次 快速划走 、点&q uot;不喜欢" ;，都是在校准它 ，最终计算出某位 用户和某 些内容之 间存在多 大程度的 数学统计 关联。
具体一条视频发 出来之后，流程是这样的：第一 步先过安全审核——审核在分发之先。