AI与科技第 18 期 ·

TikTok的无限滚动,EU称之为“违法”的真正原因

成瘾并非用户意志的问题。EU这次首次将责任归咎于“平台设计”

TikTok的无限滚动,EU称之为“违法”的真正原因

开篇

订阅者,您好。

2026年2月6日,欧洲委员会(European Commission)对TikTok作出了初步裁定。罪名的表述略显陌生:“成瘾性设计(Addictive Design)”违反了欧盟《数字服务法》(DSA)1。这也与之前发布的ADHD通讯有关。

应用的算法和UX设计本身成为法律制裁对象,这在欧盟历史上还是第一次。这不是内容问题,而是直指无限滚动、自动播放、超个性化推荐算法这类体验设计的结构本身。

不过这里浮现出一个问题:“既然YouTube Shorts或Instagram Reels也以同样方式运作,为什么偏偏是TikTok?”更进一步说,这项监管会给整个AI个性化服务领域带来怎样的波及效应?

老虎机进入智能手机的那一天

无限滚动最早出现于2006年。它由推特前UX设计师Aza Raskin构思而成,他后来公开表示这是“自己犯下的错误之一”,并对此表示后悔。

为什么会这样?这源于心理学家B.F. Skinner在1950年代发现的行为主义原理——“变动比率强化(Variable Ratio Reinforcement)”。Skinner在以老鼠为对象的实验中发现,比起可预测的奖励,不规律的奖励更能强烈且持久地维持行为。老虎机正是按照这一原理设计的。每次拉动拉杆都感觉会出点什么,但何时出现却充满不确定性,这种不确定性让人无法停手。

从结构上看,下滑社交媒体信息流的行为,与拉动老虎机拉杆完全相同。发现有趣内容时会分泌多巴胺,也会期待下一条内容。即便这种期待未被满足,手指也已经在动了。

这里就出现了TikTok的与众不同之处。YouTube Shorts或Instagram Reels在技术上存在内容耗尽的临界点。但TikTok的算法会实时学习用户反应,无止境地重新构建播放列表。“下一个视频”始终处于待命状态的结构。欧洲委员会将这种设计描述为会把用户的大脑切换到自动驾驶模式(autopilot mode)

EU摆出的数据

欧洲委员会的初步裁定并非单纯的政治宣言,而是历时14个月深度调查的结果。始于2024年2月的正式调查,涵盖了TikTok的内部风险评估报告、内部数据,以及行为成瘾领域专家的访谈。

调查结果中,委员会尤其质疑以下几点:

  • 无限滚动:内容消费缺乏自然终止点的结构
  • 自动播放:未经用户主动选择即切换到下一个视频
  • 深夜推送通知:即便在睡眠时段也持续将用户拉回应用的通知设计
  • 超个性化推荐系统:通过用户画像2实现的实时内容优化 委员会尤其关注青少年数据。欧盟内13至15岁青少年中相当一部分每天在TikTok上花费3至5小时,且深夜(晚上10点以后)使用最多的应用排名第一的正是TikTok,这一点被用作核心依据。美国皮尤研究中心(Pew Research Center)2024年的调查也显示,约60%的青少年每天使用TikTok,16%的人回答自己“几乎一直”在线。

委员会认定,TikTok在风险评估报告中有意忽视了这些过度使用指标,即深夜访问频率、应用启动次数、强迫性使用模式。同时也指出,现有的屏幕时间管理工具或家长控制功能并未能实质性降低这种结构性风险。不过,如今IT行业的产品/服务中,究竟有哪家不做上述这4件事呢?

TikTok立即予以反驳,强烈质疑称这是“毫无根据的歪曲”,但目前正处于针对委员会主张行使抗辩权的阶段。

“烟草公司责任论”的回归

理解此次事态最有用的一个比喻,也是欧洲主要舆论媒体共同拿出来的比喻,正是烟草监管的历史。

在1950至60年代初期,吸烟的危害被框定(framing)3为个人意志的问题。逻辑是“戒不了烟是吸烟者本人意志力不足”。但从某个时点开始,监管的框架发生了转变——责任被转移到明知尼古丁具有成瘾性却仍将其反映在产品设计中的烟草公司身上。烟盒上强制印上警示图片、广告受到限制、公共场所禁烟,这些都是在那次转变之后才出现的事情。

这次EU对TikTok的裁定,正是在社交媒体领域尝试同样的转变——“这不是用户意志的问题,而是平台UX设计的责任”这一范式转换。

事实上,欧洲委员会副主席Henna Virkkunen就曾这样表示:“《数字服务法》让平台对其给自身用户带来的影响承担责任。在欧洲,我们执行法律是为了在网络上保护儿童与公民。”

值得注意的是,这项监管不是建议,而是强制性规定。根据DSA,一旦最终判定为不合规,最高可对TikTok母公司字节跳动(ByteDance)全球年营收的6%处以罚款。考虑到字节跳动2025年的目标营收规模,罚款金额最高可能达到数十亿美元。

Oswarld视角

老实说,对于这次裁定,我心里同时存在“这理所当然是对的”和“这似乎有点过头了”两种想法。

暗黑模式4、变动奖励设计、深夜通知这类要素,理应受到监管。即便用户下定决心“到此为止不再看了”,应用仍强行推送下一条内容的设计,这已接近侵犯自我决定权。

但是,我们通过许多历史与案例了解到一件事:监管总是会产生气球效应。压下一边,另一边必定会鼓起来。韩国的游戏宵禁制度是这样,大型超市强制休业制度也是这样。当有分析指出,让大型超市歇业的结果只是让Coupang一家坐大时,想想当初制定这项制度的人们脸上会是什么表情……监管的意图和结果并不总是一致的。

还有一个更根本的担忧。**如果将“超个性化算法”和“用户画像”本身作为监管对象,这条界线会延伸到哪里?从数据专家的角度来看,这一设计原理并不只是社交媒体的问题。**我们所期待的AI个人助理的核心,恰恰也是“最了解我的超个性化推荐”。无论是ChatGPT还是Claude,归根结底,“记住我的语境,给出为我优化的答案”才是AI服务的价值所在。若留下这种结构可被监管的先例,可能会影响整个AI产业的设计原则。

这次EU打开的这扇门,似乎不只是TikTok一家的门。

结语

可以这样总结这次事态。

EU首次将经验设计(而非单纯的TikTok内容)的责任归属正式纳入监管框架。虽然这只是初步裁定,最终结论尚需经过程序,但Facebook、Instagram,以及时尚平台Shein也已因同样的指控被展开调查。澳大利亚已实施全面禁止16岁以下人群使用社交媒体,西班牙、法国、丹麦、挪威也在审议类似法案。

源自欧洲的监管讨论通常会波及美国和亚洲。此刻或许正是数字平台设计伦理范式转变的转折点。

我想向您抛出一个问题。在您每天使用的应用中,如果有那种您想戒掉却戒不掉的经历,那究竟是意志的问题——还是设计的问题?

参考资料与延伸阅读

作者安光涉是世宗大学经营学教授,也是 OBF(Oswarld Boutique Consulting Firm)首席顾问。他在大学教授经营数据管理、商业分析等统计与数据分析课程,同时在产业现场负责 GTM 与人工智能战略咨询,设计技术与商业的连接方式。他曾发表关于 AI 对话系统记忆架构(HEMA)的学术论文,并运营每日策展全球 AI 论文的 Daily Arxiv 项目。他毕业于高丽大学技术经营专业研究生院与 KMBA,著有《把思考交出去的人:Homo Brainless》。

注释

  1. DSA(Digital Services Act,数字服务法):欧盟于2023年施行的在线平台监管法。对用户规模达到一定量级以上的大型平台,课以风险评估义务、内容监管、广告透明度等严格要求。

  2. 用户画像(User Profiling):通过收集与分析用户的行为数据(搜索词、观看时长、点击模式等),预测个人兴趣与心理模式的技术,是推荐算法的核心基础。

  3. 框定(Framing):同一事件因观察视角和语言不同,理解与判断也会随之不同的现象。就像“吸烟是个人意志的问题”转变为“吸烟是被设计出来的成瘾”一样,指的是责任归属本身发生转变的框架转换。

  4. 暗黑模式(Dark Pattern):有意设计成诱导用户做出其本不愿意行为的UI/UX手法。代表性例子包括让取消订阅变得困难的按钮布局,或将自动续订同意设为默认选项等。