Apple和欧盟都止步的路，只有韩国在走
7月起社区图片全面扫描，费用全额由业者承担。本文原为付费订阅者专属文章，应订阅者要求、希望能让更多人知道，现转为全文公开。恳请多多分享与订阅。感谢提议分享的James。
这篇文章原本是付费订阅者专属内容，应订阅者的要求、希望能让更多人知道，因此转为全文公开。恳请多多分享与订阅。感谢提议分享的James。
开篇
今年4月30日，Ruliweb运营者Jin In-hwan（音译）发布了一则公告。“从7月1日起，所有图片都必须经过AI过滤。”也就是说，在游戏社区上传一张照片，按下上传按钮的瞬间，AI会先审视这张图片。
理由是防止非法拍摄物流通。否定这一宗旨本身的人并不多。但这项措施一经公布，FMKorea、DC Inside、Clien等主要社区就一齐反弹。与此同时，海外的Hacker News和Privacy Guides上也开始流传“韩国正在用AI审查所有图片”的帖子。
先说结论。这不是一个单纯的国内监管问题。这是Apple和欧盟都曾审视过、却最终止步的一条路。而这条只有韩国在走的路，究竟通向何方，今天我们一起来梳理一下。
7月1日，韩国互联网将发生什么
2026年4月28日，《电气通信事业法》施行令完成修订。核心只有一句话：为防止非法拍摄物流通而进行的事前拦截对象，从视频扩大到了图片。
7月1日正式施行，年底前设有6个月的引导期。放送媒体通信委员会表示，去年12月已在说明会上告知了施行日程，此后也多次发送公文，但现场业者仍在诉苦，称“设备供应在现实中很难跟上”。
适用对象是**年营业额10亿韩元以上，或日均用户10万名以上的附加通信业者，约80家。**谷歌、Meta、X这类海外业者，只要在韩国用户超过10万名，也都被纳入其中。当然，Ruliweb、FMKorea、DC Inside等国内社区也不例外。运作方式是这样的：放送媒体通信审议委员会将已审议、议决确认的非法拍摄物的数字识别信息（哈希值）提供给业者，业者在用户上传图片时，将其与该识别信息进行比对。一致的话，帖子就会被拦截。并非由AI判读所有图片的内容，而是与已确认的非法内容的数字指纹进行匹配的方式。不过无论是匹配还是判读，都需要在服务器端对所有上传文件进行比对，这一点是相同的。基础设施的负担并不会因此而减轻。
问题在于执行这项措施所需的基础设施。查阅政府在2021年公布的推荐服务器规格文件，会发现相当惊人。至少需要配备3.7GHz 16核CPU、128GB内存，并搭载48GB以上显存的数据中心级GPU一块。仅GPU的功耗就达250~300W，服务器整体功耗超过2,000W。此外还有一个重要条件：根据NVIDIA的授权政策，一般消费级GPU，也就是像RTX 2060或RTX 3060这样的GeForce系列，在数据中心的使用受到限制。政府文件中也推荐使用Quadro系列工作站级产品。像NVIDIA A6000这样的型号就属于此类，而在2026年半导体价格飙升的情况下，一块GPU就要花费数百万韩元，搭建一台服务器需要投入数千万韩元乃至上亿韩元。
而这笔费用全额由业者承担。没有政府补贴。运行服务器所需的电费和维护费用，也全部由业者自行负担。
其实这一负担并非一朝一夕的事。在视频AI过滤率先实施后，早在2022年，FMKorea的运营者就曾公开诉苦，称资源负担相当沉重。如今扩大到图片，费用又将再上一个台阶。
Ruliweb的运营者指出，“达到非法拍摄物标准的图片或视频，几乎不会出现在有义务履行的网站上。”这句话可谓一针见血。FMKorea的运营者也在5月28日发表了正式立场，这次正面提出了公平性问题。事实上，非法拍摄物真正流通的Telegram和X（原Twitter）也都在监管范围之内。放送媒体通信委员会也表示“已对海外10余家业者下达了整改令”。但对于像Telegram这样在韩国境内根本不进行业者登记的平台，实际上并没有强制其履行的手段。而运营者们反弹的核心正在于，非法拍摄物实际的流通渠道恰恰集中在这样的监管盲区。
**当然，也存在另一种看法：“中大型社区至今没有承担任何责任”的批评。海外主要平台至少都在自主运营年龄验证（age verification）或内容审核系统，而韩国社区却是在没有这些安全装置的情况下成长起来的。**这种观点认为，长期以来对非法拍摄物的放任才是更大的问题，现在承担这种程度的义务也是理所应当。这种视角不能说没有道理。
但“应当承担责任”与“以何种方式让其承担责任”，是两个不同的问题。
归结起来，局面是这样的：一直守规矩运营的国内社区被课以上亿韩元级别的基础设施义务，而问题真正的源头——海外平台，却在法网之外。同样的GPU，本可以用于本地AI服务开发或图像生成模型运行，如今却实质上被绑定在了审查基础设施上。
Apple和欧盟在同一项技术面前止步
自动扫描图片以揪出非法内容的想法，并非韩国独有。
2021年8月，Apple率先行动。它发布了一项技术：在iPhone中存储的照片上传到iCloud之前，先在设备端与儿童性剥削内容（CSAM）1数据库进行比对。这种方式被称为“客户端扫描（client-side scanning）”。其目的十分明确：保护儿童。
发布后不久，局势急转直下。从密码学家Matthew Green开始，安全研究者、EFF2、隐私组织纷纷发表反对声明。核心担忧只有一个：“一旦建成的扫描基础设施，其搜索对象可以随时被扩展。今天的目的是保护儿童，但明天就可能被用来搜索政治异见或合法内容。”
Apple搁置了这一计划，此后再也没有正式恢复。
欧盟也走上了类似的道路。**2022年，欧盟委员会提出了一项要求对消息和图片进行自动扫描的法案，即所谓的“Chat Control”。德国的数字公民团体和欧洲数字权利组织EDRi组织性地表示反对，称其“打开了大规模监控的大门”。这项法案漂流了三年多，到2025年底，以“风险缓解措施”这种迂回的表述，实质上后撤，用以替代强制性扫描。**强制扫描的命令虽然被删除，但仍留有余地，让平台在压力之下自愿对内容进行监控。表面上后退了一步，但并未彻底废止。
Apple和欧盟共同碰到的这堵墙，**正是安全专家所称的“任务蔓延（mission creep）”现象。最初以保护儿童这一狭窄目的而建立的工具，随着时间推移，搜索对象会逐渐扩大。**从儿童性剥削内容扩展到恐怖主义内容，从恐怖主义扩展到侵犯版权的内容，再扩展到政治表达。一旦建成的扫描基础设施，只需改变“要搜索什么”这份清单，就能变成完全不同的工具。
为这一走向提供学术依据的，是2021年由14位国际安全研究者发表的论文《Bugs in our Pockets》。其结论令人印象深刻：即便Apple投入了最顶尖的安全与密码学专家，也未能达到安全、可信且有效的系统设计。这表明，技术上“可行”与安全地“可运行”，是完全不同层面的问题。
同样的技术，不同的选择……分野何在
Apple、欧盟、韩国，三方都怀有“拦截非法内容”这一相同的目的。所使用技术的原理也几乎相同：自动扫描上传的内容，与数据库进行比对，判断是否违法。
结果却完全分道扬镳。
在Apple和欧盟，公民社会与技术社群的组织性反弹发挥了作用。安全研究者以论文发表技术风险，公民团体发起运动，媒体集中报道。最终形成了“即便技术上可行，社会上也不能接受”的共识。
在韩国，起作用的是不同的脉络。2020年Telegram“N号房”事件给社会留下了深刻的冲击，形成了“必须对数字性犯罪采取强力应对”的社会共识。《电气通信事业法》修正案（即所谓的“N号房防止法”）在2020年6月经朝野一致同意公布，从2021年起开始实施视频过滤。而这次施行令修订，则将适用范围扩大到了图片。公民团体Open Net曾提出宪法诉愿，但宪法法院在2025年10月以“不属于事前审查”为要旨予以驳回。
值得关注的是速度。**扩大到图片的施行令是在4月28日修订的，仅仅两周后的5月14日，相关的追加法案就在国会全体会议上获得通过。到场272人中，赞成252人，反对12人。**这一比例极为悬殊。这意味着朝野双方都对这一方向达成一致，同时也意味着，在这一议题上发出反对声音本身，在政治上是十分困难的。
有意思的是，围绕这一议题的国内舆论温度。**只有GeekNews、Clien等部分IT社区中有一些议论，主流媒体和一般舆论却出奇地安静。反倒是海外更热闹。它登上了Hacker News首页，Privacy Guides上也在展开讨论。**国内反弹之所以安静，原因很简单：N号房事件之后形成的社会共识过于强大，以至于“反对这项监管”这句话本身，可能被听成“打算放任数字性犯罪”，形成了这样一种结构。这几乎成了一个在政治上无法反对的议题。
社会共识越强大，反对的逻辑空间就越狭窄。这是自然的现象。问题在于，共识的强度并不能担保监管的有效性。
讽刺的是，若看实际非法拍摄物的流通渠道，Telegram或基于海外服务器的平台占据压倒性比重。就法律条文而言，海外业者同样在监管对象之内，政府也确有下达整改令的案例。但对于那些在韩国境内根本不进行业者登记的平台，实际上并无强制其履行的手段。网织得很密，可鱼群最密集游动的那片海域，网却起不了作用。监管实际的重量，最终集中落在了原本就一直守规矩的国内业者身上。
更令人担忧的是，如果这种结构固化下来，会发生什么。国内社区的运营成本上升，用户就会转移到没有监管的海外平台。海外平台的用户增加，非法内容能够流通的接触点反而随之增加。于是就出现了监管本身削弱监管目的的悖论。
Oswarld视角
坦白说，看着这件事，我想起了在制定技术战略的经验中反复见过的一种失败模式。
“把资源投入到自己能够控制的渠道，而不是真正有客户存在的渠道。”
企业进入市场时最常犯的错误就是这个。因为真正有客户聚集的渠道很难插手，于是把资源集中投入到自己能够控制的渠道上。投资在可控的地方，报告写起来很漂亮，但实际成效却出不来。
这次的监管也是同样的结构。国内社区，是政府能够控制的领域。Telegram，则是无法控制的领域。给可控的地方施加义务，就能制造出“已经采取措施”的行政成绩。但问题真正发生的地方，依然无从触及。
还有一点我想指出。那就是国际社会的目光。你知道现在Hacker News是如何描述韩国的吗？“在民主国家中，唯一一个实施全面图像AI扫描的国家。”AI产业本应是需要吸引全球人才与投资的领域，然而一旦“用AI监控公民的国家”这种认知在技术社区中扩散开来，那可不是轻易能抹去的。
数字性犯罪必须根除，这一点毫无争议，监管的目的也无异议。但如果一项监管，其效果尚未得到验证，成本却全部转嫁给民间，而问题真正流通的核心渠道却触碰不到，那这就是为了正当目的而做出的错误设计。
结语
归纳一下：Apple和欧盟因隐私担忧而止步的图像自动扫描，韩国却付诸实施了。但监管的对象（国内社区）与问题的所在地（海外平台）之间存在错位，而国际社会正在把韩国当作“监控基础设施的先例”密切关注。
目的的正当性，并不能免除设计上的缺陷。如果想更深入了解这个议题，推荐从下面《Bugs in our Pockets》论文的第2章开始读起。
各位订阅者怎么看这项措施？在“根除非法拍摄物”这一目的与“全面监控”这一手段之间，界线究竟应该划在哪里？欢迎在评论区留下您的看法。
参考资料与延伸阅读
核心来源
- Hal Abelson等，“Bugs in our Pockets: The Risks of Client-Side Scanning”，Journal of Cybersecurity，Oxford Academic，2024年。：由14位国际安全研究者共同撰写，分析客户端扫描技术风险的核心论文。第2章尤其值得一读。
- 《电气通信事业法》施行令第30条之6，〔施行 2026.4.28〕，总统令第36281号。：此次争议所依据的施行令原文。
- Privacy Guides Community，“South Korean Online Communities Will Need to Scan Every Images with AI Censorship Tools”，2026年。：可以了解海外隐私社区对此事的看法。
- 《京乡新闻》，“扩大拦截非法拍摄照片引发‘审查国家’反弹……政府称‘对象为已确认的非法物品’”，记者Kim Nam-hui（音译），2026年06月05日。：《京乡新闻》对放送媒体通信委员会业者说明会的采访报道。
背景知识
- Tuta Blog，“EU Commission is planning what Apple stopped: Automatic CSAM scanning”，2022年。：很好地梳理了Apple撤回CSAM扫描与欧盟Chat Control脉络的一篇文章。
- Chambers & Partners，“Data Protection & Privacy 2026 — South Korea”，2026年。：从全球视角梳理AI基本法与韩国数据保护法制的报告。
作者安光涉是世宗大学经营学教授，也是 OBF（Oswarld Boutique Consulting Firm）首席顾问。他在大学教授经营数据管理、商业分析等统计与数据分析课程，同时在产业现场负责 GTM 与人工智能战略咨询，设计技术与商业的连接方式。他曾发表关于 AI 对话系统记忆架构（HEMA）的学术论文，并运营每日策展全球 AI 论文的 Daily Arxiv 项目。他毕业于高丽大学技术经营专业研究生院与 KMBA，著有《把思考交出去的人：Homo Brainless》。