南韩 Deepfake 危机：禁不绝的性剥削，更年轻的性罪犯
欲望是什么？ “就是戏弄女性、降低女性的价值，再把照片发出去，在过程中得到一个满足感。 ”
“秀彬呀，这是什么呀？ 谁给你发的？ ”“你为什么不说话？ ”卢娜夫妻二人急如热锅上的蚂蚁。
七分钟前，8月26日零点，15岁的女儿朴秀彬在家庭群里传来截图，上面密密麻麻写着许多字：“熟人凌辱指的是用熟人自拍照，合成19+影片…… ”、“Telegram 存在一个强奸房”。 截图中，还夹有数张列满学校名字的清单。
女儿没有解释就消失了。 字眼吓人，卢娜心里生出好多疑问，她紧张地给女儿打去几通电话，但都没人接听——她一时忘了女儿读寄宿学校，晚上12点要没收手机。 那个晚上，父亲朴秀浩心里发慌，他怕女儿出事，翻来覆去一直睡不好。 他想起四年前的N号房事件，“那在我们韩国是特别大的一件事”，但他觉得这次“特别危险、很严重”，因为“连初中生都做那事了。 ”
8月25日，社交平台 X 上出现多个韩国大学和中学名单，指许多老师、学生的样子被制成深伪（Deepfake）色情影像，在Telegram群组里传播。 《韩民族日报》指出，受影响学校达500间，遍布全韩国，其中一个群组人数超过22万人，受害者甚至包括女军人，她们的照片被称为“军需品”。
由于受害者大多未成年，事情在社会引爆舆论。 总统尹锡悦下令根除数字性犯罪，警方采取密集行动，一周间截获超过120宗深伪犯罪。 令人讶然的是，未成年嫌疑人超过七成半——三年前，N号房事件敲响韩国性剥削警钟，主脑赵主彬被判重囚42年，政府速推《N号房防治法》。 如今人们发现重罚、新法不仅没有阻吓犯罪者，反而当技术垂手可得，他们以一种更容易的方式继续剥削女性，而犯罪者也越来越年轻。
制作深伪影像不用钱、也不费吹灰之力：只要有一张清𥇦面部的照片，最快5秒，就能生成一张合成照片; 不到25分钟，就有一条60秒影片。 根据美国网络安全公司Security Hero 发表的《2023年Deepfake报告》，该年网上流传近10万条深伪色情影片，超过一半（53%）受害者来自韩国，其中九成都是歌手和演员。
第二天醒来，朴秀彬在家庭群里发问，“我很害怕，我要把照片（从社交媒体上）拿下来吗？ ”朴秀浩回答女儿，“你没有做错，你为什么要害怕呢？ ”但恐惧和不安是真实的。 在事件爆出来的一周间，朴秀彬说同学们都在聊这件事，有人看似毫不在意，说都是闹着玩的吧。 但大家都把社媒上的照片全删了。
韩国女权主义者 Cat 说，过去韩国女生都认为N号房这样的事不会发生在自己身上，但是这一次不同，当每个学校行业都滋长出深伪色情聊天室，“都可能成为受害者。 ”
从 N 号房到 Deepfake 的“熟人凌辱”
欲望是什么？ “就是戏弄女性、降低女性的价值，再把照片发出去，在过程中得到一个满足感。 ”
元因知对自己的个资一直很小心。 她把所有社群媒体帐号私密隐藏，不上传任何头像，即使接受媒体采访也不会露脸，甚至不会透露年龄。 不过她还是害怕，怕出去参加活动，“有人认出我，拍下我的照片，在网络上传播。 ”
她是N号房事件的吹哨人。 2019年，元因知还是翰林大学学生，和朋友朴智玹发现 Telegram 上存在各种性犯罪，一同组成“火花追踪团” （추적단불꽃）进行调查。 事件后来获得媒体跟进，N号房才正式曝光。 毕业后，元因知成为独立记者，继续潜伏在聊天室，支持受害者。
元因知说，早在五年前，她已经知道深伪聊天室的存在——那时深伪技术正开始被广泛应用。
2017年，“深伪技术”出现在公众眼前。 一开始，这套应用人工智能进行深度学习、后合成各种拟真影像的技术给人们带来很多乐趣，尤其是应用在政治戏仿上的时候–例如让奥巴马骂特朗普是蠢蛋。 但很快，这项技术就成为传播假消息的工具，而且还被用于性犯罪。
伦敦南岸大学社会工作学系副教授 Tirion E. Havard 研究科技在虐待关系（abusive relationship）的角色。 她指出，过去人们用手机不断用短讯电话轰炸，或使用GPS追踪伴侣，已经是一种科技介入关系的体现。 Havard 更用哲学家傅柯的“全景监狱”（panopticon）形容这些监察和跟踪科技，“由于手机的存在，（被监视的人）感觉自己仍然受到施虐伴侣的监视和控制…… 即使施暴者不在场。 ”这种行为很容易造成焦虑、偏执等心理问题。
Havard 说，越发复杂的科技，为施虐者监视、煤气灯操纵（Gaslighting）和虐待提供新的可能。 EndTAB 是美国一家主力进行网络安全教育的组织。 创始人Adam Dodge曾形容，深伪技术对于 “那些试图对受害者施加权力和控制的人来说，是多么完美的工具。 ”根据荷兰身份验证公司Sensity AI的调查，网上96%深伪影像受害者都是女性；而从2018年到2020年，这些影片数量约半年就增长一倍。
有人形容深伪为“复仇式色情”（revenge porn），带来一种全新的模式。 “复仇式色情”原指犯罪者未经同意散布他人祼照等性私密影像，旨在对受害女性进行羞辱、骚扰，甚至勒索。 在深伪事件曝光后，Cat 迅速地在 X 等社交平台发起标签运动。 她形容在韩国，这样的行为叫“熟人凌辱”（지인능욕）。
以前，韩国男性会把女性的照片，利用Photoshop等软件修成 “ahegao”（アヘ颜，日本二次元作品中，角色在性高潮时出现的翻白眼吐舌等表情），然后连同女性的个人资料一并在社媒传播。 不过当时要生成这些影像，对制作者还是有一定要求：他们要懂专业的修图技术，还要愿意花时间把照片弄得逼真。 但是到了深伪技术出现，犯罪者只靠电脑手机，就可以在五秒间合成色情影像；而流通和滋长的渠道也从 Tumblr、Twitter、Discord等社交平台，转移到私密度高的 Telegram。
Cat 指出，深伪比N号房性剥削更可怕的地方。 “N号房是加害者威胁受害者使其成为性奴隶，但这次，只要有AI Deepfake技术，受害者和加害者不接触也能犯罪。 ” 当性犯罪的物理界限消失了，受害者人数远远无法估计，加害者也更难以产生罪疚感。
深伪聊天室与当年N号房的运作架构一样：有性剥削材料的制作者、积极散布的传播者，还有静静观看的观众。 但元因知觉得，两件事件不同的地方是犯罪者的动机。
当年，N号房主谋赵主彬在聊天室分出三个等级，向会员收取由20万到最高150万元（韩元，下同）不等的入会费。 被捕后，警方在其家中查获了高达1.3亿现金、32亿加密货币流动资金——他在自辩时，说明犯罪动机就是“为了赚钱”。
然而经营深伪聊天室的人想要的，似乎不是这样。 今年5月，首尔大学、仁荷大学先后卷入深伪犯罪事件——两名首尔大学的校友被指控合谋，在过去三年间利用多达61名女性的毕业照、社媒头像合成色情影像，在Telegram上超过200个直播间传播。 警方在采访中表示，“主犯并没有透过非法合成物赚钱，犯罪目的不是为了营利，而是为了满足自己的欲望。 ”
欲望是什么？ “就是戏弄女性、降低女性的价值，再把照片发出去，在过程中得到一个满足感，”元因知分析群里人的心态。她形容男性很易感到愤怒、有人认为“女性只是性器而不是平等的人”，像是在事件曝光后，有人把新闻分享到群里，说“我只会看漂亮的女孩，我不看丑女人、 我对你自慰你应该觉得荣幸。 ”元因知觉得，其实他们都在共享一种情绪：对女性的仇恨。
所以如果说，进入N号房的门槛是钱，那么深伪聊天室要的则是一种“证明”，证明自己是“同路人”。 元因知说，进群者要先回答不同问题，为彼此提供安全感，比如“你认同女权是一种病吗？ ”只有答“是”的人，才会被批准加入。 而在个别的聊天室中，成员还必须给大家共享女性熟人的个人信息——他们要羞辱的人不局限于名人歌手，更主要是身边的人。
“当他们知道这是一个真实存在的人，他们似乎更兴奋了”，她说。
从非法赌博到性犯罪，一条线上生态链
8月28日，韩国警察厅开始密集打击性犯罪行动，为期七个月。 一周间，警方已立案超过120宗，其中75%落网嫌疑人均为青少年。 值得留意的是，青少年一直都是主要的深伪犯罪者。
根据警察厅的数字，2021年到2023年间，韩国每年深伪犯罪案件均破150宗，当中超过60%嫌疑人為青少年。而在今年一月到七月截獲的297宗犯罪中，這一比例更達到了73.6%。
Aha 青少年性教育咨询中心曾在2019年3月至2020年12月31日间，对91名实施数字性犯罪的青少年进行案例分析。结果显示，青少年犯罪的主要动机分别为“没想过会出大事”、“好奇心”和“有趣的恶作剧”; 约四成人在犯罪后，更表示对加害行为没感觉。
就像一开始，朴秀彬也觉得传出来的学校名单没什么特别，“推特上曾经有很多持刀伤人的事件，但它最后也无影无踪。 ”她觉得，这次跟那些恶作剧本质一样，就是初中生求关注的举动。
不过，性教育咨询中心的专家指出，学生之所以对性暴力不敏感，是因为这个社会本就自然地将女性视为性消费的对象。犯罪的学生解释，他们不觉得分享色情信息是剥削女性，而是在为大家提供笑话和娱乐，也是催谷自己人气的一种方式。
金正惠也得到过相似的结论。她是韩国女性政策研究院性别暴力安全研究中心研究员，在N号房事件后，她曾研究过当代的性暴力特性。她发现，在男学生的文化中，消费女性被视为“平凡同龄人”的日常行为，而由于网络匿名性等特点，也淡化了学生对犯罪的认知、削弱罪恶感。
作为家长，朴秀浩觉得青少年犯罪的原因之一，是他们玩社交平台（SNS）的时间越来越长。 卢娜说，“中毒很厉害。 ”她观察，现在的年青人已经全都转到 Instagram 里沟通，在互相转发Reels、“好玩”的东西时，就多了机会接触不良信息。
今年二十岁出头的 Kim是一名大学生，过去曾潜入深伪聊天室进行调查。 她还特别提到一个人们经常忽略，但青少年很易接触色情材料的渠道——非法赌博网站。 在韩国，大多数中学生都有非法赌博的经验，而非法的漫画和色情网站就是它的典型诱饵。
警察厅人力资源发展学院教授徐民洙指出，青少年对赌博相对不感兴趣，“但他们对性非常感兴趣 ”。 线上赌博业者就是利用这种心理，先购买大量的性剥削材料创建色情网站，吸引青少年点击。 徐民洙形容，这是青少年堕入赌博陷阱的“关键入口”。
端传媒尝试访问这类色情网站，发现只要随意按下影片，影片下方就会出现至少十则线上赌博的广告，一个“孤独的人进来吧”按钮更会连结到另一个线下性交易网站。 曾经有韩国记者在网站进行注册，指出过程并不用身份认证。
2020年，《韩民族日报》曾揭发超过80个N号房聊天室与非法赌博网站存有共生关系：用户靠下注赚取积分，再用积分换取色情内容。 换句话说，色情影片、非法漫画是“非法赌博”的门户，但同时非法赌博正是其他犯罪的起点。
学校也感知到赌博对青少年的威胁。 卢娜的小儿子正在读小学，她说学校很常在校园平台发公告，告知大家小心非法赌博和网络中毒。 然而效果不彰。 今年3月，国家搜查本部结束为期六个月的打击赌博行动，一共拘捕1035名青少年，九成为中学生，其中还包括两名小学生。
“法外之地” Telegram
对比丈夫，卢娜面对深伪犯罪的心态更冷静一点。 她觉得，在事件爆出来后，总统尹锡悦已经迅速发表讲话，要求警方彻底调查，“这个国家的保护还是挺及时的吧，不会说出事不管啊 。 ”
确实，面对大型性剥削事件，韩国政府行动快速——在N号房事件后，国会迅速通过《N号房防治法》多项修法，包括提高合法性交年龄至16岁，持有、购买、观看非法色情片的人将面临最高3年监禁或罚款3000万韩元。
然而，雷厉风行的措施看不见成效。 根据检察厅的数据，2020年全国共有2070宗数字性犯罪案件，但到2022年时已突破一万宗。 根据“数字性犯罪受害者支持中心”数据，该两年间受害者数字亦由5000人上升到近9000人。
有评论认为，上升的犯罪趋势正是因为青少年抱着“不会被抓”的信念。 在深伪事件不断被媒体报道后，元因知发现在聊天室中有两种不同的反应：有犯罪者销毁房间，试图切断受害者的联系，然而也有人仍在开新的聊天室。 一名男性保证，“如果你只是在 Telegram 这样做（深伪），你就不会被抓到。 ”
过去，非法色情影像一直在Tumblr、Twitter等海外网站流传，这些公司曾以“没有义务遵守韩国法律”为由，拒绝与警方合作。 但这一次，作为通讯软件的 Telegram 比起社交平台更私密隐闭，而它从来不回应各国执法单位要求，也不会主动通报可疑活动。 如果没有路径进聊天室，警方很难收集证据、捣破犯罪。
但 Kim 说，这并非警方搜证的必然限制。 许多受害者在报案无门后，会找上民间和女权团体协助，行动者会直接潜入Telegram聊天室，监控性犯罪者，找出个人信息，再向警方提供证据说服他们进行抓捕。
在Cat看来，犯罪猖獗的问题在于警方和社会一直以轻视的态度对待性犯罪，“认为这是女性的不幸或谎言。 ”2021年6月，人权观察（Human RightsWatch）发布名为《我的生活不是你的色情片》的韩国数字性犯罪现况报告。 有受害者表示即使报案，警方也会以“可能被起诉诽谤、刑期过低、或涉及外国平台无法解决问题”理由劝退。
除了态度以外，警力资源方面也明显跟不上变化。 2019年N号房事件发生后，政府在全国18个区域成立了一共99人的数字性暴力调查小组，但五年过去，人数仅增加了32人到131人。 这或是其中一个原因，解释为何警方纪录的深伪犯罪数，与民间组织的统计数字存在断层——以2023年为例，警方共统计180宗深伪犯罪，但数字性犯罪受害者支持中心的数字则翻了一倍，达423宗。
检方不起诉，悔意作“技俩”
当受害者排除困难，积累足够证据让警方受理，她们在司法路寻求正义的每一步也障碍重重。 在人权观察的报告中，有受访者指出，即使警方将案件交给检方后，检方并不一定进行起诉，而不起诉率（46.8%）甚至比謀殺（27.7%）或抢劫案件（19%）还要高。
一位曾经协助幸存者的律师形容，韩国检察官的权力异常强大，他们可以对自己认为重要的事进行起诉，但通常性犯罪案件都被漠视。 最后即使案件受理，“检察官又不信任受害者”，律师还要先让受害者用测谎仪证明自己。 而且，法官在判决时似乎无法理解受害者——他们更同情被告，而不是着重受害者所受的伤害。
在警方高度开展打击性犯罪行动后，有韩国媒体发现很多人找上了“数字礼仪师”。 他们主要在网上帮客户清理未经同意被上传的照片。 运作过程大概是这样的：在收到删除申请后，执行者会先检查确认该影片或帖文，是否存在毁损当事名誉、侵害肖像权等法律问题，然后再准备详细资料要求网站或社群管理员删除; 所需的时间则取决于网站本身。
然而最近，找上这些公司的更多是犯罪者。 一家自称全国首间数字删除公司表示，在8月底一周间接到30份删除影片申请，当中66%都是来自犯罪者。 另一间宣布免费协助受害者删除影片的公司 Sarajim 同样指出，在同一期间它们收到248宗申请，其中36宗来自犯罪者。
这看似是犯罪者销毁证据的一种方式，但 Sarajim 公司形容，这更是他们的一种“伎俩”。 “法院很可能会将其纳入减刑的因素， ” Sarajim 执行长崔泰云说，“因为它是犯罪者有努力补救的证据。 ”2020年，《京乡新闻》曾分析三宗分别涉及传播及制作青少年性剥削影片的判决，发现“初犯”、“认罪并有悔意反思”，以及“受害者主动配合”都是法院减刑的因素，最后三名加害者均获缓刑，无须入狱。
尹素妍是一名报道数字性犯罪的记者。 她认为，法官往往否认性犯罪“是一个真正的问题”，而轻判也就向人们传达“（性犯罪）是可以原谅”、“女性抱怨才是问题所在”的讯息。
目前，韩国对于性犯罪惩罚的程度，主要取决于犯罪者的处理方式。 2021年，国会通过《性暴力犯罪处罚特别法》修正案，规定对制作或散布深伪影片的犯罪者，处以最高5年监禁或5000万韩元罚金; 而以营利为目的的，更可判处最高7年监禁。 如果受害者是19岁以下的青少年或儿童，则适用于《儿童青少年性剥削法》：制作性剥削材料的行为，会被判处无期徒刑或至少5年监禁，而拥有和观看的犯罪者，将被判处一年以上监禁。
但这次大规模深伪犯罪的争议在于，青少年既是最大的受害者，也是最大的加害者。 根据韩国《少年法》，少年犯罪的刑事责任年龄以14岁为界，14岁以上不满19岁的人为“犯罪少年”（범죄소년），法官会依案件情节判处刑事处罚; 而10至13岁的人则为“触法少年”（촉법소년），他们不用负刑事责任，最重处罚是送到少年看守所，接受两年感化。
目前，韩国社会再一次掀起下调青少年刑事责任年龄的讨论。京畿大学犯罪心理学教授孔公植曾认为，“未成年意味着有改造的可能性”，如果青少年因为不成熟犯罪而受到严惩，这会令他们受到污名化；而《少年法》的重点是“改造”而不是惩罚。一位长期在法律支援中心负责人同样认为要解决犯罪根源，社会除了在预防及矫正犯罪下手，“别无他法”。
受害者不用“减轻”伤害，社会要做的是抓住犯罪者
与其知道更多男性的龌龊事，面对无法改变的无力感，倒不如回避现实。
卢娜和朴秀浩二人都是从事资讯科技相关行业。 她还记得，在 AI 刚发展面世时，丈夫买了好多相关的书。
一次聊天，丈夫对她说：“你看这个 AI 的技术现在越来越成熟，就是肯定以后最先出来的就是性方面的犯罪，然后就是赌博相关的。 ”卢娜想，那可能是模仿人的声音进行诈骗，“就没想到（现在）连身体都换了。 ”所以她认为自己面对事情不如他人惊讶，也觉得这是一种“时代的变化”，处在其中的人都要学会面对和接受。
朴秀浩则用了一天查看许多新闻，慢慢平复自己。 他觉得，这不是个体能控制的事情，还需要国家的制度一起解决。 于是他冷静地告诉女儿，如果遇到这种事情，第一时间就要拿着证据去报警，“爸爸答应你，我会把他们抓起来送进监狱，别太紧张。 ”
“当然，这注定要发生…… ”这是 Kim 对深伪事件曝光后的第一个想法。 在持续追踪性剥削事件多年，她说自己从来都不认为男性看到N号房判决后会停止犯罪。 如今恐惧一直在扩散。 她的朋友迅速将公开的社媒帐号转为私人，又删除了所有露脸的照片贴文。 但特别的是，人们同时又在日常生活避谈这件事。 Kim 解释，“如果你对女性性剥削案件表现出兴趣，你可能会被视为‘女权主义者’。 ”
在韩国社会，有超过四成女性对女权主义感到厌恶。 Cat 自己也感受到，“很多人只想在什么都不知道的情况下，过着舒适的生活。 ”——与其知道更多男性的龌龊事，面对无法改变的无力感，倒不如回避现实。
但可怕的是，这种不对等的暴力很容易会内化。 香港大学历史系及性别研究系客座助理教授郭婷曾指出， 当女性内化这种暴力的时候，对弱势群体的伤害会更大。 这让 Cat 感到很遗憾，因为大家的忽视、对虐待女性等问题置之不理，“我们已经活在一个年轻女性，在学校或家庭都无法感到安全的社会。 ”
在博客上，一名深伪犯罪受害者的朋友，曾写下自己追捕犯罪者、后来患上创伤性恐慌症的过程——2023年4月，她亲自加入了 Telegram 聊天室，在里面感受到各种不适与调侃。 群里的犯罪者不断分享各种深伪、生殖器照片和自慰影片，还问：“ 你也喜欢看吗？ ”后来，她才发现犯罪者是她认识的人。
她写道，“我花了很长时间，把所有的对话记录和照片都翻了一遍。 无论我再次见到他多少次，我仍然不敢相信这是我认识的人……我的心疯狂地跳动，我的身体在颤抖，无法呼吸。 ”
这些症状在她每次重看证据时不断会出现。 她到精神科看医生，诊断患上了创伤性恐慌症和压力相关的忧郁症。 当时，她跟医生解释自己感到紧张的原因，却被医生一句否定，“啧啧…… 这就是为什么你不应该在社交媒体上发布照片。 ”
一下子，她脑子里闪回很多日常大众的评论，她也有怀疑过自己：“犯事者并没有非法拍摄我， 我赤裸的身体或私处都没有被暴露…… 但原来比我们想象中更多的人，都认为犯事者的行为只是越界的恶作剧，认为我们的伤害并不那么严重。
”人们总说，“赶快摆脱它，过更好的生活。 ”
她写道，“伤害既不是我们造成，也不是我们创造的”。 外界不需要告诉受害者该做什么来“减轻”伤害，人们要做的“是抓住犯罪者，让他们负上应有的惩罚”。
今年3月，美国加州比比佛利维斯塔中学（Beverly Vista Middle School）被揭发有五名初中生，利用深伪技术制造并传播16位同学的裸照。 比佛利山联合学区在投票后，决定开除所有犯罪学生。
校长 Michael Bregy 在声明中写道，事件触发了人们对使用AI 等科技的道德讨论，在过程中用户须保持警惕和尊重知情权。 他表示，错误是学生在学习和成长必经的一部分，但重要的是，他们也要为错误承上应有的责任。 最后，没有任何家长反对开除所有犯事学生的决定。
踏入9月，韩国的事件似乎也出现了改变的拐点。 9月2日，韩国警方宣布就 Telegram 纵容性犯罪一事进行调查。 而此前，8月24日，Telegram 创办人杜洛夫（Pavel Durov）已因被指控纵容儿童性交易等犯罪，于法国被捕。
翌日，韩国广播通信审议委员会（KCSC）指收到 Telegram 的东亚地区负责人的公函。 信中，Telegram 对平台上发生深伪事件表达“不幸”，又说明目前已删除了韩方要求的25项性剥削影像。 Telegram又对与韩国当局沟通不良致歉，并提供一个专用电邮，方便日后与委员会沟通。
KCSC 形容，Telegram 的做法相当“承认了情况的严重性”，亦“非常有前瞻性” 。