随着人工智能（AI）的推广应用，“深度伪造”技术成为违法犯罪的“帮凶”。近期，利用“深伪”换脸技术伪造的大量淫秽影像在韩国社交媒体上肆意蔓延，一时间引起韩国社会的恐慌。因当前针对利用AI进行犯罪的行为缺乏相应的管制举措，韩国政府在疲于应急处理此类案件的同时，开始从多维度制定对策，严厉打击“深伪”犯罪行为。

案件频发引恐慌

随着AI技术的不断发展，使用“深伪”技术制作虚假视频更加方便。在韩国，使用此类技术制作淫秽影像的犯罪行为日趋猖獗，年轻女性成为主要受害者。

韩国警察厅统计资料显示，2021年至2023年，共有527名“深伪”技术制作的淫秽视频受害者报案，但今年1至7月，警方受理的“深伪”犯罪案件已达297件，犯罪势头猛增。从案件受害者类型来看，多为年轻女性，主要包括大学生、教师、女兵等，甚至有中学生等未成年人。韩国许多大学、中小学教师、学生成为案件受害者。

据韩国教育部通过全国17个市道教育厅进行调查结果显示，今年1月至9月6日，共接到434起学生和教师的报案。随着韩国政府相关部门对该类案件的深入调查，被犯罪嫌疑人利用“深伪”技术无故牵涉进非法影像内容中的受害者人数更是无法估量。曾曝光“N号房”事件的前共同民主党紧急对策委员会共同委员长朴智贤表示，目前全韩涉及“深伪”犯罪的人数可能达22万，众多女性因此陷入不安和恐慌之中。

另据美国网络安全企业Securityhero统计，在利用“深伪”技术制作的色情影像作品中，出现的人物有一半左右是韩国人，韩国女艺人更是成为“受害重灾区”。

措施滞后难追责

随着媒体舆论的持续关注，“深伪”犯罪案件不断被曝光。对于此类不法行为，韩国民众呼吁政府采取紧急措施，制止不法视频在社交媒体的肆意传播，并要求政府协助尽快删除这些违法视频，以减少对受害者特别是青少年的持续伤害。但考虑到此类新型犯罪案件所涉及的内容制作技术、传播媒介以及涉案人员类型等因素与传统犯罪案件相比展现出新特点，韩国政府相关部门即使受理此类案件，也缺乏有效处罚依据，处理起来有些力不从心。

首先，此次“深伪”犯罪内容多数在以“电报（Telegram）”为主的社交媒体平台上传播蔓延，即使政府部门接到举报，想立即阻止有害影像视频的继续扩散，但碍于“电报”社交软件的服务器位于海外，且韩国相关部门未与“电报”运营方建立合作关系，难以通过法律加以管控。境内网站上的非法视频较容易删除，但若想删除境外社交平台上的有害视频，必须先征得运营方同意，因此国际合作面临挑战。

其次，根据韩国现行《性暴力处罚法》相关规定，只有犯罪嫌疑人发生直接对受害者的身体部位进行拍摄并编辑、加工视频的情况，或者在违背受害者意愿的情况下进行发布传播的行为，才会被处以5年以下有期徒刑或5000万韩元以下罚款；如果以营利为目的在网络上传播，则处以7年以下有期徒刑的加重处罚。然而，“深伪”视频只是在制作时使用了受害者的头像而并非直接拍摄，因此依据现行法律无法量刑。同时对于单纯持有、观看视频的情况，也无处罚依据。

据韩国共同民主党议员金南熙提供的韩国大法院自2020年以来的审理结果显示，大法院共受理87件相关犯罪案件，其中34人被判缓刑（占40%）、24人被判有期徒刑、14人被处以罚金，还有人被判无罪。由此可见，法院对此类案件量刑过轻，难以对“深伪”犯罪起到震慑作用。

此外，此类案件的另一显著特点是：以特定人脸合成淫秽照片或视频的制作和传播者大部分是十几岁的青少年。韩国警方提供的资料显示，在涉嫌制作虚假影像被立案的嫌疑人中，10至19岁的青少年所占比重从2021年的65.4%增加到2023年的75.8%。另外，韩国警方从上月28日开始实施的“深伪技术特别集中管制”行动中发现，被警方逮捕的33名确认身份的嫌疑人中，约75%为10至19岁青少年，若加上20至29岁年龄层人员，占比则高达95%。

相较于中老年人，年轻一代更热衷于使用数字技术，这是青少年频繁涉案的主要原因。根据韩国现行《少年法》规定，年龄在10至14岁之间的儿童不对自己的行为承担刑事责任，不会被送往监狱，而是被送至少年拘留所，或被判处从事社区服务。与成年人相比，青少年犯罪成本较低，现行处罚措施较难让青少年充分认识到利用“深伪”技术实施犯罪的严重性，很可能使他们再次以身试法。

多维度制定对策

鉴于当前韩国青少年进行“深伪”犯罪的严峻形势，韩国总统尹锡悦在上月27日举行的政府内阁会议上敦促执法机关加大对数字性犯罪的打击力度，严惩利用AI技术进行“深伪”犯罪的行为。为此，韩国政府各职能部门立即行动起来，针对相关犯罪案件所展现出的新特点，计划从多维度向“深伪”犯罪宣战。

据韩国媒体报道，韩国警方针对当前利用“深伪”技术制作并传播虚假影像的行为以及由此衍生的网络性犯罪日趋猖獗问题，宣布开展集中打击相关犯罪专项行动。专项行动期间，将重点清查整治利用“深伪”技术制作并传播虚假内容的行为，同时将通过识别软件对有关内容进行分析，并计划开展国际合作，积极开展侦查活动。另外，鉴于青少年多数在毫无负罪感的情况下犯案，警方将通过专职校警进行防范教育。

在韩国警方开展专项行动的同时，韩国各政党也围绕如何通过修订法案来阻止“深伪”犯罪行为展开积极讨论。各政党对通过尽快制定惩治措施以填补惩处“深伪”犯罪的立法空白达成一致意见，不仅要严格追究非法视频制作者的责任，也要对持有、购买、保存、观看非法视频者采取严厉处罚措施。

近日，金南熙向国会提交《性暴力处罚法》修正案，呼吁无论制作者是否出于散布、传播目的，只要制作就要给予严厉处罚，同时对于持有、购买、保存及观看非法视频者均处以两年以下有期徒刑或2000万韩元罚金的惩处。国民力量党议员韩智雅提交了另一版本的《性暴力处罚法》修正案，拟对利用“深伪”影像视频恐吓威胁受害者的不法行为加重处罚力度。祖国革新党议员朴恩正向国会提交修正案时，重点强调将违背受害者意愿制作散布非法视频等犯罪行为的最高刑罚从5年提高到7年，如果是以营利为目的的犯罪行为，则加重至10年以下有期徒刑。

另据了解，韩国曾以“N号房”事件为契机，在《儿童和青少年性保护相关特例法》中引入“伪装调查”条款。目前，为有效打击社交平台上的“深伪”犯罪行为，在一定程度上应允许进行“伪装调查”的呼声在韩国社会高涨。