【有声】Deepfake事件：“AI换脸”

作者：沪江韩语干菜来源：번져가는 딥페이크 범죄, 온 사회가 팔 걷고 나서야 2024-09-20 07:00

双语中文韩语

‘딥페이크’ 성착취물이 직업·지역·학교별로 세분화된 텔레그램 대화방을 통해 광범위하게 유통돼온 걸로 드러났다. 시민들은 자신도 모르는 새 딥페이크 범죄 대상이 된 건 아닌지 불안에 떨고 있다. 딥페이크 성착취물 우려가 어제오늘 일이 아니었음에도, 이렇게 번져나갈 때까지 정부와 우리 사회가 무얼 했는지 통탄을 금할 길 없다.

利用Deepfake制作的性剥削作品在不同职业、居住地区、学校的Telegram聊天室里被广泛传播。市民们纷纷陷入恐慌，担心自己会成为下一个受害者。虽然人们早早对Deepfake性剥削作品有担忧，但是一直到此次事件爆发前，韩国政府和社会可以说是什么也没做，实在是令人痛惜不已。

지난 26일 사회관계망서비스(SNS)에는 여성들이 직접 제보를 취합해 만든 ‘텔레그램 딥페이크 성착취물’ 피해 학교 명단이 공개됐다. 초등학교까지 포함해 200여곳에 달했다. 여성 군인의 딥페이크 성착취물을 제작·유포하는 대화방이 있다는 폭로도 나왔다. 현역 군인임을 인증해야 들어갈 수 있는 이 대화방 참가자는 한때 900명이 넘었다고 한다. 1900명 넘게 참여한 한 대화방에서는 여성 가족 구성원의 합성 성착취물을 올린 이도 있었다는 폭로도 올라왔다.

8月26日，有多名韩国女性在社交平台(SNS)公布了她们收集到的“Telegram Deepfake性剥削作品”受害学校名单，多达200多所，其中甚至包括小学。还有爆料称，有制作并传播韩国女兵Deepfake性剥削作品的聊天室。该聊天室人数一度曾超过900人，且只允许现役军人进入。在一个1900多人的聊天室内，甚至有人上传了女性家族成员的合成性剥削作品。

윤석열 대통령은 27일 국무회의에서 “디지털성범죄를 뿌리 뽑아야 한다”고 지시했다. 방송통신심의위원회는 긴급회의를 소집해 텔레그램 모니터링에 나섰고, 경찰청은 7개월간 특별집중단속을 하겠다고 밝혔다. 하지만 국민은 분노가 일고 한숨이 터질 뿐이다. ‘n번방’ 사태를 계기로 딥페이크 우려가 제기된 게 벌써 4년 전이다. 그럼에도 수사는 늘 뒷북이고, 가해자 대부분은 집행유예 판결에 그쳤다. 주무부처인 여성가족부는 반년 넘게 장관이 공백인 식물부처로 전락했다. 오죽하면 이번에도 경찰이 아닌 여성들이 직접 나서 딥페이크 피해 학교 명단을 만들고, 맘 졸이며 SNS 계정을 비공개로 전환해 자구책 마련에 나섰겠는가.

韩国总统尹锡悦27日在国务会议上指示：“应该彻底根除这种数字技术犯罪。” 广播通信审议委员会召开紧急会议，开始着手对Telegram进行监控。警察厅则表示，将进行为期7个月的严打整治行动。但是韩国国民对此只有愤怒和叹息。4年前，受“N号房”事件影响，已经有人担忧Deepfake会成为下一个犯罪温床。但现实是永远马后炮式的调查以及大部分犯罪者都只被判了缓期执行。作为主管部门的女性家族部的长官职位已经空缺半年多，早已沦落为一个虚架子。这次收集并公布Deepfake受害学校名单的也是女性们，而不是警察。她们焦急地把社交帐号转为私密账号，找寻自救方法。

4년 전 n번방 사건 당시 국회·법원행정처 관계자는 딥페이크 처벌을 강화해야 한다는 요구에 대해 “예술작품이라 생각하고 자기 혼자 즐기는 것까지 처벌할 수 없다”는 안이한 인식을 드러냈다. 지난 21대 국회에서도 인공지능(AI) 생성물에 ‘워터마크’ 표지를 의무적으로 넣게 하는 법안이 발의됐지만, 이제 막 태동하는 AI 산업 발달을 가로막을 수 있다는 우려 등으로 폐기됐다. 정부와 국회의 해태가 쌓여 지금의 참담한 현실을 만든 것이다. 딥페이크 성착취물은 피해자의 영혼을 파괴하고 2차·3차 피해를 일으킨다. 이를 뿌리 뽑기 위해서는 수사·처벌 강화뿐 아니라, AI 기술 악용의 경계심을 높이고, 올바른 성평등 교육까지 온 사회가 팔을 걷고 나서야 한다.

4年前N号房事件当时，国会、法院行政处相关人士就加强处罚Deepfake的要求轻描淡写地表示：“我认为这是艺术作品，私人看的东西无法进行处罚。”第21届国会上也提出了人工智能(AI)生成作品需添加水印的议案，但因为担心阻碍刚萌芽的AI产业，而遭到了废除。政府和国会的懈怠造成了如今这番惨淡的现实。Deepfake性剥削作品伤害受害者的灵魂，并会对其造成2次甚至3次伤害。为了彻底根除这种问题，全社会不仅要加强调查和处罚，还要提高警惕防范AI技术恶意使用，并积极开展正确的性别平等教育。

今日词汇：

소집하다【他动词】召集，召开

금하다【他动词】忍住，抑制

일다【自动词】发生，出现

뒷북【名词】马后炮，马后屁

주무부처【名词】主管部门

오죽하다【形容词】(情况或程度)很，甚，非常

졸이다【使动词】焦(心) ，焦急

안이하다【形容词】安逸，安适

발의되다【自动词】提议，提出议案

태동하다【自动词】萌芽，出现

폐기되다【自动词】废弃，报废