韩娱公司，正在反击 AI 造孽。

上周，韩国文娱公司 HYBE 晓谕，将与京畿北说念警员局合作，共同打击以 HYBE 艺东说念主为对象的深度伪造内容。

HYBE 与 NGPPA 签署了一份条约，明确了合作细节，包括加速干系案件的捕快进度，并在韩国诞生举报热线，省略公众论说干系坐法行为。同期，HYBE 也晓谕加强对深度伪造内容的监控和处理，尤其是在色情内容方面，将挑升诞生反映机制，尽快剿袭行动。

客岁 9 月，韩国文娱公司 JYP、YG 和 Cube 也向使用其 K-pop 艺东说念主图像创建的深度伪造视觉内容打仗。YG 指出，包括 ( G ) I-dle、NewJeans、Twice、Kwon Eun-bi 和 BlackPink 等驰名 K-Pop 女子组合都是深度伪造内容的受害者中的冰山一角。

比年来，深度伪造内容泛滥已成为全球热情的焦点，尤其是针对文娱行业的坏心迤逦。那么，为什么深度伪造手艺聚鸠合盯上 K-Pop 圈？背后荫藏着如何的坏心旨？

困在 AI 色情视频里的女明星

深度伪造是一种东说念主工智能手艺，依赖深度学习手艺，尤其是生成叛逆辘集，来生成或蜕变图像和视频。其中，GAN 由生成器和判别器构成，通过两者不休地叛逆和博弈，生成器迟缓学会生成愈加传神的子虚内容，直到能够以伪乱真。

借助深度伪造，不错把一个东说念主的脸、声息、当作换到另一个视频或图片上，让它看起来像是真正发生的事情，比如让某东说念主"说"他从未说过的话，或者"作念"他从未作念过的事情。

而在韩国文娱行业，很多女明星的形象被犯警分子用来制造孽搞、色情等无益内容，严重侵害了艺东说念主的阴事和名誉。

好意思国辘集安全公司 Home Security Heroes 的一份论说自满，在互联网悉数深度伪造视频中，险些 98% 是深度伪造色情视频，前 10 个挑升用于深度伪造色情内容的网站上，视频总拜谒量逾越 3 亿次，总瞻念看次数逾越 3000 万。

论说还指出，94% 的深度伪造色情内容都发生在文娱业，其中歌手、演员分手以 58%、33% 占据大头。在深度伪造的色情内容中，99% 的受害者是女性，仅 1% 为男性。

而在 10 个深度伪造色情网站和 85 个视频分享平台上的近 9.6 万个视频中，53% 的东说念主是韩国歌手和演员。

在国际应酬媒体 Reddit 上，有网友指出，当搜索" K-Pop "干系的枢纽词时，跳出的热点 subreddit 险些都是 18 禁的话题，辩驳简直令东说念主作呕。

面前，深度伪造的色情内容还是扩张到多样在线应酬平台。其中，曾激发韩国恶性集体性坐法" N 号房事件"的阅后即焚 APP Telegram 即是重灾地，致使有东说念主将其定名为"新 N 号房事件"。

客岁 8 月，韩国女性民友会发布一组论说，指出在应酬平台 Telegram 的聊天群组中，只需上传熟东说念主像片，付费后 5 秒钟内就能生成瞻念合成图。令东说念主震恐的是，这个聊天群的参与东说念主数高达 22.7 万。

更恶心的是，一些深度伪造网站致使列出了来自险些每一代 K-Pop 的 200 多名女性偶像的名字，包括多个第五代 K-Pop 团体的成员。

客岁，YG 旗下女团 BABYMONSTER 的粉丝群体在应酬平台上发声，敕令粉丝暂时放下饭圈纷争，共同保护女艺东说念主。他们强调，大众岂论复旧哪个团体，目下都应互助一致，执意反对深度伪造色情内容的行为，今天的受害者是她们，未来可能即是其他东说念主。尤其是 BABYMONSTER 的 7 名成员中，有 4 东说念主仍是未成年东说念主，这足以诠释问题的严重性。

本年 1 月，韩国文娱公司 Starship 因职责主说念主员首要装假，官方微博转发了公司旗下 K-Pop 女子团体 IVE 成员张元英、安宥简直深度伪造内容。

尽管经纪公司、粉丝群体、网友都对深度伪造内容痛斥不已，纷繁敦促干系部门连忙剿袭法律行动来保护受害者，并讲究包袱东说念主，但深度伪造内容对女艺东说念主的伤害却难以皆备破碎，它不仅是手艺浮滥的后果，更是永久以来数字空间中性别暴力与阴事侵害问题的缩影。

目下，韩国政府和干系机构在公论压力下，已加速立法进度，以更严厉的法律打击深度伪造色情内容的制作和传播。

深度伪造为何盯上 K-Pop 女明星？

不错说，手艺的低门槛、艺东说念主的高曝光、社会对女性偶像的去世、法律的滞后，各样成分交汇，共同催生了这场韩娱生态中的"数字性侵"。

有报说念自满，在韩国，波及深度伪造的色情案件从 2022 年的 3725 起激增到 2023 年的 21019 起。

尽管字据《对于处罚性坐法的稀奇案件法》，参与剪辑、合成或处理深度伪造色情内容的个东说念主将面对最高五年的截留或 5000 万韩元的罚金，以牟利为主义传播此类内容的发布者最高可被判处 7 年截留。

但是，在 2020 年至 2023 年韩国对深度伪造坐法作念出的 71 项裁决中，只须 4 起案件仅因深度伪造坐法而被判处截留。目下还莫得针对下载或瞻念看深度伪造色情内容的法律。

这意味着，现行法律只针对深度伪造色情内容的制作和传播者进行处罚，而瞻念看或捏有这些内容的东说念主却不受法律料理。这种法律纰谬使得"瞻念众"不错毫无费神地浏览干系内容，进一步生长了违章商场的需求，也使受害者更难获取有用的法律保护。

字据 Home Security Heroes 统计，10 大最常被深度伪造色情内容迤逦的数据统计中，大部分受害者都是韩国歌手，其中一位歌手的视频数目高达 1595 个，而另一位韩国歌手的深度伪造视频瞻念看量逾越了 561 万。

2017 年，在一个名为 DeepFake 的 Reddit 用户出现，伪造出了一系列女性色情电影，其后，这个词的含义迟缓扩大，不仅包括他制作的换脸视频，还指多样诈欺 AI 手艺生成的合成内容。随后，开源器具如 DeepFaceLab 和 Faceswap 接踵发布，使得用户能够更容易地创建深度伪造内容。

当下，深度伪造内容不再是一个高门槛的手艺挑战，险些任何东说念主都能精真金不怕火、高效地制作出传神的子虚内容。从操作难度来看，目下只需一台手机就足以制作出 AI 换脸内容，用户只需要提供素材并省略调度，手艺自身就会完成大部单干作。

而 K-Pop 产业在全球界限内的泛泛传播，尤其是韩国女歌手通过应酬媒体与粉丝的素雅互动，创造了极高的曝光度。这种高度可见性使得她们的形象成为了深度伪造内容的理思素材。

客岁 3 月，K-Pop 女子团体 ITZY 成员黄礼志在一次粉丝连线行为中，随机地看到了一段我方的深度伪造的跳舞视频。其时，黄礼志的款式彰着有些难以违反，既隆盛又有些困惑，只可无语地师法起视频中的跳舞当作。尽管这段视频名义上似乎并无坏心，但过后，很多东说念主暗示，瞻念看这段视频让东说念主感到"触目惊心"。

如今，偶像的每一个当作、每一个款式都可能成为被坏心诈欺的对象。任何东说念主只需借助手艺妙技，就能诈欺公开的艺东说念主影像、物料，制作出极为传神的伪造视频。这些伪造的视频不仅可能被推向全球平台，也有可能被流露到奥密步地，给偶像带来无法预思的困扰和伤害。

另一方面，韩国社会对女性偶像的高出热情和去世，加重了这种侵略的开阔性。

在传统的性别文化中，女性时常被视为视觉消费的对象，尤其是年青的女歌手，她们的形象和形态同样被放大、注目和评价，使得这些女明星成为了深度伪造内容的高频主义。对她们进行深度伪造不仅能够连忙招引眼球，其社会影响力也使得这些内容具备了更高的传播价值。

而况，大多数瞻念看深度伪造色情的男性并不以为这种行为有说念德问题。

以 Home Security Heroes 的 1522 名好意思国男性受访者为例，74% 的东说念主对深度伪造色情内容莫得舛讹感，其中"我知说念这不是真东说念主。""只是我个东说念主兴趣，这不会伤害任何东说念主。""深度伪造色情只是更传神的性幻思。""深度伪造色情和泛泛色情莫得太大区别。"。

其背后的逻辑，他们或是受名东说念主招引力驱使，或是"幻思知足"，但愿获取更个性化、定制化的成东说念主文娱体验，却无视了基本说念德界限，抱着小瞧女性庄严的魄力，这让深度伪造色情在说念德和法律的空缺地带鼎力泛滥，进一步加深了对女性艺东说念主的伤害与去世。

而对于经纪公司而言，筹商到影像的残留与公论的烙迹在互联网难以抹去，致使可能成为二次辘集暴力的导火索。大多时候莫得办法显现深度伪造色情案件的具体细节，这也让外界难以全面了解案件的严重性和受害者所阅历的窘境。

由此可见，K-pop 女明星成为深度伪造内容的高危群体，其背后既有深度伪造手艺的装扮性与低门槛，也折射出部分男性对女性的小瞧。

不错说，K-pop 产业高度的全球曝光度与对偶像形象的极致塑造，使得女艺东说念主不仅是交易标志，更成为公众渴望的投射对象。再加上法律体系在应付这一新兴问题时的滞后，让女性艺东说念主沦为辘集上的玩偶，随时不错被任何东说念主鼎力操控、责怪，致使堂堂皇皇地破钞。

当手艺成为"赛博照妖镜"

一个更恐怖的事实是，不仅在韩国，字据客岁 3 月英国《卫报》报说念，在欧洲 5 个拜谒量最大的深度伪造内容网站上，有近 4000 位明星被 AI 换脸成色情内容的主角，5 个网站三个月的浏览量就达到了 1 亿次。受害者包括女演员、电视明星、音乐家和 YouTube 网红。

客岁岁首，Taylor Swift 的深度伪造色情图片曾经在 X 上泛泛传播，在平台而况被累计浏览超 4700 万次。据干系统计自满，其时全网已有逾越 9500 个网站"挑升制作非自觉亲密图像"。最终， X 一度禁闭了对斯威夫特的干系搜索，以破碎这些子虚内容的传播。

而国内，也出现了深度伪造的干系案件，且受害者并不限于女明星，更有你我这么的泛泛东说念主。

2020 年，虞某一边通过传播换脸的淫秽视频来"吸粉引流"，同期通过出售" AI 换脸"软件和提供所谓" AI 换脸"的私东说念主定制就业，在不到半年的时分里就赚钱数万元。2023 年 11 月，杭州市萧山区东说念主民法院判决虞某犯制作、传播淫污物品牟利罪，判处有期徒刑七年三个月，并处罚金 6 万元。这亦然我国首例对于" AI 换脸"侵略公民个东说念主信息公益诉讼案的审理判决。

国内在此类案件的处理中，该封号的封号，该处罚的处罚，但利益、渴望似乎老是先于章程，而法律的步骤却时常滞后于手艺变革。面敌手艺浮滥的新式挑战，"以手艺叛逆手艺"正成为要紧的应付战术。

比如，客岁推出的荣耀 Magic7 系列鼓首先机行业首个端侧 AI 反诈检测手艺，可在手机端识别内容是否存在 AI 换脸的风险。该手艺还获取了 2024 年中国辘集安全翻新创业大赛最具投资价值奖。

天然，平台的包袱也不应该只是是"一火羊补牢"，不然，章程再完善，也只是过时于东说念主性缺欠的一纸空文，既拦不住逐利的黑产，也保护不了受害者的庄严。

应酬平台上，依然有多数犯警分子在违章网站上传不仙女艺东说念主的干系深度伪造视频内容，一些来往平台的商家不外是换了张容貌，便在章程的夹缝中不绝目无全牛。

比年来，国内诚然在干系立法方面相关注这一议题，但已出台的端正轨制还不具备可操作真实定和明确的处罚轨范。在本年 3 月寰球两会上，寰球东说念主大代表，TCL 首创东说念主、董事长李东生也建议了对于加强 AI 深度伪造诓骗治理的建议。

近几年，"手艺无善恶，但却有界限"访佛的话术，险些成为每一篇对于手艺浮滥的报说念中的标语。但手艺无法为说念德缺失填坑，每一帧都是施暴者的主动聘请，不是算法自作见解。

当手艺成为了一部分东说念主的"赛博照妖镜"，大致咱们更需要的不单是是更敏锐的监管刀刃J9九游会体育，也需要一场全民的精神醒觉。数字世界的"不要脸"，执行是现实东说念主格的绝对溃烂。