“大约在半年前
+ I! g6 j4 b% J. x我的视频评论区' z( w [% }+ W6 M4 p- q5 H9 @
突然涌来了很多人说
1 d1 |1 K7 r2 h2 T( F看过我的‘视频’……”5 {! ^0 B) k% D- G5 _. t, x
! x5 _ A" p& \2 h5 h
近日. H/ |- I6 D" i: F- x; N
一名女网红关于“AI换脸”的曝光
( l, y' p I- `! y引发公众关注!
- f @2 X( _ k( [' e3 Q+ I+ g& w. B
该网红小菲(化名)称:
$ c/ L9 T+ ]$ |- F N: A“疑惑地点开了视频,视频里的女生正做着一些难以描述的动作。看着视频里那张跟我长得一模一样的脸,愤怒得说不出话来。我突然意识到可能我的脸被AI盗用了……”
& i4 a+ I+ S) T) t有记者注意到
) T" u1 s6 z; ^该网红在视频账号里
( w- p1 n% R$ b8 c [* D有数百万的粉丝' \( z. A4 T% F9 s, M7 o6 W$ f
3 P7 Q, R3 r3 S0 C' e. y其实,类似的事件
' ~9 Y2 O, G$ T已经发生了不止一次
7 M j+ j# C- w% }5 j$ i" i今年4月8 P+ {' g) N' O0 v$ B5 e
杭州检察机关曝光了一个“女神群”
E; B' v- b9 O5 J/ }3 J3 a, s8 h群里发送的淫秽视频: `9 }$ \0 U% c9 C7 v
有不少是犯罪嫌疑人
6 T% U# S+ O) M; |/ }6 ?使用“AI换脸”技术合成的
( A. ^- v8 f" L# @( I# q/ j还可以根据顾客需要“私人定制”$ h, K. o2 d' K$ |* [8 Y
和明星“拥吻”、长得和特朗普“一模一样”、马斯克出现在“平民窟”……关于“AI换脸”的事件,多次引发社会关注和担忧。
' x; ?3 Q9 a# S( r- I1 U
5 P! Y d }4 S5 h4 |! }“究竟是谁在盗用我的脸?”
2 {2 x- K( {/ H5 J1 ^ b' f5 i3 j* }4 k小菲发现,在境外社交平台上有人冒充她注册了假账号。对方先是顶着她的名义搬运她的日常内容,等到粉丝人数差不多的时候,就以会员订阅的方式贩卖视频。
& P8 [5 H: D6 M, n$ c; P9 D" z为了吸引更多人的加入
% L" B* C' v G1 [新会员首月还是免费的2 q5 |" H- Y4 g
此后只需要花费21.6美元,就可以在未来的半年里源源不断地收到那些所谓的only fans的盗脸色情视频。
: t' J2 J- G; N) e0 }5 V- \+ F' j接着,小菲又去另一个社交网站搜索了一遍,发现了更多制作AI盗脸视频的账号!这些账号少则几百粉,多则几万粉丝。其中量级较大的账号一条新“作品”就可以获得1k点赞量。
2 ^: S" P! c F0 ?7 L! b% S+ t随着小菲的深入了解,发现“AI盗脸”背后好像已经形成了一条完整的产业链:不法分子通过AI换脸技术赚钱。
2 s( g, o r. o' b/ Y4 ?$ E4 N `他们将明星、博主甚至素人的脸制作成假的色情照片与视频,明码标价地获取利益。
j$ u$ m4 [/ f' ~; m5 w: ^+ @) G“我曾看到过一个网红名单,表里密密麻麻写满了我熟悉的名字。“他们根据博主的粉丝量级进行分类,假视频价格在30-50元不等。但只要你花200元就可以进群,进群后不仅可以享受永久半价,甚至还能接‘私人定制’。”3 e" g' o4 l6 k! V8 s6 P3 v
“所谓的私人定制,即提供“一键脱衣”的合成服务。”
3 }4 e& A, w/ n, c“只需要付费后给这些账号发送带人像生活照,他们就能通过AI合成的方式制成假的视频。那些收到视频的人除了满足自己龌龊的欲望外,还可以将这些非法内容在网上传播,上演一出造谣狂欢。”
Z1 W1 f3 x- h8 I1 S F& ~“希望不再有更多女孩成受害者”
9 z& ?8 `; U1 c7 |小菲称,半年前- {" z1 n! K) a* @* x1 ]
自己发现这件事的时候
' p+ f6 L7 L0 h5 n安慰自己说“假的真不了”
# `! {0 n' _ N选择了忍气吞声
: h- I, L; x i% G7 X& W: s6 m直到最近又遭遇类似的事情
: W$ h0 {- P. }) e K7 F她怒斥这种行为,“他们仅用几分钟的时间,就可以把女性的脸和身体拆解拼接当作商品兜售。”3 p3 D3 J: \) m7 _
“不管是为了满足自己的性幻想还是为了挣钱,我想说这本质上就是对女性的侮辱、是一次网络霸凌、是一场集体的性暴力。事情发生之后,我试图去举报这些账号内容。后来想要通过法律途径进行维权,结果发现这些账号都是难以追踪的海外ip。而传到国内聊天群里的视频也已经过多次转手,难以找到找到源头。”2 R# w; }, D9 U! \0 Q
6 \! s$ V1 \5 r- u+ D( y( A近期类似事件频发
! B- Y" P# F: W p地铁女生被“一键脱衣”" d" N4 W! W( Q" Q' B. A
利用AI模型! ]4 q" x+ L9 e2 H: J
生成女艺人虚假图片等等6 E$ c: ^5 Q1 u/ L. W' G4 M- i. _
$ C0 ]7 M8 Z9 Q7 C/ \
小菲称,只要这种“私人定制”服务还在,只要有一张自拍或者一条露脸视频被传到互联网,任何女孩都有可能成为受害者。6 ]" u( F. ?; r0 g: W T
“我有必要站出来要让大家关注这件事情。如果有人看到这样的视频或图片,也希望不要传播和攻击。网络不是法外之地,希望不再有更多女孩成为受害者。”
9 s9 D& ^6 \% i+ _. Q
0 {. G. k7 ~& w9 v. c: q) @) A. t换脸软件背后+ q2 \5 I( W8 n2 C% c! w# D6 x
暗藏法律风险和侵权纠纷
6 ?7 S6 T; ^' D- `
! x6 s% v6 y* { x6 u有法律界人士认为:近年来,“AI换脸”走红网络,一些“AI换脸”的App使用明星的图片制作换脸视频进行推广,其趣味性背后暗藏不少法律风险和侵权纠纷。
2 a* [3 o# s* L2 w, N, Y7 p9 X
6 q# e; x Y3 ]记者了解到, 4月11日,国家网信办起草了《生成式人工智能服务管理办法(征求意见稿)》,向社会公开征求意见,意见反馈截止时间为2023年5月10日。
( F% Z& |$ k7 S! `4 Y( H# b8 w. z$ J6 E0 I& l8 Z, ?5 R4 ^
《征求意见稿》共21条,从生成式人工智能服务商的准入,到算法设计、训练数据选择、模型、内容,以及用户个人隐私、商业秘密等方面提出了相关要求。
]5 f0 C/ O& w1 n$ F% j0 X
G& ~+ f( o# j+ Z要求尊重他人合法利益,防止伤害他人身心健康、损害肖像权、名誉权和个人隐私,侵犯知识产权的行为发生,禁止非法获取、披露、利用个人信息和隐私、商业秘密。
8 o1 ^8 y0 r+ S9 l# b# B$ G+ ^- ?/ d
$ l2 H) C0 C6 N- c: T |