|
上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。) m* J7 B$ N9 A5 u, [- `
; a: f* w) e7 x* \# @
) J/ z5 \ ~) s
AI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。
% ^: I7 l( C1 |0 n% ^4 W+ J& j. s9 R* d K1 ?; X
我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。. [( F( J1 v# A$ ~5 b' N, [2 C
8 V& D& G- Y2 [% z6 e
鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。
1 {0 N: L/ w( `2 Z U: G( q' T, T" E* E6 w7 ^
从明星网红，到每个普通人
4 K7 F/ ?( `4 X6 C( S
( A3 N9 a/ N" [+ b: {& z4 e! B2 \% J( P2017 年兴起的色情 Deepfake 有续集了。1 w" D! C0 B* [8 N
9 f7 z# @ N# M9 a之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。
' f8 G8 M1 S# K# G) c
p+ A' z# K% E% K6 [AI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。4 K9 e% K7 ~* ~& n
' A" h* x' D3 H5 E4 { {" H) j& c8 p「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。
1 e3 n; N# ^; T* ?5 L# L% C
: v2 J1 ~8 Z: r9 H8 ^- d- W7 z0 {) p" U
在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。; d3 H8 k0 C3 s- w; S0 X, H
6 x4 ~- d3 J: ?$ z1 t/ B/ B5 P, l" n
付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容. / o6 J" [6 [& Q0 x! y0 y9 f
4 X) G7 u. O( F不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。; P0 w# [3 r q* w, [
5 [. U: K4 m6 F* L9 E' N! d另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。- j4 n7 @9 [6 U$ N, |
* @7 J8 M0 |' z
好莱坞女星的 AI 模型，已经下载 1300 次. - m' @2 f# S2 _% s" I# q4 \
; D u" i# W! n: A3 H4 `1 |7 c
网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。
* D+ l2 i; j, D" R& y2 M5 H$ _9 Z8 m* u4 \
在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。
1 ^% f6 a9 C3 n! V# q- T- |9 Q# V! F+ {; M' v4 x
一个「擦边球」模型. . X/ t3 A% n. D& a; ^" ~
3 W0 q: b+ ?4 ~; ]色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。
# o+ O$ B m- q+ ~/ H, t2 R: S2 y( Q( i; r. y5 O; L
有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。( w5 ?: Z4 @, B( A+ K" c0 X2 M7 n
1 ?6 V# D3 o8 b& C$ V
这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。
3 `3 S! W# J& b9 m l% g# T0 z# c: v5 X
+ ]; q, T- s# K之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造 : }. V4 b( E* w1 |* u
) W0 }8 Z; C% n* A- q
那么对于色图，谁成为了微调数据集呢？
_+ S# z7 o) s; G c
5 D# t: `0 o* w5 Z6 ~0 a' }" \0 Z f5 D独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。( b* ?, L& K' g6 b2 B
/ X0 G" x( X. w0 q, f$ b% N* N7 R
, V7 s; s1 B: J. J7 E% v, W, r! u+ i6 E
愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。8 [% c9 u. c% B4 p5 |0 | H* x5 C
* d. ^( f$ T- `: f# k, n倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。
+ u% u: Q, B1 _6 o% ^! [2 {% j6 Q4 a# n' w* _- p+ I
德国电信广告部分截图，儿童照片可能会被用于制造成人内容.
[' K( o' G M7 o- H" _
9 K% V# M g$ w+ c$ w( r这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。
% W+ m* Q- \) b6 X
$ W9 n' J/ {* J9 v e5 t" S根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。
/ W4 N4 E) o7 s3 ~' p
0 ~1 q, K2 g5 r9 D. ~
0 r2 X* Q5 ?6 Z# d7 Y或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。
3 Y# |, s: G1 ^% W' O, r) a1 K# E$ w- f
从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。$ o* B% `( ]! ]% [7 c
& f2 k1 S$ H! a$ f5 H( h2 [. a
从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。
# {6 h( V: w6 f. f/ f( Q9 a7 k
7 F+ C0 ?$ p, f4 bTikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊. , A3 I: j, U" H0 l6 D0 K" a
( ?8 V0 [7 D W/ F现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。/ }0 \9 i# [2 y' c1 [
# z" y8 D6 d0 M
某 AI 模型网站的生成速度，最多需要 1 分钟.
+ k4 ]. P6 M2 f) G
6 S5 t2 k3 C/ s/ ^9 w3 L7 D! _AI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。, K/ F) w2 W; v& T
7 B: F- @* c* F) U/ ~
各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。
& J; S' O0 O, N/ @
( x" J) t w& f, K9 v0 w可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。/ `9 i% Z. N/ C4 m
: ]$ H( Y3 [9 l+ K: ^7 J是兴趣，更是交易
6 _" }3 j) [& L- s3 N5 @ [1 c2 X$ f0 O7 A9 K
和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。
% ?2 X& Q& k8 h( G$ n: n
$ i% }$ @4 \; x) s' ~( p在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。- s+ x) |* D. X4 D
8 D, O# G7 K3 z& @他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。
1 `2 G, O& U* e2 K
% A, O7 e9 z& C& WPatreon 的订阅界面. . r' ?7 j! y2 ]& t! L' R( S: r1 k+ Z
, d2 _+ z" d, m. C5 w% U. `
任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。 ?/ H* E# B- z2 ^0 w! h$ i& ]
, V& R% l" V0 ^3 K5 y' d% h
一位 Fiverr 创作者的接活界面.
. T% O% V6 D9 ]4 s. h& r- e+ w' U9 L4 T7 R
还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。( u6 ], b# S+ E4 ~5 y4 m# p& Y
* B4 }, }0 G. z& T
别说个体创作者了，平台同样赚得盆满钵满。
7 t( r$ R6 X: `3 E4 t! _/ D, [- b, Z9 [8 }! x3 C( h8 q+ _
有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。
# G/ e5 y8 o+ W* V" q! d9 v9 y7 r: ^5 o( [ X" Z. W7 e
AI 模型网站的打赏功能. % }+ y: `6 t' `
7 I& l8 [" a" V8 S% v# I号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。
9 X9 Y, i4 I4 I/ Y
% [6 m7 Q: `; ~有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。
' w' r- n9 T( J- `5 k" t
3 X8 W* t0 ]! P7 T G5 L6 C* B然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。
9 `) y* N$ t- j; @, c, r8 E1 {" C( D, z8 h( g
w: O, I8 d$ e9 j- X( [" {这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。* V$ f' O6 Q- S! J! [9 Y
' K0 q. | k- j) p" n
放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。2 x# X& U1 e+ F( \, G5 B/ q4 G9 s
: X3 s1 Z( h! C$ F5 c! p. x B# j9 l; n8 E9 F
然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：
' \1 q. D! \8 K8 [6 t( L
) }+ D, L! \- b( K' i人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。
S* ^& F; C% d0 I
, ?- ~# Y t$ h; BAI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：. }7 c& x# f8 q( g n$ V
) C: S: H) n* }" S$ Z2 R: N过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。$ M( k. u1 D( M: k G j A
8 C& d: z! q* ~1 O
操作猛如虎，维权打地鼠- g4 z( R, c v: V. A: b# a
# O4 C- @; R) N3 i' a! {$ _% a( t E
作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。) q% `+ _/ w$ b/ m. U: B
. S2 d7 L- @% {* C
撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。, G2 J* w# W3 F0 b$ l' y" _8 Z/ W, K
8 V: v; S! }) O0 t; T" k ]
: o! O8 L8 @+ B8 i6 d按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。/ e# s3 f3 X2 W5 R( S. q. _
" R% G5 Z g6 j& @ O
不过，Google 也在改进排名系统，减少此类内容的出现。
& m* d/ v" R/ v# z2 u9 I
3 t7 \! L) e5 Z6 |Google 的服务条款. 2 c6 O: R: K4 r+ C {& g1 d
, e4 y' d6 O" B$ J8 J提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。* H4 X! z( S% l
# F9 |; I7 J; f$ z, W
404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。) g' ?& ^0 z+ {/ A$ ?! P6 `
- c+ v7 m; J$ p* W
然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。; U; @) q/ @( a, } t, p H
K- b; ?1 u* i/ F' d
某 AI 模型网站的服务条款.
7 w% z# h$ w: H0 Z( n# F/ @4 _# u! h, ?" C5 p
只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。
9 }; ]% d7 c2 b! Q# ^' s# n/ G5 _/ ]' O0 r3 b+ z0 X- I9 y/ {
类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。 k# b4 a: \+ v; J3 m, F
/ K* i3 q( O: `" d/ Z
Discord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。
8 S% I8 t7 \1 w0 v9 N& u' o4 Q
0 m9 ?% [2 i) {Discord 的社区准则，上为原文下为翻译. 1 Q5 o) W$ m: x& T) K; H D
7 I2 j# L- [% y+ ?/ n& L7 ~( K, X讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」
9 K% s& H5 M- l( K2 |! y. o; x9 N) X; b
甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。
: u, W- {, l+ P* W+ T3 h- }
0 f% K2 |. b: j5 b8 E+ {好在几个更加主流的文生图工具，用技术为技术事先附加了制约。8 H, w: ]" n* `% R% M
0 W7 q9 h8 c6 G- X) B6 m+ K6 W F( O3 G; [+ {1 ?
OpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。
+ m$ d5 L( {4 W( b, W( Y6 h( U. J; D
Midjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。
4 T% w. A' A3 `! N. a
3 n; t: C3 E% b) I, e' ]Stable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。
~ B; o5 [# v9 x3 ?& J2 Z/ q" \
尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。+ a6 s6 k8 L) p& i/ L2 t. I
7 S: I8 Y$ `) C: k8 o2 Z% b: ?5 Z' G) P6 L b) t8 g; X
简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」： r8 n& d: S. i" a% w
& G0 F$ b. t- q8 c" C0 J" Q( f
提供训练图像的内容社区；, R3 [0 M1 c8 p+ h1 L
5 A& ~/ v# ^) B) p# E生成色图的开源技术；
8 T' E+ g6 Q; p, c2 E9 h' [1 E3 U, e% Z- s
将 AI 模型和图片商业化的平台；0 j X- ^" O& d: p, A
c N) A5 ~% ~3 i) K
自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。; V: Z+ |3 S. j' o+ y3 R1 C. d
' |; x# {9 ^( {4 v. }8 w3 H
B! P/ p) @4 ]. P& P很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。& u) m8 s/ r* k* L
8 k2 G4 }2 V3 W
就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。
8 ~9 T- t% b q
0 f% ^, v9 C5 e' j4 T9 g/ q/ @, c每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。/ t# n! G2 r1 R+ r1 l
0 S% Z' m- k. @& f, b9 b( ^来源：爱范儿 张成晨
. ?* O! r1 S4 K7 ~! j9 g$ L |
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19