上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。0 x- N% L8 C8 X/ C/ W/ Q6 U( k
: i0 h5 k) a% u) i8 a
8 k- \( O$ G" _$ i" z' y; L1 g/ YAI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。 v' c7 q# w3 n5 |: @) e
! f4 D: b2 }, h# B
我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。
. j5 Y' W5 o# y. c, \( o- `4 e# l' o7 p5 s' o: p" S$ H o2 Z& V
鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。
3 [5 q/ c6 z, q G5 v+ ^' n: R/ k' x) o( E2 n
从明星网红，到每个普通人8 R/ H! g- z9 I: H: ~0 U H
* {# m% j" d4 D7 S- }2017 年兴起的色情 Deepfake 有续集了。1 I) J7 {9 q2 [, J9 z8 n# V7 p
; B! K$ s5 r' P/ W之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。
: I' M2 f% F, K2 P+ H) M9 ?4 \% `1 I# i* v9 J% k6 H
AI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。" w1 E! w2 i+ M; X" j1 Z/ \: u
# {( W; r) o2 t7 D( x
「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。3 X" H5 `$ U/ z
x1 G5 E% {8 L' l
0 ~0 {3 ^5 ?6 H& I
在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。. d! O; p' r0 R' ~3 y5 t
, k% g. \8 i8 a* B% F% C: y 付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容. + z" r* A: Y# ?" s! F7 G, ^
- U" M; q7 N# Z. Q" y" B2 ?不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。
9 H: h, [- m6 M8 }9 A* t! b7 X* ~9 f% g
另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。+ U, f" m" |: h1 l9 V8 a. V, \
0 T1 p2 e, R9 Q. d9 a% S: B
好莱坞女星的 AI 模型，已经下载 1300 次. - k; A- Q( a& J
" Q% p8 M7 \0 Z3 {2 `
网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。
0 c' }1 T0 _2 p% T" d" {' H* ]
" Z2 a5 F1 {2 a" N/ V. p# ^' k在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。$ g5 D/ {+ A8 Y7 g
4 c% i9 m' Y/ m, z# D+ ^1 r9 l" l 一个「擦边球」模型.
2 J9 \" v& c/ `3 K
% p1 C; F; N0 a9 ]4 Q! Y6 h) g7 @色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。5 u: g6 [+ L1 k, a0 J# Y: X
. q2 x$ i' I& M" j% c5 h) U3 ~6 h4 g4 i
有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。% P V$ f1 O- @, e/ v/ ?' a' l
* i2 B2 e/ C! t6 d! G+ f+ w( Z这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。; X3 z( @) U6 B9 U4 ~( Z5 N; t
8 M2 ]4 v0 {# n" W' s
之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造 2 d A* d6 K% E! W: I
( l7 { J# t3 \* D4 P9 d$ F' o那么对于色图，谁成为了微调数据集呢？
/ w2 M% F/ W" Q
2 o0 h' m; M! f4 P9 _9 u; d独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。
6 D6 Q+ U, A! q p4 v( P* \3 v- D9 w, k: y3 z7 i
9 S l* h5 r( {4 g1 Q
5 b) i9 _$ ` l1 ]3 a( P) C愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。8 K, c+ `4 T: ?: L% x M. U* z9 q& d
* }( a" `0 D, f0 g, @- R( s- ?倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。
3 `( X! R1 d, c* W9 L5 y
* I( ^2 }' I" \- Q3 j1 `6 j3 M德国电信广告部分截图，儿童照片可能会被用于制造成人内容. % Q2 o9 ~8 |( `. y9 B+ t
* M! a3 l! _& z4 C0 L, z3 J9 `这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。- K/ Z. `9 ~5 t \: C" _
H+ b" r* s9 L2 u6 q
根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。% h' Q8 F, \" N6 ~& J, W2 n
: V b: ~! P6 W4 C
, b- r( n2 ?/ n0 D$ Z- D9 K5 T0 X. P或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。
j% F! ?! m0 H
2 G3 L" H" z2 Q从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。
/ Y# ~/ q& x" L/ n, \3 u& P
2 ]& f! ]1 y& {6 h& r6 Y n; y从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。% C) D) R& a5 O6 C5 K* u
/ O) P+ P, V$ ]3 ?) M# \
TikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊.
' t: m& V6 v. o$ w0 k2 l% Y0 @) K( f9 r
现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。
) |2 g |7 I) J; b, G! k& h1 f; F* q" q _! P/ j
某 AI 模型网站的生成速度，最多需要 1 分钟.
7 q) m6 {, U) }" D* q) k( a$ T- \% v" z( H- J' ]6 p) J2 ~
AI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。
1 q* l+ `3 W& H$ d* `' f( L9 a, q' b# u3 |3 I! \2 U
各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。
+ a$ l6 z L& m) n7 o1 r8 a* a; ]
可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。
7 p. i7 Z+ `; z1 @2 b G$ T) m
2 k0 j# o+ J* Q3 G; A是兴趣，更是交易
9 F- i1 v8 j+ H" U2 q1 a5 Z" A$ p4 R" V" U. I& C
和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。( j8 P+ Y5 N1 u( s
) p5 j$ \: ]% w2 u# l4 u在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。
$ D1 N# v" `- q
7 j7 u9 k3 C `, q0 n, Q他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。
7 n3 B3 P. B9 O$ @
: e' w7 G( M4 k$ @( J' r% W1 OPatreon 的订阅界面. / X5 R$ _7 l" m3 J$ L# p* C) |
( G' w" p. ^1 p# Z( L7 ]
任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。) U5 j/ L8 {- S5 a
* u. N: f! u5 W( o) R0 t一位 Fiverr 创作者的接活界面. 5 `7 f9 K0 c' J6 S) y; X
% f0 E0 {/ {1 J0 x$ {) }+ l
还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。' s5 h8 i# Q& \2 I) _1 F9 U
/ v" W/ J( L% v, i) X3 \* t7 T
别说个体创作者了，平台同样赚得盆满钵满。# C2 N( P) ^0 ]# }9 e% f6 p
4 o: s3 @2 t3 {
有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。3 V6 p, z$ X! Q/ t& u; e) Q
5 ~+ i/ H& B% B3 }2 x: K/ m
AI 模型网站的打赏功能.
5 R" @. u. n9 U9 \9 _% }6 _5 g+ U4 d$ m; }
号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。% E5 R* k# c9 {1 U8 o b6 \
+ P' {1 W3 X" n( P; K1 P有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。
& j2 a* r* e. Q+ f$ H r8 B9 {7 }
2 F5 c# \$ u/ H然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。+ z+ P# B, |- l) I6 d6 v+ W
' ^9 v+ E" P5 Q# |: p. z" f- o7 }/ f# v2 p7 Y8 a7 J) i- w
这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。5 h, |- S+ Z4 t9 H- v/ M: L
- I' a( i+ p8 U$ t% V7 R- Y放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。
" y0 H! e7 N' j7 f
& j' U. _- R M# K" V" y8 M1 }+ i8 B& Z3 l7 T0 j
然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：' u/ @6 w0 N/ @8 V- o L
' m1 x- o A( b4 n+ P ~人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。+ V8 Y3 p( G# H* e* L9 }0 C( ]
* \) U( h5 ?3 B) r
AI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：3 z" a/ Y: J5 ^/ O& u
! e4 g+ N2 P! o
过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。
5 N# j. F/ Y" P- e* d4 w8 k v9 ]$ A; B0 d0 E
操作猛如虎，维权打地鼠
! P1 w# y% _' O6 I' O8 ~) U2 x
作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。/ Q6 p0 `( |1 ^' T3 Z' {2 ?
: M% p: L" b2 l3 m- @4 E撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。& o1 r, Y9 U6 {& @
; \( D9 @- B; j. `0 F+ c1 o( N" u, |
) ?+ N9 \6 c/ {( ~1 y' J& \7 d
按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。
! u1 D: w. i! D/ i
& \) g, s7 R, |( f) ]& z不过，Google 也在改进排名系统，减少此类内容的出现。6 d' G# n, K3 {! ^9 X
1 a/ b3 p' W1 n5 U* h Z
Google 的服务条款.
, F) m3 M2 o) w$ x% }# V
. V2 t3 i" ]4 P: e提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。
6 Z" A' j' \" o0 G
% w0 q! q, _" B8 F8 ?0 n404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。
- O ?2 Q2 ]# ?7 F+ F* V
& z0 X3 N) P6 u& F- w2 D然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。* x" \5 s$ ]& |
8 x& N w8 `% B0 T
某 AI 模型网站的服务条款.
H' V! P) e! N" `. h; u5 X) a# t9 F' S* n: i2 n% k) O8 x
只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。
2 {9 n6 C) s4 A3 e/ a# e, ~' G- ^+ _
类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。! r8 L4 p$ N& l
, h6 o0 B6 U- @2 z; R( a3 u+ P
Discord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。- I* y: x Y+ [; {& e
: K _# x# _+ v# }1 B
Discord 的社区准则，上为原文下为翻译.
, y, T+ _& h% U1 U
5 k% n9 C U5 b' w ?( S \# a讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」" H9 m1 I3 N0 U0 ]( Q0 t
) E" U& f+ l' C' ?
甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。
6 W' U5 t1 K, E0 C$ d
3 E0 f: I* S3 s好在几个更加主流的文生图工具，用技术为技术事先附加了制约。, R# }! s6 Z0 @9 F& u% o' B9 _
2 v( B2 |6 o0 `) X+ i3 k3 p8 W2 k2 |: x+ [
OpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。6 W8 w* a& A. p. y% h& s
# A8 G8 `- s5 D9 p0 EMidjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。
; N0 x% `! u* R0 }; Z
4 a o& A, F8 e4 b: f) jStable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。
m' U5 @; }, {9 m F% @* j1 L; W
尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。1 I# R& p- I& B( d, I+ Z& B( {
( h4 j8 E; k1 U( ]2 S; `
( l5 `9 F" k! p) K& I0 Q! D; R简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：& ?: X C* u3 l
; W7 j: u1 ?$ n
提供训练图像的内容社区；
$ E# ]* k4 _+ h
. d/ |% P0 M, _' V3 N& G生成色图的开源技术；
& l5 \4 j- E7 t4 k7 O, q' \5 i8 O) n6 r! @ o
将 AI 模型和图片商业化的平台；, T5 A4 @, N" q
6 `* c, g T" P$ f. Y/ |
自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。& V( i. s2 M* |' n# c/ X
) A3 x6 _4 u4 n9 K: n, N; I4 d, D* v7 Z5 z
很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。
) J7 i. C7 e& e; r) |. Y4 L" e' S, Y5 q S8 F: V. `2 L, I5 j/ f
就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。' E; H' d) T* J# i( H) _
8 m8 j( B% n& t$ t% ~每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。
$ e! _( _( c0 X
+ v6 v9 m: W! n) R0 [来源：爱范儿 张成晨1 l# B9 S) } [3 `1 t( ?' Q. `
|
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19