上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。
: s! e g2 a4 o$ g/ }4 k% U5 x) b5 @% o) n
& P1 K S2 ~" s
AI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。
5 H$ I7 B% T5 N Z" d+ f1 {- {
: z" g1 s" C) X0 o; u* r& k我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。) f/ V/ a, V1 v( r6 Y" c& Z
" j: t. h7 y' i鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。8 n: C. ~) Y# q& m
# q Q5 _1 Q5 c; S' a从明星网红，到每个普通人
/ D1 F) V5 y9 L0 |
" R. _$ M6 D; `2 }" ~, d! @! ^, T2017 年兴起的色情 Deepfake 有续集了。6 ]* {0 ?: F: J) F" S
" E9 w! l1 C% ]. r t9 `4 U- i之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。
4 t7 S' h& A2 s; e' t2 N* f: u. Q
, @9 Q, j. O9 `( N5 qAI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。
M+ Y1 j: o4 j1 x4 s) {
9 {8 M- \+ b2 d6 K& v「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。
& K. g, h8 x# L+ E# b
" S: j- C# C$ N
8 y* {9 |9 k0 b" w3 B- y在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。
- L l2 I, n" q. h) l
& p2 f5 H# A9 {2 {. l: ~. d 付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容.
7 z. o( |8 Q; [# K3 a. C
, g. `) w5 B4 C4 W: Y$ C7 P, c不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。
$ c- \3 A" C) ? s, h# L4 m7 h2 g( B: ?$ V" d9 K9 S% v/ p' H2 L
另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。
; z) d3 `* L' F4 u' @$ i& E9 d) M: X/ T6 A
好莱坞女星的 AI 模型，已经下载 1300 次. " h% n* l5 `0 [6 D& |& o1 v
# n" v O% S4 R9 `: B0 R' ~8 u7 s" q
网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。
; Y4 a3 }# }3 x& \4 K+ h: D# ]
) N& |* I: n6 l9 h- } i$ s在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。. T8 ?, n$ R. C# f* |( |0 u
, S8 X' h1 n( N
一个「擦边球」模型.
/ P0 v0 s. a | y, b P
' _3 U1 |+ W4 D/ O$ C色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。: b K' c0 {; a+ p9 R7 e9 v
1 N! w) o% C+ o0 o, ?& f
有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。+ _' A% N; W9 l C6 C2 A
( z1 p$ [0 W+ t, f
这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。
3 F7 ?8 R1 E- Z1 `6 g) l, s/ f4 O1 F. |( V+ V7 t3 O
之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造
( F4 a& s2 @' Y- P( h7 V8 R3 F* Q& ]' A
那么对于色图，谁成为了微调数据集呢？8 }0 `9 T1 W' O) o0 `+ s
i h/ X; Y; X, B5 t# i* ~
独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。
+ l$ ~3 U q; t3 E c
: c( D+ `& Z6 w* C2 R3 R- E2 Y3 K5 P0 S: T! N; } a
$ }; S m+ U. r2 N* D; A: D
愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。& p `6 Q* q- @: t' i
' `+ l$ ]2 z4 F) w) b/ q/ m
倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。# u; A% m0 w$ y7 N" P# A, c# |
8 [% s5 g% f1 O' ]德国电信广告部分截图，儿童照片可能会被用于制造成人内容.
) ?* v+ G; ~: H
q$ ^2 }$ {8 I# E这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。
$ m+ g7 u8 e7 g6 D8 { K
$ v# V2 p7 o" t9 Q0 U# P+ r根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。1 a9 z0 y* N0 g+ W7 Z6 v5 c) x
# P! }- A4 b+ z
}% @ s8 _5 ?- t或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。
, N. O* W" ~3 l( h# T0 I( R0 I0 t
+ L* S+ \' X3 c( @2 f从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。
5 U$ Q) P5 L6 {7 @2 Z* o P
* U W& \" _ z$ g从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。
! X8 j. ~! Z- a4 Y5 Q
& Z" n% Y& l! K( i, oTikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊. : r3 `, F- U, k" c
5 d* n* M2 C% X5 a: B
现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。
* J& y, c; \# |% q( j/ l1 l0 m% u- S# `9 H5 R+ [
某 AI 模型网站的生成速度，最多需要 1 分钟.
- }' o6 U& B; {9 _9 W( ]8 U5 V
: a$ p" @: k9 I' V4 V8 n& M4 nAI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。
* i/ d0 A% h( o6 P- L' K7 `; H+ A; ]& F
% C, x7 n7 ^" |# ~* k! `各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。
& ]' i. J3 x" E( i6 Y- @9 j0 {$ |. Z
5 p7 N: j; B, b( h8 G可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。4 I O, Y. k. G
( z1 N9 e! m0 [" _( F
是兴趣，更是交易
( D% R6 l; D2 }, L! U/ L- y; C% Q& Q/ h+ f
和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。3 [) C/ j* Q2 k- R. v0 J- N
: D) y2 O& B3 H" L
在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。$ q% T4 d; c1 a) q9 j+ o2 X8 |+ y
* y) g n) a; A) D" x
他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。* B/ y: S+ e: t* z
( H9 Z9 i) h+ F( g
Patreon 的订阅界面.
7 N- [6 i+ O4 H: T) R ~3 w! g9 Y' N$ L( |6 Y1 ~
任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。4 j- C( L& u7 N6 n# B# M' w/ U
+ s; u* B# w) @5 e一位 Fiverr 创作者的接活界面.
' {) g2 [- d+ w" f& l
! \: o/ ?/ M" d9 v8 ?2 s, G还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。
J( z @2 A0 h: M3 @5 z$ J7 M5 H8 J; P
别说个体创作者了，平台同样赚得盆满钵满。
$ U/ R! T0 T7 _! V# W
0 `$ M3 V q( R有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。
2 }/ w2 Q0 U1 L& A9 i y1 E2 v$ F0 |& k8 i/ G7 a& D/ V
AI 模型网站的打赏功能. + Q9 P! ?5 p2 }# R3 I
) K$ f, U1 x; n4 J号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。1 v0 E/ j l. s7 L+ z5 W
M; K. @3 A! a6 E7 Y, G) ^有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。
5 }4 u, ?5 Y# b9 R- g7 c' R& B0 @ Q4 J
然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。6 i8 u1 V9 c# p$ P* C6 ~6 T8 y
1 k) t- B: t6 U7 {+ p
4 |* `$ R6 a4 e8 o1 A7 U
这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。9 U# }: c- S7 ~# o0 Z
3 J- Z( I% p% q/ N+ K; Y3 L% i5 o7 B放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。
2 K' K \1 W6 z, }) f; |
5 \; ^! P5 x( R! b2 z
+ w4 }7 B& T3 d9 S: ]4 r然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：
+ d, P# R" v" p' t5 z& C( q- t! R) T* c( Y5 w
人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。: s5 ~; _: Z& V1 [2 }
5 M3 g. W' f( N' D) {8 A, L% aAI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：; K: S. U; l: t l0 P+ {
$ g9 Z& {. |3 H1 P过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。
, f/ E8 `/ ^% x0 R! V9 |/ @0 F! B
, r8 G+ r6 u' {0 m% V% W* t' X8 ^3 x" H操作猛如虎，维权打地鼠
" e( t& v; r4 k% {, c4 P
% _- P; c4 ^" f6 u作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。7 b* `# M3 ~ \
0 G8 Y* ], B, Q, z6 a- q
撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。3 i& v1 F6 l; e1 p
% \! Q% n: x. l/ O; l, m' d0 g: ^
按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。
% f3 M* Z; l5 z, a7 U. y0 a! @0 r0 e- e
不过，Google 也在改进排名系统，减少此类内容的出现。9 x7 @0 z- P `: q
* A+ K# t/ A- M$ F4 u8 s) CGoogle 的服务条款.
4 g% l4 f# ^' |! |& ? u1 a3 x$ A' O. h4 s5 I" c1 P
提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。
4 B( X7 f( a' n! ~( `" U
1 {7 f: i2 B8 C/ P4 R7 }404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。( f! p( D' [1 U j) x8 n/ j/ \8 j
( N0 e0 d9 M4 B
然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。" T' [) m) \7 n& _0 }( W
K. K9 Z& r |# }& u, u某 AI 模型网站的服务条款. 1 P; S; W+ e0 s, M
) _& s( K5 S0 ]& H% N" d) A* }只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。0 t* i. \% e# R9 V2 z
: H6 t6 Q' ]! {9 i类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。& P( c( O5 t/ a9 T( U/ y" W& t1 O6 k
; \5 _' H6 t% l) W* B7 P( YDiscord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。
+ ~$ V2 x( H; g$ b9 P1 C, t
% n: `. T# n) F1 ^, CDiscord 的社区准则，上为原文下为翻译.
$ D9 K2 \+ p5 \- a, b' }6 r/ |9 a: [( |: z3 @* L: b* a
讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」
8 p) [1 [$ R4 o! o! `! L- Y7 I& ^8 p% m
甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。! M S3 r* [( b3 u
' D8 V( i1 M" O好在几个更加主流的文生图工具，用技术为技术事先附加了制约。
1 |0 E. ?: i" k- S/ P
~- B' i, p( n5 F$ b1 F: H3 f% `4 p
OpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。; I% w: e) |8 u, H+ d- }
& \8 `' _* T3 V1 Y& m' @8 n' vMidjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。) Y3 p/ K( ?2 A7 i7 d$ ]3 J q+ S* Q
% Y* j" ^, u x) v* v# _' tStable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。. ]% z1 h) h3 Q2 r+ d6 v9 z: B
# p& b7 r/ W5 f
尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。
9 `! u( z; D- U! u2 ~$ n) [# Z( e5 c2 w" k6 |1 i
' a/ j5 u# e( Z8 Q简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：7 Q2 A4 Q/ E& r" K
8 J$ ~' i6 J3 O0 ?. _' k2 T0 @& E提供训练图像的内容社区；8 u9 X3 w' k& l8 W" C9 d
# F1 ~! n& o2 w- ^0 d: _$ a) C生成色图的开源技术；
/ h b* h8 F" v g( P6 |. p! U0 K( L6 N
将 AI 模型和图片商业化的平台；
( ?" d7 [ Z8 H/ n& l; Z& y0 w
6 K5 P J( E+ O0 F; |5 C& M自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。
$ M2 ^7 P& A1 {/ R4 w1 Z) K4 y8 ^- W
8 ] v1 G! v r9 R9 d2 H5 j
很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。
9 u& D4 G' N4 I/ ]( b( T
% X o, g% j+ X( h! @就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。+ ~- `8 w! B: A @0 W2 T+ t: k' K3 F- e, y
% A" |3 v# _4 |3 G, N! ?& G% a
每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。$ k O, Y. m# n a
0 x" x9 A1 @& @+ }3 N来源：爱范儿 张成晨$ a$ e [1 B+ D1 [% P h' x" O. b
|
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19