上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。" { m* F: U( Q
6 n5 M' n0 d _1 m) Q
% o* K* B n. e7 Q$ B0 C9 J- ^AI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。
3 s; ?) u' {" q; f0 J6 w: U* ?/ t! y. A8 t$ @4 S
我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。
5 ]: ?( \5 [: Y& N6 J0 g8 e' F3 Y: ]
鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。$ W3 z0 }5 r& @# V" n
: i' P! Y6 K+ p9 j6 c) z从明星网红，到每个普通人: I3 p3 e- K- R1 T1 |9 h7 J2 j
) z% R9 s3 @7 p( u/ g& ~
2017 年兴起的色情 Deepfake 有续集了。& D+ | g% L- a, R: D! r$ E$ c, G: r
+ H- L+ l# \. i8 p0 p# N1 Q
之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。
9 c) e2 j2 x4 }* o' l8 E8 s" y
5 ~' s- k: L5 s7 M W, zAI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。# d. l: W% Z, @( T- p) q* [
+ S. ]9 p! H0 C: y# ^「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。7 G* M, E) F3 u. D, W
q0 x f% A2 V: B
" g6 w* `( g H( D h, U在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。: Z( R- S ?1 s& Y8 m D
" m2 c$ Q( X r+ H
付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容.
9 `0 `1 ]0 {' V1 u
2 v9 n, C# D, i" j" h9 c# X/ \0 ^: ^$ D/ _不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。8 S. A( \2 K1 L/ W" @" z& S0 B {
6 B7 @- w% q% S J' o另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。# ?/ {; T4 H( T& t
. t# l4 }1 ]) _1 S好莱坞女星的 AI 模型，已经下载 1300 次. * A" S9 ]0 p8 V! n
- E m" {0 A9 h5 T, p0 \9 J" e9 H
网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。
1 b7 b) z/ K" R- R5 f J
/ f8 ^ \& X, Y, v8 S7 o5 a& R在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。
7 f+ }% E3 M; _
2 W8 r( a1 _) f' ]8 | 一个「擦边球」模型. 6 Z" M. \6 }1 {0 h
4 f& l7 O9 ^! X3 \% k色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。
4 L6 {, D4 T) N" }+ d7 p) ~
9 O! U- K: s, H* M有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。1 Y3 M- j! m3 I6 \
2 z, j' q2 R7 F! ]+ {( s9 ~
这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。! ~- O0 z1 W5 p+ s; G
: ?/ l8 J# B# Z之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造
7 o3 G: h2 t" p/ }) z
& I2 P0 c0 w, O' w# Y5 |" w. u那么对于色图，谁成为了微调数据集呢？
7 F% w0 s5 e; Z
+ x" a5 t3 `( T2 O/ ?' A独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。1 S e3 v/ Y% s% l0 Y1 d
, H2 b1 `: E) y
1 e6 U( j6 G7 V/ j' T; ?: J5 O! q6 i b0 l& k
愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。0 G, p& w" j! ^2 G* x
0 [0 p. W8 Z6 [" s5 ^* j
倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。
9 A* d) N1 [' X. W3 m: s; N h2 {$ J
德国电信广告部分截图，儿童照片可能会被用于制造成人内容. ' z# F- d7 T1 p5 U6 X. o
* r+ ?; l9 _: G8 \) s; j# t
这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。
* d8 u7 }3 g2 [" @ v( P/ X4 f8 l& Q! D! Q, A3 J4 x
根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。
' P9 N- L! O" U/ Y* H1 R
, Q4 \8 Z+ R# }* O6 G5 J' }, I. t6 ]! C# k) m
或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。' L: G. Z6 ]: o. o0 l$ N
1 B- ?! }0 t) B y; L6 z/ g4 ?从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。7 W" i0 g! z2 i2 t
" b, Y) p' S: o5 v! m+ @# v从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。9 g" c9 Z9 h; B V
; I$ u* `5 O+ R8 f
TikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊.
; ?% e, z2 V8 J
; j7 X) L+ e4 k( e5 Q j现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。
. i4 M* @- X1 X8 ^2 Q
* M; d8 v2 ]! k" M( p某 AI 模型网站的生成速度，最多需要 1 分钟.
5 h9 d% F- w" D0 ?
( ^: |" j* ~* r' B0 a- g% I% I3 t4 ?3 ]AI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。/ p% u% c( u* a5 B9 E$ A
1 ?4 I7 x' ]$ ^3 [4 Y各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。% x0 ^! |7 d6 H, o8 V
1 P' r$ y. J2 I# I8 k可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。5 o7 Q7 C* p9 k$ q5 t
' f! M7 h7 y w3 Y
是兴趣，更是交易9 W1 @# @2 t9 j0 t
; y& Q0 P! n& N. e% v/ k
和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。
2 H5 M1 \& k7 e0 m
# g* F* J/ F8 f在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。# U" T0 t" K. L9 I7 ]4 R1 w' ^
8 U+ M9 d; ]7 l他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。. ~0 b [, {9 ? T3 ^ }4 L
2 E" J" M# G8 l% {, z# D3 O" Z7 D4 Z
Patreon 的订阅界面.
* H' ^# ?6 ~# e$ \0 s- P! E
) ]: n( l" Q$ d9 V o. H' c: z任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。
6 a& M; L$ l0 M+ ^6 `
2 i% N0 ^8 T8 L0 Z一位 Fiverr 创作者的接活界面. 3 p8 x( K6 E1 V) v" }4 H3 @$ R
, Z% R4 E5 |7 o8 F还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。
& U% L/ D/ A) Q' q( W1 h2 l0 O! a0 B
别说个体创作者了，平台同样赚得盆满钵满。, s) X+ K$ k4 q0 W( x: B5 \
+ ^- T1 W% s7 W
有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。7 Z0 e) v0 f7 @
+ ]9 G- u: F; u" z5 z+ `
AI 模型网站的打赏功能. ' V( i6 K) r( N. W# J
' [' G7 r" c' e号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。
5 e; y2 ]8 E$ ^
' s _8 @- G' c0 I- P9 P有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。- j0 V& f: m) T! D9 Q
! ^' R W Y2 d; L9 `$ g! A然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。
: L& [! m; k/ Y
$ A$ F# Z+ E- P7 M) ?! q9 g3 Y* ?
这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。
* ^' D! e4 e6 ]0 F1 e& h9 M u6 d5 ~
放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。9 J& u2 S' P$ E+ @+ [9 t) i
3 t5 }% g3 L. J( o$ ]
1 e1 a$ G8 N1 w* R0 w然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：
+ n/ e; I* N. }7 r$ k9 X8 x! ~; C; X4 F+ T
人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。
4 [! q' r, f& u+ L* }# ~% q% W( `
9 [7 C1 e3 D" @* V6 VAI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：
' f4 O! c0 ~$ X$ a4 K# E/ c. Z% ^5 R3 T( @' R: E
过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。
. E5 F. j: Z% b. b+ G7 v. H: O! d# @
操作猛如虎，维权打地鼠- ^7 H( W# u( g' F% o, v* R. K
, C5 I7 c( @. Q& I9 r5 n; j作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。8 q( k5 }+ I! D0 W6 n( b1 a+ c) E( x7 K
! P, p6 |! }' N- Z9 ^3 ~/ [
撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。, R8 W# R4 h! }: l* a* n$ w
( C6 Z) D5 U8 a; v1 u
9 t0 h& h8 j9 Y, R, M4 R按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。5 f# Y% ?& C5 ]) [- J! v/ W
! d) ^% j* x) Z$ F* f( N+ c X不过，Google 也在改进排名系统，减少此类内容的出现。5 ]( C C; U2 F( p z
+ C! a, P" a* \8 I6 M! `# a; CGoogle 的服务条款.
6 R4 V8 T: |( N) N8 _% z5 Y; m# G: h A( M/ g2 c/ e
提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。$ K! L. ^2 K' o3 w& E3 x8 F6 l
% [6 ^5 G4 h( B7 i
404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。0 t D, O- Y! ?* `1 E% y
) a1 H3 Y( X0 i6 b# W9 q' d然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。5 E; W" B4 C* |& O" F W
7 ~8 z$ U6 {: Y1 m( y某 AI 模型网站的服务条款.
; z% p. v6 @0 z! f0 _! ?+ M: T+ M
只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。$ A5 A% J( Q# g% u4 f
* I3 f3 p5 G1 @- Z: N) d类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。
. O. [9 ?9 f$ `+ M4 z" R/ e- t4 i& z/ q$ X e% T T
Discord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。+ S, p( u, c, `! x; w
8 H, E& h0 [8 k$ p0 }
Discord 的社区准则，上为原文下为翻译.
8 H; j2 |2 x- x1 v0 S" Y- s8 D2 p( B2 @# Z( J" [
讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」( U7 L6 ^) W9 e$ b3 B$ E" d/ K
+ E3 j- ~9 A% u2 r
甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。
% z* N K9 L# ~! l9 l7 C) L3 l9 B; E# B
好在几个更加主流的文生图工具，用技术为技术事先附加了制约。0 R- g% u f' ~1 x$ b! q
" U, h# I# M9 ^1 x( o* |+ W2 b6 d/ }2 c( z& O
OpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。8 \" k, \9 \% J. s; X- C6 j
; E' X$ H- ~5 N" F. J# VMidjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。* k; Q9 _! y3 A; J4 w5 V: g, e$ n
8 z* p$ z; J; D( [: CStable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。
+ ]; M- y* B0 V" j& A, b
0 z# K% F4 Z! @尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。
7 a1 p( D3 j5 O; a& J
5 q/ O$ W0 K- v9 B l' |% h$ U& j% [ `$ L6 n9 M0 P
简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：+ M3 }7 w$ E; `/ j2 P
8 @9 Q0 f- L# p$ ?. m* t! n提供训练图像的内容社区；
# o: |! ]- Y. P( @0 J+ N3 S3 z7 M/ d: A, f0 n- u
生成色图的开源技术；9 z; c" j2 I0 O- ?3 C
3 c4 C9 L. X. N/ Y' B; h将 AI 模型和图片商业化的平台；
% I; Q% M2 O' D- R
+ E, H* g7 o8 R& h. L9 {自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。
4 N5 M& r% A# U7 J6 B' A8 P0 c1 z! k9 ]
9 u/ \3 i& h: z0 }2 D" c6 A: j很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。3 I) a9 j8 m) N: ` t. j8 I+ h
6 e3 o+ |' Q0 q# d2 @9 I
就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。
2 X W; c$ c! ]* }* x' O0 P7 w
" o0 n7 o! Q I( V每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。0 w1 S& \% M4 ]$ X* I
. o" {( d& ~) k( W! Z; r来源：爱范儿 张成晨3 I* d2 E# I9 T; w, `# D! Y
|
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19