|
上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。
( [+ C$ o5 G& Y" n% L1 X# O/ k2 Q
' [; s, Z: k4 A! \* e) l, W9 v& M! ^/ ` p* s% n4 W0 U- G1 b
AI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。
$ U* F) b6 j# ]# D0 }( y' r7 \2 q5 k* U
我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。
& x6 ]( `- s! A6 U6 a$ f* R/ a8 j# D- k% T9 }- b" o
鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。/ e1 }1 z$ u" I6 c8 B0 O" h+ e
' v6 O9 `" N. c% b
从明星网红，到每个普通人% w' \! Y3 c% n* @
; D; C) Q% V! d5 L$ d2 z
2017 年兴起的色情 Deepfake 有续集了。; u9 M6 r; G) |% f4 V1 N1 V
7 }/ X" |6 `( F4 Y8 x
之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。2 A" d, I; V% ~1 n
5 i& O4 N: M, b7 l% U# y5 z
AI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。6 G1 r. N3 A7 d$ U3 ]( R
, o- k: l8 l* R3 {1 \7 V
「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。: D0 H& p* k- o$ T' D
$ a4 G, W2 o3 ^2 B/ R6 t. g# b& i! A' }
在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。- ]0 E% A9 X% K& y6 t F
4 X9 Z1 C0 l/ X, w+ k
付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容.
$ x# i) d! I/ u) z3 }" ^4 R: d
4 }3 h/ Z* V; ? r- v不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。
* B. v, _( r! \/ o$ e; m. H% ~0 o% ^8 d& L* a: h
另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。
( J8 f; a1 D- d& L) \
9 R4 B& Q: U" @' w1 S; B9 f3 j5 M7 A好莱坞女星的 AI 模型，已经下载 1300 次. \2 Y( ~; E/ y$ Y
! Z2 {) {& L( k0 S& C
网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。) x$ p+ d2 g+ V1 T' M' R
4 F, u. \$ T4 O4 N在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。
& O3 b' V4 `) r
1 G% ]: t: s5 R; l 一个「擦边球」模型. - M1 D1 o; G' a. I' i# C
: ~( F5 u1 t; V: G+ T( Q色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。
8 c% Z; l+ V& \' \7 ~( Q- s- ?5 @7 r1 _1 C3 O3 t5 G- q) N/ w7 L' @
有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。
# R g+ Z4 Q A- d' D
/ X3 r) j. k2 ~8 v7 f8 |这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。% A8 A5 B) t) b
/ b$ `, G9 {: x4 U
之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造
- ?, H$ M0 {; r# G1 Y
F/ P7 H; s. }) [$ A+ d那么对于色图，谁成为了微调数据集呢？! Y* z" w) c0 P' D: _: |
! U2 B7 b% O- E- k4 U1 q独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。
& B& e1 G! |# Y: Y1 U
' |& `+ S' ~ K( ?% n' a3 y3 P; s; j9 U2 c) k
9 w K/ @. T: S) X [! X7 E愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。
4 f/ t! Y4 N6 m! S- ^3 V) a+ q6 \/ F
5 t M' X8 j+ G1 O! P7 N* |倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。+ f/ x2 S& h! o" a. T y/ y+ M: v
! p/ E8 j$ A# I; {8 O6 y) N O, X德国电信广告部分截图，儿童照片可能会被用于制造成人内容.
5 Q* q" K. E& n4 k) N2 x7 l `: J9 H2 i+ Z0 V; N5 h
这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。' K* l5 S6 W3 K6 P/ y& j
/ N% Y2 o, t/ ]/ s9 e根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。( z- t @( Z! v3 D$ L, B8 a
, t/ h/ X$ b" K: Z; f. Y, u
) G! r: Y6 F" w1 w) D. g8 V" L/ I+ z或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。; E$ U! k- L* Z5 {8 w5 _& E
% o6 S( B$ f1 n }2 u) v! n从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。
0 g b5 o8 Z4 Q5 x( U- v+ u
- O+ w/ P6 Q- `8 D. y, B! ]从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。# l7 g: D" I/ }2 @6 L' L
X$ u! Z4 g* oTikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊.
8 B" \- u" m5 |; Q' ^5 M
/ ^ n7 A) |6 k& _. k3 P现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。' q3 a9 m0 T2 m
( s3 [$ R; d) o O \/ f9 r5 z& Q; f某 AI 模型网站的生成速度，最多需要 1 分钟.
# V" `* j+ t' U
$ u' C! D' k" a0 a6 f2 \AI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。
; T4 j9 O9 t) Q" N7 b8 ?3 S) m* y
各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。
3 q" {& S( k# A% c$ N& W U! \) _/ `+ _& I- b2 W2 \! o. H `
可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。- |* }0 B3 U& a- U% w. @5 [% T
& r& r2 v6 v) g! k8 a: V6 V9 A是兴趣，更是交易
# y5 ]2 ^: T+ ]. ^1 \. L8 Z( o: |# M- ?1 @0 ~
和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。# N A$ \2 z6 {0 P( ~
! }: r1 I. C8 d6 w5 N在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。0 g+ {+ t- H3 x$ y! e4 S' O. t
% }7 c+ N! O# `6 J9 n他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。
9 v! {& D1 Y( L! v9 |/ d+ E7 r! q4 @+ E, [' P8 x
Patreon 的订阅界面. ; ^5 ]/ Q. Y& y, z$ ]- z% P
- F1 i) H6 ]. u9 Q/ N( Z+ V
任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。
% A2 M2 U1 ?- @- Y, \
! T: d8 n$ d5 ]2 m s一位 Fiverr 创作者的接活界面. 1 ~* }" s# S- G0 k! j# ~( T* o
& r7 i1 \4 f. Z) |7 ?) |还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。
& ], ~0 I1 q5 p; e: {4 I" N
% u( u% t! c; s4 D9 C* y别说个体创作者了，平台同样赚得盆满钵满。
" k/ E# `+ \5 Z7 {$ z. v8 O6 z* d- d N: @. N3 ^4 l. \
有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。
. P1 l* S8 z8 d/ o9 b- b y; M2 Y+ E- Y' h" E
AI 模型网站的打赏功能.
% N J! j* R- d% p5 X- _ Q, Y4 r. ?/ C+ w
号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。6 u2 ~# T6 r) A
6 Y$ u* u( p6 U1 N P, M6 r
有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。" B1 O: a; g- @2 D& Y
8 v0 o) ?& G, ~- u4 ?2 I
然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。" b: y0 B- a9 R. }$ u4 S
# W( T1 A: g" f/ g; p/ M3 L" a
9 t8 C0 i& P6 p7 J2 s2 i1 D- |( M这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。
/ o. o7 d @1 J! Q! ]' S; q3 z& T0 j/ n6 \
放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。
+ a x( ]/ N: C) `9 F
" a5 u5 U0 a' L& e/ q- D
5 v$ y2 o# z- ?. \然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：
4 J9 |) u5 F- {: v, f, @4 x F( ?! B3 h8 ?. D- n& q1 _8 @ ?" m4 T0 L
人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。
4 I% r K8 ]/ z# D7 {; D
( t2 b5 }5 l9 A( I' TAI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：
! e* S8 o" h8 y+ f5 w5 k7 Z1 T4 O9 i9 c
过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。
, }% p1 H. k- y! L3 i+ ]3 v l Q7 P' a- W
操作猛如虎，维权打地鼠 p5 B8 C# B$ D( A2 S
% B9 u3 r4 k4 U4 H
作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。# M! [; O- s" `) A# W8 n" g' |
5 \, G9 i7 w, L- t S$ ` X
撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。
" {# L" o0 R6 o/ D5 V6 i! C- R* B. _" s/ Z: t8 u0 O
' Q. r4 X3 D; h8 a) X1 p6 g' `按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。5 }/ s9 K0 d9 q/ ] G
5 B' H/ K. m( B4 n6 G) M1 S不过，Google 也在改进排名系统，减少此类内容的出现。8 [/ H2 p1 u4 l
2 f. F/ s! e" Z/ G5 K. S/ D
Google 的服务条款.
% q% P: M& W( F$ Y1 T% N* X5 s$ ~/ Y U
提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。6 G- u6 v! }2 @, c
8 y3 L3 B2 R/ v% N
404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。( i7 y6 G4 n& b) h. ^$ {6 A) }
* o% |" }; w- c K& f( Z! t; W7 o
然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。
3 i, U' e+ o+ O$ a5 P
4 j: A, z1 s* z( d6 B2 P某 AI 模型网站的服务条款. , S: }% r- [1 x7 a b% {
; l5 ^- }* |% H" p/ G0 x只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。! P: g7 p, y! R( C' B
7 v0 `6 A3 i5 m7 W: V
类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。2 y7 b' g: l9 |" }5 _& ]
x8 ?& l- s8 E# Z6 B
Discord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。
! g- i& d. y0 I: T+ d2 r
6 m V P4 c! w# k. {Discord 的社区准则，上为原文下为翻译.
0 g" ~5 N9 r" j2 N' j# g" s/ V* l5 K S, D
讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」1 N7 L) D+ k3 X. E
) Z0 L5 m6 \: [& d
甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。
) W3 F) l4 s3 q* }" d# x
0 h z: L( U& q b* ~( q好在几个更加主流的文生图工具，用技术为技术事先附加了制约。4 H3 D$ R( C* L$ }6 T3 R
* y2 J3 P: A* D) O/ `3 v: R- k9 ?( X) C9 r& L" `: A# z
OpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。
. F2 g; J. P- ? b9 a) U. |8 t* ]
3 {# g9 C8 ~1 DMidjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。% _7 h! v5 b6 P d2 G
; F, g( h' e! s( k6 B, D- }: U+ T9 x
Stable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。
& M; j% \: F4 ~5 z3 F, w8 h/ U. ^6 D N, B7 v
尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。
1 L9 X+ [, n% b+ u4 }# X f* H- _/ S5 ?' n" q h( b
9 m7 u4 l0 P) r& a简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：4 N; N7 x$ ~' `2 w2 ~* \
- ?0 R) a7 W: q
提供训练图像的内容社区；
8 G+ M7 _; L J
( E% `5 ~7 U& o' H& [$ B% ?生成色图的开源技术；$ t/ p! B8 T) G6 ]0 g/ J
( M% H/ z1 S1 S* d4 P2 y
将 AI 模型和图片商业化的平台；- c9 N5 ^& ^ X
2 X% b/ X u! p ^
自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。* `) x* p6 X% I6 c0 Q
% R' d- @1 V8 B8 i* }
6 f) U% H( o1 _" K
很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。3 {$ n+ c" }2 M0 _, q
L+ s8 B8 v& R
就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。+ v7 J" D0 [ g, U( X; k, _" _
M7 I$ y% h) d. M J每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。
" z8 u( w( E, s9 s7 h7 d
- Y( ~, i7 j0 Q1 N" b' n* ^* Q来源：爱范儿 张成晨/ _8 S, j* E" m) N6 T" ~. G
|
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19