|
上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。9 I% {' |, O) k/ q4 I
! ^7 Y/ F7 f9 W% M. i+ f3 @) B8 e: {
: ?7 I' a1 u% cAI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。5 r( C* X2 |- u% `, ^: }
' I/ @' V: M9 C我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。- U" b: l. ?( j
$ l" u0 p* d5 x, V+ ^9 V/ q; e8 ~
鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。
1 n/ H2 N+ p7 U) H8 u0 \/ W2 z5 x8 R' W8 G R+ }
从明星网红，到每个普通人( h9 L. X* q" \$ K. o
2 ] O; T* ~* ? o
2017 年兴起的色情 Deepfake 有续集了。, I% M5 `) {: X# G6 E O
E1 k0 f2 C" p3 L4 G
之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。
9 [$ | m! V- Z p- |$ o2 z" X
' R6 `- w+ S" e# d& AAI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。
$ ?; m# j+ r o' ?# ^* H( m
8 b) \# ~% x q* }+ a1 [「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。8 {" ~0 }3 ]3 |4 ^3 c: J
$ X9 s( a( l2 z7 w- k t* z0 C0 |3 `( @. k* v
在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。' e8 b( X: A$ y$ D6 w9 _
. X* e6 C5 ? w9 @. J, c0 z 付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容.
! H! B4 x& @, P% l+ A& u) m9 e! L. @0 ^, Q
不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。$ L& e" {5 S) A& n1 u1 W
! i( ]7 c1 z; P( S+ j
另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。
- x6 ^4 j3 [; m) G8 g$ y: e* T# R$ d+ R
好莱坞女星的 AI 模型，已经下载 1300 次. * g6 ~+ w8 F2 i: [: T2 v, W- A
{; E; {/ k8 c2 ]8 _
网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。
* A/ s0 _5 E0 B# }: |) Z9 h! U
$ G; r4 f `/ i; k0 t1 i9 W; {在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。
2 F" O: H$ ] g3 B, Y' _) G# l% m
3 p$ \9 h; p! ` 一个「擦边球」模型. K4 u- r5 p# S
! }* h Z! \1 }
色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。9 m9 ]; J! M K) N t3 Z' f% W6 Z
* S5 n0 i7 t* }7 R
有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。
( R+ a. }5 f1 e! \0 B- r: D+ z. ?6 z1 o, K
这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。2 G' k m6 {& t# K N; _. j
+ a" W5 I6 L* A' k( e0 m8 b3 }
之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造
( S- \! D/ w" g, l3 O5 h7 f1 D d
那么对于色图，谁成为了微调数据集呢？
1 j8 o/ b) r! I( Z4 j# b# z
* P2 t7 i0 \: \3 `/ D独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。
4 ~7 z2 F6 k- K7 s4 |1 b# m; S# l7 m3 p: ?3 i
9 r2 @$ L! f4 o# ^9 X, G
9 M9 @4 i4 k3 t* m, w
愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。
2 a: w5 x* C& o" P9 _- G+ p
9 P9 `3 Z; q6 Q! U/ I4 n- t* R- c倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。
/ x+ |5 L* {4 p7 O
: h8 R% u, V6 C) f" L德国电信广告部分截图，儿童照片可能会被用于制造成人内容. 7 Y% `1 }. j% z2 B
3 w# o2 l x* }% Z! J
这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。
0 L' R8 k. {! J" S& U& f
% M& e! A8 K. g4 A$ \9 K' b1 ?9 B, _# ~$ A根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。
" B5 w: q) l, E* j6 Y
7 [4 C6 H/ ?9 \
2 I) ?4 Q3 w6 O9 q, N# ]或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。% R5 u8 \7 \5 B( e4 C2 P( U8 g) N& }
4 k1 m+ k, H/ k2 Z3 k从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。
% z1 P7 N: K" P
, |% |; b, r O, S从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。
/ N7 n" q/ I |% @) p$ N1 f% g S- S4 {- {$ `( F' {7 y
TikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊. E) x# y4 J( I0 N
! m! U$ m0 u3 f4 ?, o& v, L现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。* b! c* |8 \' J0 \: M; [
" s/ g2 n$ }" T9 F某 AI 模型网站的生成速度，最多需要 1 分钟.
) R0 K) [! ^, y7 R, j* l. N" R f. U, x, [2 h# u& q
AI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。
/ h% N B: |1 R# X1 |7 _( Q, Y, Z& Q( d/ f
各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。* C4 y# Q( ~, h
# P8 P8 M, B9 u; U Z9 R, G可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。
3 k+ Y2 h- h# D$ t6 m% G2 Z
Q$ o* B4 q8 ~! T V3 Q5 t! v) Q是兴趣，更是交易9 I9 y& b+ k9 q& Q* R4 p
5 k6 m5 j% s/ a$ j5 a% C和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。+ ~5 A1 z5 b; z1 h2 a
5 s" R8 D2 z1 _' S' X) I
在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。
) V5 Q' d( u- e# N: _: k3 l0 l0 h9 K6 k
他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。* P$ @4 d) K7 u5 s. i
& Z4 v& a7 F: k; a8 [, dPatreon 的订阅界面.
7 i7 I/ u6 j4 I3 C& x3 f8 y/ B' |0 z& l# H) q8 b
任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。& |- I1 x% d5 t9 o. z3 T
8 x% ]! h! M8 z6 J+ s4 P( [1 W
一位 Fiverr 创作者的接活界面. " |( ?' d9 L; q* p
6 e1 ]$ M. Y' z; V `+ j" A
还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。
/ J- V, |! w Z0 Y) c: a# q
+ X2 X0 ^ c G& s U2 l- ^: z, R别说个体创作者了，平台同样赚得盆满钵满。
1 ^6 V9 E+ B5 y" s( F' C4 |3 Q9 t; Y! H. ?6 p9 _
有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。
+ O! {% E. L3 F
2 V8 l% V6 u$ f0 S( uAI 模型网站的打赏功能. |# f6 ~! s) g7 ^) P5 Q, h2 [
+ k2 Y1 O+ T! C3 H号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。* u# B' v: F4 b! B
3 Y8 p4 ^) Q! f! w5 ^3 M1 ^; J" r0 ~
有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。 z/ m7 x4 G+ D7 Y/ {; ?/ y
/ \' B" ~; p- S) V: y- j+ A然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。' S, z6 @7 e9 e& ?
0 T+ [) R: n# U- t- b; n0 C8 W5 U W3 Y
这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。- D0 Z. g9 j6 B I( S. }
( \* H4 k1 [; M) o( @
放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。( S2 k' P0 ?3 p# u1 Z
7 ?% u# g( r! c
3 J) c9 n# B3 q+ L ?1 f然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：- {. e$ _. i$ t( |! U q0 U7 G5 j
, c# i: N3 a- I* T
人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。
8 a. y, S! J2 w3 F3 [2 q0 A8 ]$ |* [# [6 |' U7 d* K$ e1 V5 X' f
AI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：
% ~+ T) g7 Z2 _% s U- }& v8 Q: v- [# K: E9 T% A M7 X
过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。 r& F, E+ X4 q
2 K6 Z/ ^- T2 l# Y3 i操作猛如虎，维权打地鼠+ ^: H! ?+ n6 S3 ? H ~ U
0 X; E7 C! M6 K. x! s6 ?作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。; J1 p# }) F) F$ u* t0 r1 E1 r
0 @* y, l" F4 ^5 |) m. W
撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。
0 A' p0 C* O1 ?* h
" `" ] N4 S4 P4 g4 `" N7 w2 H" n# b1 v; C
按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。
) a4 B5 N8 u8 A: ?+ E/ ?0 p+ C6 a; X! P2 F$ Y/ ^
不过，Google 也在改进排名系统，减少此类内容的出现。. j( Z/ X' r# P7 C4 W
) c3 v/ F# F! ~( }
Google 的服务条款. 3 D# E7 G/ \2 {7 Z; {" q, C; H
5 I& v7 V( }4 L7 `, t) ~: Q7 p1 U提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。
" b* W7 B3 r9 _! G4 K: ?9 S
6 D( x; ^$ m0 W1 O5 P6 c/ {6 v404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。; u& s$ n. S9 M
6 r; g! f, i& t% F: m
然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。
]6 ~3 c$ _$ w4 q) s6 k' U, L4 d, B8 ~. Z8 V- _
某 AI 模型网站的服务条款.
, t& k+ _- z4 j0 x5 \9 f- u5 k
. j8 Q6 y8 B/ G( C& N+ o/ p. J只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。
9 t; @* n7 A' T, Q% o' E6 `. @5 R! |9 F6 B
类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。! m5 |# n, W. C5 P' H: [3 ] u
2 ~% l6 a- j ^' \9 j* U
Discord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。2 v, w* t: @- T) N: m) ]* F
7 A/ ~, D( a8 m+ s4 [
Discord 的社区准则，上为原文下为翻译.
- ~6 \7 w6 d4 N0 d- k$ F3 U
5 [7 R# G; h" r: h) m6 X' H讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」6 n J* {' _! t
( q9 ?$ A/ L: v, w
甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。+ i4 V7 X" E9 z, ~
* W" S( {2 h! R& s! ]: q/ _/ U, f- Y好在几个更加主流的文生图工具，用技术为技术事先附加了制约。+ q3 f, s/ I9 Z1 ?& Y* P/ Q
, _. y! y7 R6 {' x/ |. @, S' X j# `2 H4 q3 o
OpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。
! t+ [( i" @: H6 M6 j$ C
; _* T1 z9 M* z. tMidjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。" x) i C3 D; f. \
+ B- v( G7 M5 _Stable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。8 y# t$ ~+ B4 }
, s7 t, S+ s6 y& e; u J尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。
2 I; n. h/ u, G, R8 i: N+ @0 e( k! f4 v4 H: b A! |5 ^) o, r
1 G3 z- u' O5 o' }7 g- v简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：7 ~7 o3 `7 m& I. @7 g" W
9 `7 O. o" h: L; ]1 Y# ]+ m
提供训练图像的内容社区；6 h; s2 A# v. I6 N
2 j. O/ {9 i* F' L* w- V生成色图的开源技术；
- o3 Y8 [ g& N1 A2 E9 Y
1 k5 T* z, H4 L3 u将 AI 模型和图片商业化的平台；
. N$ N( q, J |* H& @. D8 u: a. F \8 t9 w: h9 K- k
自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。' }4 d' N$ ^) x' y1 Z
2 k3 ~$ {2 {) f, S6 d8 h W
9 R1 C: i8 v: j8 c0 w6 Q很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。' h0 J* s/ x$ x3 C. F$ Y7 i3 m! q: G
9 m$ f4 U/ Q4 B就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。
; t0 U: J; |; ^ U! K- r T j6 z* ^! c9 P/ M
每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。( [* p- l* e* O7 P5 e! l% W0 h
1 `5 ]4 P6 c7 `
来源：爱范儿 张成晨
% v* g5 x, v O- x! ] |
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19