 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。
) H6 j2 \( v7 z7 l* \# f
, u( d( J/ k$ J P, f5 n; b( Z5 ^然而,当初人们对AI的各种担心,也在逐渐成为现实。
^8 y+ ]( a0 F) `9 k. |' E; K1 X9 B% s0 V' ?5 ] m/ W
近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!4 {5 K3 ]! J; R2 _0 Q b
/ s" \, x+ Z9 t+ O2 }' m
这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。& E1 ]- Y( a" g7 ?. b
) m5 S( {% `$ Y! }
/ }' ~# _9 x+ L5 l
2 Q+ k% t) Z! n0 l3 S2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。) g; o3 o* ?" [& i
, h. v6 U5 { p; }/ U6 g头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——
% Q" [1 D- J* S/ E( f: q
8 z$ T5 V) l) ?' K9 A# u0 r' n大学里来来往往的人是假的,看到的摸到的全是虚拟的。7 i5 K7 p& q& o$ {
( f9 ]; W% E; a
朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。 N1 j2 ^& ?# v0 I- ?( Y- \% W/ H
& A- y6 I9 k4 g, s! b$ y, n
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
% r* g* k* J% i9 f4 _1 q, M! |+ I8 u; p! N/ k
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”( T4 q" o* f3 A3 ]
2 d/ h% x1 W4 K0 F
一听这句话,都有一股AI的味道了..., s U$ H9 z W1 ?- _0 c
3 L, L7 A& O( Z; b
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。/ K( P. a Y+ t9 |" E
; Z- A( l% {7 w% I; ]
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”1 X) F; a' n3 s$ ^) h9 ~3 J
* T, w# j, |% P谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
6 E7 h$ ]- Y# o' t" E% o
, O# Y: c0 q9 C; C2 M% O2 @他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。$ ~. o I. k! N7 s8 h" @
/ R7 B8 j+ h0 u! p8 g
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
H$ |& @( y) r/ J: j7 |/ E* B" W1 E0 I$ k2 o
) l7 G, F' y9 }& H' K) W
$ ?: f# G1 |$ k. k& j$ ?: U7 ?8 B2 K
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。
+ k5 `6 F2 \6 g1 \+ J& k
) M3 F1 d5 Y1 P" p! k# u8 b7 n. rBC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
$ \* N [ D4 ?( j; o3 a; L% M! C, [9 t6 U# Y8 d, u& F
这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。3 z6 b% f1 o* c* l8 u+ j$ {$ c
: n0 j B/ K' b9 j截至目前,这个小组已经有超过125人,大家成员来自各行各业。
# q3 `9 N7 d6 K- b
/ _) B9 m- i4 K9 f4 e n% D, R今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。: D* f. m3 X( ?( g
0 _, z9 V8 L/ e6 j4 a5 F( S2 t
麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|